近日， Gartner發(fā)布了2023年《中國分析平臺市場指南》（Market Guide for Analytics Platforms, China, August 2023）。在這份市場指南中，星環(huán)科技憑借其智能分析工具Sophon Base入選代表廠商。值得一提的是，自Gartner2022年首次發(fā)布《中國分析平臺市場指南》以來，星環(huán)科技已經(jīng)作為代表廠商，連續(xù)兩年入選該份報告。
Gartner在指南中指出，“隨著中國對數(shù)字經(jīng)濟發(fā)展的重視，中國的分析平臺市場正受到前所未有的關(guān)注?！睋?jù)Gartner預測，“2023年中國的分析平臺市場增長率高達19%，到2026年將達到23%，總體增長率和增幅在很大程度上超過全球平均水平和其他經(jīng)濟體?！倍治鲩T戶、增強功能和大型語言模型（LLM）驅(qū)動的生成式人工智能等技術(shù)，都將為整個市場帶來新的活力。根據(jù)Gartner報告數(shù)據(jù)顯示：“截至2024年，中國的供應商預計將擁有中國79%的市場份額，這相當于從非中國的供應商轉(zhuǎn)移2200萬美元到中國的供應商。”我們不難推算得出，截至2024年中國分析和BI平臺的整體市場總量將超過2700萬美元。
Sophon 3.2 “六易三倉兩中心”架構(gòu)，實現(xiàn)新一代AI平民化
作為連續(xù)入選Gartner中國分析平臺市場指南的代表廠商，星環(huán)科技Sophon針對目前各行業(yè)用戶在落地廣泛業(yè)務需求分析、處理多重數(shù)據(jù)模態(tài)對接、跟進高度定制場景問題解決、運營多源多框架AI模型等方面的問題，發(fā)布了“六易三倉兩中心”架構(gòu)的3.2版本，從高質(zhì)量的數(shù)據(jù)資產(chǎn)沉淀和模型持續(xù)運營出發(fā)，貫徹以數(shù)據(jù)和模型為中心，讓用戶能夠基于自身需求構(gòu)建緊密貼合其業(yè)務場景的新一代AI應用。
Sophon v3.2架構(gòu)圖
“六易”：Sophon 3.2從用戶需求出發(fā)，對數(shù)據(jù)接入獲取、模型構(gòu)建訓練、模型運維管理、模型發(fā)布迭代等AI應用全生命周期的流程做了打通和優(yōu)化，全面降低了AI使用門檻：
樣本“易”管理：提供可處理多模態(tài)數(shù)據(jù)的樣本倉庫，支持數(shù)據(jù)標注和審核；
場景“易”開發(fā)：支持可視化、編程式、流程式建模服務以及內(nèi)置的圖計算、時序計算及ML算法庫，讓建模場景易搭建；
模型“易”獲得：提供模型倉庫，統(tǒng)一納管多源模型，并進行靜態(tài)評估；
模型“易”管理：提供模型運營及可解釋模塊，支持統(tǒng)一部署、監(jiān)控、評估，全面掌握模型運行狀態(tài)；
效果“易”迭代：提供可視化配置模型迭代Pipeline流程，實現(xiàn)持續(xù)訓練、集成和部署。
系統(tǒng)“易”運維：支持X64/ARM等架構(gòu)，GPU/NPU等加速硬件，多種操作系統(tǒng)和主流分布式機器學習計算框架、計算/存儲資源管理和統(tǒng)一調(diào)度，讓系統(tǒng)更加易用。
“三倉”：圍繞數(shù)據(jù)開發(fā)全流程，Sophon 3.2以數(shù)據(jù)流視角分別建設(shè)“樣本倉庫、模型倉庫和應用倉庫”，實現(xiàn)全流程、多模態(tài)數(shù)據(jù)的統(tǒng)一納管。
樣本倉庫：精細化的數(shù)據(jù)管理和高質(zhì)量的多模態(tài)數(shù)據(jù)輸出，推動高質(zhì)量模型迭代；
模型倉庫：統(tǒng)一管理多源模型，便于模型開發(fā)與應用人員找到最適合業(yè)務場景的模型，組裝輸出高質(zhì)量模型服務；
應用倉庫：內(nèi)置代碼生成、領(lǐng)域知識問答、營銷、風控、圖譜風險探查、圖像檢索、內(nèi)容安全檢測等多種場景，以低代碼方式快速構(gòu)建符合業(yè)務需求的實際應用。
Sophon應用倉庫場景模板
生成式AI，讓大數(shù)據(jù)分析更智能
為更好地激發(fā)AI模型資產(chǎn)價值，Sophon 3.2發(fā)布的Sophon LLMOps大語言模型運營平臺，提供大模型的微調(diào)及運維工具鏈，可幫助企業(yè)用戶快速開發(fā)構(gòu)建領(lǐng)域大模型應用。同時，使用Sophon LLMOps進行指令開發(fā)和模型微調(diào)、對齊，星環(huán)科技開發(fā)出了最新的大數(shù)據(jù)分析大模型SoLar求索，可以基于自然語言進行SQL、Python和Cypher的快速轉(zhuǎn)化，讓業(yè)務人員在不需要學習和掌握數(shù)據(jù)庫編程語言的前提下自由地按需查詢數(shù)據(jù)。
Sophon LLMOps架構(gòu)圖
大數(shù)據(jù)分析大模型SoLar求索的NL2SQL功能
在智能領(lǐng)域知識問答系統(tǒng)的落地實踐中，Sophon LLMOps結(jié)合向量數(shù)據(jù)庫Hippo的解決方案，可以實現(xiàn)專業(yè)領(lǐng)域的智能問答系統(tǒng)構(gòu)建，解決了傳統(tǒng)問答系統(tǒng)中的行業(yè)屬性、知識分散和更新滯后等問題，并且可以大大降低開發(fā)投入和運維成本，讓企業(yè)獲取知識的過程變得更加簡單高效、獲取的內(nèi)容變得精簡可追溯、知識的更新變得更加即時。
星環(huán)大模型運營平臺Sophon LLMOps應用鏈
案例：Sophon為大型金融機構(gòu)構(gòu)建模型運營管理平臺
某大型金融機構(gòu)希望將各業(yè)務部門開發(fā)的機器學習/深度學習模型和大模型，都作為企業(yè)的AI資產(chǎn)，進行沉淀和集成管理，并且以天為單位進行模型訓練、更新及迭代，實現(xiàn)模型全生命周期的自動化流程，包括CT/CI/CD。此外，需要官網(wǎng)的智能客服業(yè)務接入大模型應用，以提升企業(yè)的智能化運營能力。
針對該金融機構(gòu)的AI資產(chǎn)沉淀、自動化流程及LLM應用等需求，Sophon結(jié)合“三倉”和最新發(fā)布的LLMOps，為其搭建了企業(yè)級的模型統(tǒng)一運營管理平臺，實現(xiàn)了金融機構(gòu)的AI資產(chǎn)集成管理及對外發(fā)布、細粒度的資源隔離和權(quán)限管控、穩(wěn)健快速的模型自動化服務流程及大模型的私有化部署和推理加速。項目成果如下：
1、AI資產(chǎn)管理：統(tǒng)一接入多個部門數(shù)十個業(yè)務場景的模型應用，同時對外提供API服務；
2、資源隔離和權(quán)限管控：通過集群資源劃分及GPU分組等功能，實現(xiàn)了訓練、推理資源的隔離，確保各部門之間的數(shù)據(jù)和計算資源互不干擾。另一方面，通過細粒度的權(quán)限控制，確保只有授權(quán)人員能夠訪問相關(guān)資源；
3、減少80%的人工操作：支持使用回流數(shù)據(jù)持續(xù)迭代模型，然后作為新增版本集成至模型倉庫，最終自動部署為模型服務，實現(xiàn)全流程自動更新；大幅縮短模型開發(fā)與迭代的時間，并確保在高頻迭代中模型服務的穩(wěn)定性和性能；
4、大模型能力：支持20+開源及非開源的大模型私有化部署，支持多種推理模型（streaming/非streaming），支持多種推理加速框架（Triton）。
在數(shù)字經(jīng)濟時代，星環(huán)科技將始終致力于大數(shù)據(jù)、人工智能領(lǐng)域的產(chǎn)品研發(fā)和技術(shù)創(chuàng)新，通過前沿的大數(shù)據(jù)分析技術(shù)助力數(shù)據(jù)要素價值的迸發(fā)，為企業(yè)構(gòu)建智能化應用和數(shù)字化轉(zhuǎn)型持續(xù)提供堅實的技術(shù)支持。
原創(chuàng)文章，作者：陳晨，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/595992.html
