8 月 16 日消息，由開(kāi)源中國(guó)與上海浦東軟件園聯(lián)合舉辦的全球開(kāi)源技術(shù)峰會(huì)（GOTC2024）在上海舉行。華為數(shù)據(jù)存儲(chǔ)軟件首席專(zhuān)家張群輝分享了 ModelEngine 在垂域大模型領(lǐng)域的應(yīng)用實(shí)踐。
據(jù)張群輝介紹，ModelEngine 是華為 DCS（Data Center Stack）全棧的 AI 訓(xùn)推全流程工具鏈，業(yè)界首個(gè)采用 AI 流式編程框架，提供從數(shù)據(jù)處理、知識(shí)生成，到模型微調(diào)和部署，以及 RAG 應(yīng)用開(kāi)發(fā)、應(yīng)用部署，為數(shù)據(jù)處理工程師、模型工程師、應(yīng)用開(kāi)發(fā)者提供開(kāi)箱即用的全流程 AI 開(kāi)發(fā)體驗(yàn)。
張群輝在演講中稱(chēng)，基于 ModelEngine 開(kāi)放的數(shù)據(jù)使能、模型使能和應(yīng)用使能工具鏈，支持使用開(kāi)放的數(shù)據(jù)處理算子、主流的模型和開(kāi)放的應(yīng)用算子，語(yǔ)料生成時(shí)間從月縮短到天。面向開(kāi)發(fā)者提供一站式 AI 應(yīng)用開(kāi)發(fā)、評(píng)估優(yōu)化和部署，幫助快速構(gòu)建 AI 應(yīng)用，支持 LangChain、LlamaIndex 等插件，保護(hù)已有 AI 資產(chǎn)。
原創(chuàng)文章，作者：潮玩君，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/674224.html
