阿里云宣布通義千問(wèn)720億參數(shù)模型開(kāi)源

今日,阿里云宣布開(kāi)源通義千問(wèn) 720 億參數(shù)模型 Qwen-72B、18 億參數(shù)模型 Qwen-1.8B 及音頻大模型 Qwen-Audio,目前已上線阿里魔搭社區(qū)。

阿里云宣布通義千問(wèn)720億參數(shù)模型開(kāi)源

今日,阿里云宣布開(kāi)源通義千問(wèn) 720 億參數(shù)模型 Qwen-72B、18 億參數(shù)模型 Qwen-1.8B 及音頻大模型 Qwen-Audio,目前已上線阿里魔搭社區(qū)。

本次開(kāi)源的模型中除預(yù)訓(xùn)練模型外,還同步推出了對(duì)應(yīng)的對(duì)話模型,面向 72B、1.8B 對(duì)話模型提供了 4bit / 8bit 量化版模型,便于開(kāi)發(fā)者們推理訓(xùn)練。

阿里云此前已經(jīng)開(kāi)源了 70 億參數(shù)模型 Qwen-7B 以及 140 億參數(shù)模型 Qwen-14B。

據(jù)介紹,Qwen-72B 搭載了強(qiáng)大的系統(tǒng)指令(System Prompt)能力,用戶只用一句提示詞就可定制自己的 AI 助手,要求大模型扮演某個(gè)角色,或者執(zhí)行特定的回復(fù)任務(wù)。

官方表示,Qwen-72B 在 10 個(gè)權(quán)威基準(zhǔn)測(cè)評(píng)創(chuàng)下開(kāi)源模型最優(yōu)成績(jī),成為業(yè)界最強(qiáng)開(kāi)源大模型,性能超越開(kāi)源標(biāo)桿 Llama 2-70B 和大部分商用閉源模型。

未來(lái),企業(yè)級(jí)、科研級(jí)的高性能應(yīng)用,也有了開(kāi)源大模型這一選項(xiàng)。通義千問(wèn)還開(kāi)源了 18 億參數(shù)模型 Qwen-1.8B 和音頻大模型 Qwen-Audio。

至此,通義千問(wèn)共開(kāi)源 18 億、70 億、140 億、720 億參數(shù)的 4 款大語(yǔ)言模型,以及視覺(jué)理解、音頻理解兩款多模態(tài)大模型,實(shí)現(xiàn)“全尺寸、全模態(tài)”開(kāi)源。

本文來(lái)自投稿,不代表科技訊立場(chǎng),如若轉(zhuǎn)載,請(qǐng)注明出處:http://2079x.cn/article/601146.html

秋秋的頭像秋秋管理團(tuán)隊(duì)

相關(guān)推薦

發(fā)表回復(fù)

登錄后才能評(píng)論