豆包大模型降價后,有公司日均tokens兩個月內(nèi)增長357倍

8月21日,火山引擎總裁譚待在2024火山引擎AI創(chuàng)新巡展(上海站)演講時表示,有創(chuàng)業(yè)公司在兩個月內(nèi),日均調(diào)用豆包大模型的tokens數(shù)量增長了357倍,為其業(yè)務(wù)帶來了快速增長。

在今年5月15日舉辦的火山引擎原動力大會上,字節(jié)跳動正式發(fā)布“豆包大模型”,同時還宣布其在企業(yè)市場的定價只有0.0008元/千Tokens,0.8厘即可處理1500多個漢字,比行業(yè)便宜99.3%。會后,多家大模型廠商紛紛跟進宣布降價,部分廠商甚至對外免費開放一些輕量級模型。

圖片1.png

本次巡展接受媒體采訪時,譚待也再次提到降價問題。他表示,一些友商提出的免費模式僅適用于C端,會通過廣告模式回收成本。但在B端,真正好用的大模型不可能免費。

大模型降價,降低了企業(yè)的試錯和創(chuàng)新成本,也讓更多企業(yè)真正開始使用大模型。數(shù)據(jù)顯示,截至7月,豆包大模型日均tokens調(diào)用量已超過5000億,兩個月里增長了3倍多。

而不斷增加的調(diào)用量,也反過來促進了模型能力提升,讓豆包大模型的表現(xiàn)越來越全面。過去兩個月里,豆包pro、豆包lite都已完成多項重要升級。

測試數(shù)據(jù)表明,豆包pro的最新版本,相比于5月份發(fā)布的第一個版本,整體綜合能力提升了20.3%。其中,角色扮演能力提升38.3%,語言理解提升33.3%。同時,豆包pro和lite在常用任務(wù),以及數(shù)學(xué)、專業(yè)知識、代碼能力等多方面,都得到了全面提升。

圖片2.png

目前豆包大模型在性能方面,已能支持最高標(biāo)準(zhǔn)初始800K的TPM,相較行業(yè)平均水平高出4—5倍,可讓企業(yè)在高負載、高并發(fā)的情況下,放心、穩(wěn)定使用大模型。并且在具體實踐中,已經(jīng)幫助客戶成功應(yīng)對了最高并發(fā)挑戰(zhàn)。

在現(xiàn)場,譚待特別展示了某創(chuàng)業(yè)公司日均tokens用量的變化。該公司于5月份開始接觸豆包大模型,降價后,隨著成本壓力的解除,該公司的日均tokens用量不斷增長,至6月份,ROI變正且留存量提升,讓其在市場推廣上更加放開,整體業(yè)務(wù)發(fā)生快速增長。迄今為止,日均tokens在兩個月內(nèi)已經(jīng)增長了357倍。

譚待表示,正是這樣的案例越來越多,在生產(chǎn)力端和C端,各種AI應(yīng)用才真正開始繁榮起來。

在此次火山引擎AI創(chuàng)新巡展上,火山引擎除發(fā)布豆包大模型一系列產(chǎn)品升級外,還攜手多點 DMALL等零售行業(yè)巨頭,共同成立零售大模型生態(tài)聯(lián)盟,基于豆包大模型,打造零售AI解決方案,提升消費者購物體驗。聯(lián)盟首批成員包括物美集團、抖音電商、抖音生活服務(wù)、百勝、麥當(dāng)勞、中國飛鶴、海底撈、居然之家、南7-11、重慶百貨、百果園、波司登、天虹、三得利、絕味、名創(chuàng)優(yōu)品、NielsenIQ、電通等。

而這已非火山引擎首次與具體行業(yè)客戶成立類似聯(lián)盟。如此前,火山引擎就已分別與智能終端和汽車行業(yè)的眾多客戶合作發(fā)起大模型聯(lián)盟。

對此火山引擎總裁譚待表示,大模型在各行業(yè)的落地仍將以應(yīng)用方式為主,但不是僅依靠大模型API就可以,而是需要完整的解決方案。

其中,找到PMF(Product Market Fit,產(chǎn)品市場匹配度)最為重要,這需要廠商對技術(shù)與業(yè)務(wù)有所了解,才能真正做到技術(shù)落地。因此,火山引擎希望與更多其他行業(yè)know-how合作伙伴一起服務(wù)企業(yè),共創(chuàng)服務(wù)方案。

本文轉(zhuǎn)載自:,不代表科技訊之立場。原文鏈接:http://zl.yisouyifa.com/html/240822/1815321015701933.html

陳晨陳晨管理團隊

相關(guān)推薦

發(fā)表回復(fù)

登錄后才能評論