據(jù)報(bào)道，特斯拉（Tesla）28 日啟動眾所矚目的超級電腦，準(zhǔn)備用于各式人工智能（AI）應(yīng)用，其運(yùn)算能力特別強(qiáng)大、甚至可用來執(zhí)行高效能運(yùn)算（HPC）任務(wù)。據(jù)悉，這款基于英偉達(dá)（Nvidia Corp.）H100晶片的超級電腦，將成為全球最強(qiáng)大的電腦之一。
特斯拉投資人的Sawyer Merritt通過社交平臺 X（原Twitter）指出，特斯拉將在28日啟動的10,000顆H100 GPU叢集，會協(xié)助訓(xùn)練全自動輔助駕駛（FSD）系統(tǒng)。H100 GPU的運(yùn)算效能是前一代A100的五倍快，可加快特斯拉訓(xùn)練FSD的速度、訓(xùn)練成果也會比過去更優(yōu)秀。不過，H100 GPU非常昂貴，單顆要價(jià)近40,000美元。
Merritt指出，由于英偉達(dá)無法追上市場對GPU的需求，特斯拉只能斥資十多億美元打造自家超級電腦「Dojo」。Dojo使用公司高度最佳化的客制芯片，2024年有望成為全球最強(qiáng)大的超級電腦之一。這款超級電腦也會訓(xùn)練特斯拉的車隊(duì)并處理這些車隊(duì)傳回的資料。特斯拉CEO馬斯克（Elon Musk）7月曾表示，“老實(shí)說，若英偉達(dá)交出足夠GPU，我們也許不需要Dojo?！?/p>
Merritt表示，特斯拉的英偉達(dá)H100 GPU叢集與Dojo將同時(shí)啟動，這能大幅拉升特斯拉的運(yùn)算能力，目前沒有任何一家汽車業(yè)者能夠與之匹敵。Merritt并附上一張圖，顯示特斯拉內(nèi)部預(yù)測，Dojo運(yùn)算能力有機(jī)會在2024年10月達(dá)到100 Exa-Flops。
Merritt并指出，特斯拉的FSD V12版終端對終端訓(xùn)練已觸及運(yùn)算瓶頸，但該公司會積極確保未來不會如此。根據(jù)馬斯克說法，特斯拉光2023年就會耗資超過20億美元訓(xùn)練運(yùn)算力，2024年也會采取同樣行動。
Tom’s Hardware報(bào)導(dǎo)，特斯拉AI推論兼AI平臺工程經(jīng)理Tim Zaman 27日則解釋，在真實(shí)世界影片的訓(xùn)練下，特斯拉擁有的也許是世界最大訓(xùn)練資料庫，快取熱層的容量超過200PB ，數(shù)量級（orders of magnitudes）比大型語言模型（LLMs）還高。
根據(jù)報(bào)導(dǎo)，10,000顆H100 GPU叢集對技術(shù)性運(yùn)算的效能峰值可達(dá)340 FP64 PFLOPS，對于AI應(yīng)用的效能峰值則可達(dá)39.58 INT8 ExaFLOPS。相較之下，Leonardo旗下的全球第四優(yōu)秀超級電腦效能僅304 FP64 PFLOPS。
原創(chuàng)文章，作者：小科同學(xué)，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/578283.html
