近日消息，據(jù)界面新聞報(bào)道，多個(gè)微信群流傳一則消息：“某頭部大廠(chǎng)的大模型訓(xùn)練被實(shí)習(xí)生入侵，注入了破壞代碼，導(dǎo)致其訓(xùn)練成果不可靠，可能需要重新訓(xùn)練。據(jù)稱(chēng)遭到入侵的代碼注入了 8000 多張卡，帶來(lái)的損失可能超過(guò)千萬(wàn)美元。”
據(jù)知情人士處透露，該頭部大廠(chǎng)為字節(jié)跳動(dòng)。此事發(fā)生在今年 6 月，起因是某高校的博士在字節(jié)跳動(dòng)商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí)，因?qū)F(tuán)隊(duì)資源分配不滿(mǎn)，使用攻擊代碼破壞團(tuán)隊(duì)的模型訓(xùn)練任務(wù)。截至目前，官方未進(jìn)行回應(yīng)。
傳聞顯示，該田姓實(shí)習(xí)生利用了 HF（注：huggingface）的漏洞，在公司的共享模型里寫(xiě)入破壞代碼，導(dǎo)致模型的訓(xùn)練效果忽高忽低，無(wú)法產(chǎn)生預(yù)期的訓(xùn)練效果，而且 AML 團(tuán)隊(duì)無(wú)法核查原因。但傳聞曝出之后，該實(shí)習(xí)生還在某微信群里辟謠稱(chēng)，自己發(fā)完論文后就從字節(jié)跳動(dòng)離職，這個(gè)當(dāng)口有另一個(gè)人鉆漏洞改模型代碼，把鍋扣到自己頭上。
知情人士稱(chēng)，字節(jié)跳動(dòng)內(nèi)部已經(jīng)調(diào)查明確此事為田姓實(shí)習(xí)生所為。目前，該實(shí)習(xí)生已被辭退，字節(jié)跳動(dòng)同時(shí)把此事同步給陽(yáng)光誠(chéng)信聯(lián)盟和企業(yè)反舞弊聯(lián)盟，以及該實(shí)習(xí)生所在的給學(xué)校。但這名實(shí)習(xí)生被辭退后到處“辟謠”甩鍋，稱(chēng)是其他人所為。
報(bào)道稱(chēng)，該實(shí)習(xí)生攻擊的并不是豆包大模型，而是商業(yè)化技術(shù)團(tuán)隊(duì)的模型訓(xùn)練任務(wù)，影響了該技術(shù)團(tuán)隊(duì)的一些業(yè)務(wù)進(jìn)展，但整體對(duì)公司造成的損失并沒(méi)有傳聞中的超過(guò)千萬(wàn)美元那么大。
原創(chuàng)文章，作者：潮玩君，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/687155.html
