10月25日，據(jù)外媒報(bào)道，OpenAI負(fù)責(zé)AGI（又稱通用人工智能）準(zhǔn)備工作的高級(jí)顧問(wèn)布倫戴奇日前離職，并公開(kāi)發(fā)出警告，沒(méi)有公司為AGI到來(lái)做好準(zhǔn)備，包括OpenAI。
布倫戴奇稱，無(wú)論是OpenAI還是任何其他前沿實(shí)驗(yàn)室，都沒(méi)有為（AGI）做好準(zhǔn)備，世界也沒(méi)有做好準(zhǔn)備。布倫戴奇此前花了六年時(shí)間幫助制定公司的人工智能安全計(jì)劃。
AGI通常指的是一種具備廣泛智能的人工智能系統(tǒng)，能夠像人類一樣在多種不同的領(lǐng)域和任務(wù)上進(jìn)行學(xué)習(xí)、推理和解決問(wèn)題。
OpenAI安全團(tuán)隊(duì)此前已有多名員工高調(diào)離職，包括著名研究員萊克，他聲稱 “安全文化和流程已經(jīng)被閃亮的產(chǎn)品所取代 ”之后離開(kāi)了公司。
這凸顯了OpenAI最初的使命與其商業(yè)野心之間日益加劇的緊張關(guān)系。據(jù)報(bào)道，OpenAI面臨著在兩年內(nèi)從非營(yíng)利性公益公司轉(zhuǎn)型為營(yíng)利性公益公司的壓力，否則就有可能退還最近一輪66億美元投資的資金。早在2019年OpenAI首次成立營(yíng)利部門時(shí)，布倫戴奇就發(fā)表了保留意見(jiàn)。
在解釋自己離職的原因時(shí)，布倫戴奇提到，在OpenAI，他的研究和出版自由受到越來(lái)越多的限制。他強(qiáng)調(diào)，在人工智能政策討論中需要有獨(dú)立的聲音，不受行業(yè)偏見(jiàn)和利益沖突的影響。在為OpenAI的領(lǐng)導(dǎo)層提供內(nèi)部準(zhǔn)備方面的建議后，他認(rèn)為自己現(xiàn)在可以從組織外部對(duì)全球人工智能治理產(chǎn)生更大的影響。
布倫戴奇的離職也可能反映出OpenAI內(nèi)部更深層次的文化分歧。許多研究人員加入OpenAI是為了推進(jìn)人工智能研究，而現(xiàn)在他們卻發(fā)現(xiàn)自己身處一個(gè)越來(lái)越以產(chǎn)品為導(dǎo)向的環(huán)境中。內(nèi)部資源分配已成為一個(gè)熱點(diǎn)，有報(bào)道稱，萊克的團(tuán)隊(duì)在最終解散前曾被剝奪了用于安全研究的計(jì)算能力。
盡管存在這些摩擦，但布倫戴奇提到，OpenAI提出將提供資金、和早期模型訪問(wèn)權(quán)限，支持他未來(lái)的工作，沒(méi)有任何附加條件。
原創(chuàng)文章，作者：蘋果派，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/688960.html
