據(jù)媒體援引知情人士的話報(bào)道，在OpenAI的奧特曼被罷免之前，幾名公司研究人員向董事會(huì)發(fā)出了一封信，警告稱一項(xiàng)強(qiáng)大的人工智能（AI）發(fā)現(xiàn)可能威脅人類。
據(jù)財(cái)聯(lián)社報(bào)道，消息人士表示，這封此前未被報(bào)道的信件和AI算法，是導(dǎo)致OpenAI董事會(huì)罷免奧特曼的催化劑。他們稱，董事會(huì)對(duì)奧特曼的諸多不滿導(dǎo)致后者被解雇，而這封信是原因之一。
據(jù)其中一位消息人士透露，長期擔(dān)任OpenAI高管的米拉·穆拉蒂周三告訴員工，一封關(guān)于名為Q*（發(fā)音為Q-Star）的AI突破的信件促使董事會(huì)采取了行動(dòng)。
另一名消息人士表示，OpenAI在Q*上取得了進(jìn)展，一些內(nèi)部人士認(rèn)為這可能是該初創(chuàng)公司在超級(jí)智能，也被稱為通用人工智能（AGI）領(lǐng)域的突破。OpenAI將AGI定義為比人類更聰明的AI系統(tǒng)。
該消息人士表示，鑒于龐大的計(jì)算資源，新模型能夠解決某些數(shù)學(xué)問題。雖然Q的數(shù)學(xué)成績(jī)僅達(dá)小學(xué)生的水平，但研究人員對(duì)Q未來的成功非常樂觀。
據(jù)媒體報(bào)道，研究人員認(rèn)為數(shù)學(xué)是生成式人工智能發(fā)展的前沿領(lǐng)域。目前，生成式人工智能擅長通過統(tǒng)計(jì)預(yù)測(cè)下一個(gè)單詞來進(jìn)行寫作和語言翻譯，而同一問題的答案可能會(huì)有很大差異。但征服數(shù)學(xué)的能力（只有一個(gè)正確答案）意味著人工智能將擁有類似于人類智能的更強(qiáng)推理能力。例如，人工智能研究人員認(rèn)為，這可以應(yīng)用于新穎的科學(xué)研究。
消息人士稱，研究人員在給董事會(huì)的信中指出了人工智能的能力和潛在危險(xiǎn)，但沒有具體說明信中提到的具體安全問題。
值得注意的是，奧特曼被OpenAI董事會(huì)解雇前一天在舊金山出席亞太經(jīng)合組織首席執(zhí)行官峰會(huì)時(shí)，提到了OpenAI最近取得的一項(xiàng)技術(shù)進(jìn)步?！霸贠penAI的歷史上已經(jīng)有四次了，最近一次是在過去幾周，當(dāng)我們推開無知的面紗并向前推進(jìn)發(fā)現(xiàn)的前沿時(shí)，我已經(jīng)在房間里了，能夠做到這一點(diǎn)是一生的職業(yè)榮譽(yù)?！彼f。
隨著后來OpenAI陷入混亂，這一神秘言論基本上沒有引起注意。但一位知情人士表示，一些OpenAI員工認(rèn)為，奧特曼的言論指的是該公司今年早些時(shí)候的一項(xiàng)創(chuàng)新，該創(chuàng)新將使他們能夠開發(fā)出更強(qiáng)大的人工智能模型。這項(xiàng)技術(shù)突破由OpenAI首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）牽頭，一些員工擔(dān)憂OpenAI在將這種先進(jìn)的人工智能模型商業(yè)化時(shí)沒有適當(dāng)?shù)谋Ｕ洗胧?/p>
馬斯克就有關(guān)于OpenAI在AGI領(lǐng)域新突破的報(bào)道置評(píng)稱，“極度令人擔(dān)憂！”
本文來自投稿，不代表科技訊立場(chǎng)，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/598368.html
