近日消息，據(jù)彭博社報道，OpenAI 成立了一個董事會委員會，用來評估其人工智能模型的安全性。這一舉措距離該公司解散內(nèi)部安全團(tuán)隊(duì)以及安全問題負(fù)責(zé)人離職僅數(shù)周時間。
此前，OpenAI 的治理問題受到了來自兩位前董事會成員海倫?托納 (Helen Toner) 和塔莎?麥考利 (Tasha McCauley) 的嚴(yán)厲批評。她們在周日的《經(jīng)濟(jì)學(xué)人》雜志上撰文，對 OpenAI 的治理方式提出質(zhì)疑。
新成立的委員會將在 90 天內(nèi)評估 OpenAI 技術(shù)的保障措施，并提交報告。“董事會完成全面審查后，OpenAI 將以符合安全原則的方式公開分享所采納的建議，”該公司周二在其博客中寫道。
OpenAI 還表示，他們最近已經(jīng)開始訓(xùn)練其最新的 AI 模型。
去年秋天，OpenAI 首席執(zhí)行官薩姆?阿爾特曼 (Sam Altman) 與聯(lián)合創(chuàng)始人兼首席科學(xué)家伊利亞?蘇茨凱沃 (Ilya Sutskever) 在人工智能產(chǎn)品開發(fā)速度和限制危害的措施上發(fā)生沖突，阿爾特曼在一次董事會政變中被短暫罷免。
本月，蘇茨凱沃和他的得力助手 Jan Leike 離開公司，這兩位科學(xué)家領(lǐng)導(dǎo)了 OpenAI 的超智能體對齊團(tuán)隊(duì) (superalignment team)，該團(tuán)隊(duì)專注于研究超人類人工智能的長期威脅。Leike 在辭職后寫道，他的部門在 OpenAI 內(nèi)部 “爭奪計算資源” 方面遇到了困難。其他離職員工也表達(dá)了類似的批評意見。
蘇茨凱沃離職后，OpenAI 解散了他的團(tuán)隊(duì)。該公司周二表示，這項(xiàng)特殊工作將由其研究部門和新任命的對齊科學(xué)負(fù)責(zé)人、聯(lián)合創(chuàng)始人約翰?舒爾曼 (John Schulman) 領(lǐng)導(dǎo)下繼續(xù)進(jìn)行。
上周 OpenAI 取消了一項(xiàng)政策，該政策規(guī)定如果前員工批評公司，將取消其股票期權(quán)。
OpenAI 新成立的安全委員會將由三位董事會成員組成，分別是董事長布雷特?泰勒 (Bret Taylor)、Quora 首席執(zhí)行官亞當(dāng)?德安杰洛 (Adam D’Angelo) 和索尼娛樂公司前高管妮可?塞利格曼 (Nicole Seligman)，以及包括舒爾曼和阿爾特曼在內(nèi)的六名員工。該公司表示將繼續(xù)咨詢外部專家，并提到了其中兩位：唐納德?特朗普時期國土安全部顧問羅布?喬伊斯 (Rob Joyce) 和喬?拜登總統(tǒng)任內(nèi)司法部的前官員約翰?卡林 (John Carlin)。
原創(chuàng)文章，作者：科技探索者，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/657553.html
