OpenAI正探索AI集體決策,提出類似維基百科條目模式

他提到了一種類似于維基百科的模式,后者要求觀點(diǎn)不同的人聚集在一起,從而就百科條目達(dá)成一致

5月23日,ChatGPT的開(kāi)發(fā)者OpenAI公司的總裁格雷格·布魯克曼(Greg Brockman)表示,公司正測(cè)試如何收集影響其AI的決策的廣泛信息。他提到了一種類似于維基百科的模式,后者要求觀點(diǎn)不同的人聚集在一起,從而就百科條目達(dá)成一致。

在舊金山由高盛集團(tuán)和SV Angel主辦的AI Forward活動(dòng)上,布魯克曼介紹了OpenAI如何尋求全球AI監(jiān)管的大致信息。

布魯克曼在談到AI政策的時(shí)候表示:“不僅僅是在規(guī)格,我們認(rèn)為這些規(guī)則可以適用于任何人。我們正在開(kāi)始思考民主的決策方式?!?/p>

布魯克曼談到的另一個(gè)想法是,世界各地的政府應(yīng)該進(jìn)行協(xié)調(diào),以確保AI的安全發(fā)展.

自去年11月30日推出ChatGPT以來(lái),一躍成為有史以來(lái)增長(zhǎng)速度最快的應(yīng)用程序。AI也成為人們關(guān)注的焦點(diǎn),不過(guò)它也有能力創(chuàng)造出深度偽造的圖片和其他錯(cuò)誤信息。

在評(píng)估AI的發(fā)展道路時(shí),布魯克曼考察了維基百科以及其他地方。他和OpenAI表示,像國(guó)際原子能機(jī)構(gòu)(IAEA)這樣的機(jī)構(gòu)可以對(duì)AI的部署進(jìn)行限制,審查它是否符合安全標(biāo)準(zhǔn),并跟蹤計(jì)算能力的使用。

他的另一個(gè)建議是達(dá)成一項(xiàng)全球協(xié)議,限制前沿AI能力的年度增長(zhǎng)速度,或者建立一個(gè)主要國(guó)家的政府可以參與的全球聯(lián)合項(xiàng)目。

OpenAI首席執(zhí)行官山姆·阿爾特曼(Sam Altman)上周向美國(guó)立法者提出了為AI設(shè)置監(jiān)管的各種想法,其中包括要求為開(kāi)發(fā)最復(fù)雜的AI模型頒發(fā)許可證,并建立相關(guān)的治理制度。他本周正在訪問(wèn)歐洲進(jìn)行訪問(wèn),并與政策制定者會(huì)面。

原創(chuàng)文章,作者:蘋(píng)果派,如若轉(zhuǎn)載,請(qǐng)注明出處:http://2079x.cn/article/571814.html

蘋(píng)果派的頭像蘋(píng)果派管理團(tuán)隊(duì)

相關(guān)推薦