近日，OpenAI首席執(zhí)行官薩姆·奧爾特曼(Sam Altman)花時(shí)間訪問(wèn)了全球22個(gè)國(guó)家。通過(guò)與各國(guó)用戶和領(lǐng)導(dǎo)人的深入交流，奧爾特曼計(jì)劃要改進(jìn)ChatGPT等人工智能工具，比如更好適配非英語(yǔ)用戶，以及尋找識(shí)別人工智能生成內(nèi)容的各種方法。
以下是翻譯內(nèi)容：
本月早些時(shí)候，當(dāng)OpenAI首席執(zhí)行官薩姆·奧爾特曼(Sam Altman)在澳大利亞登臺(tái)完成全球巡回演講的最后一站之前，有人問(wèn)他過(guò)去幾周內(nèi)到底訪問(wèn)了多少個(gè)國(guó)家。
“8個(gè)，”有人喊道。當(dāng)真正的數(shù)字揭曉時(shí)，所有人似乎都倒吸了一口氣：22個(gè)。
“我已經(jīng)準(zhǔn)備好返程了，”奧爾特曼在澳大利亞墨爾本的一次演講中說(shuō)?！暗芎瓦@么多人就OpenAI進(jìn)行交流是一次非常特別的經(jīng)歷?！?/p>
OpenAI公共政策主管安娜·馬坎朱(Anna Makanju)表示，公司從奧爾特曼全球之旅進(jìn)行的一系列交流中吸取了很多經(jīng)驗(yàn)教訓(xùn)，包括需要讓自家產(chǎn)品更好適用于非英語(yǔ)用戶，并有可能明確內(nèi)容是否是由人工智能生成的。
此前奧爾特曼曾現(xiàn)身美國(guó)國(guó)會(huì)，呼吁政府對(duì)最強(qiáng)大的大語(yǔ)言模型進(jìn)行監(jiān)管，他公司廣受歡迎的聊天機(jī)器人ChatGPT也是靠這些模型運(yùn)行。自那之后，奧爾特曼已經(jīng)會(huì)見(jiàn)了法國(guó)總統(tǒng)馬克龍和印度總理莫迪等各國(guó)領(lǐng)導(dǎo)人，討論人工智能的前景和威脅。
斯坦福大學(xué)人工智能研究所國(guó)際政策研究員、前歐洲議會(huì)議員瑪麗耶·沙克(Marietje Schaake)在談到奧爾特曼時(shí)說(shuō)，“他試圖建立關(guān)系，首先是因?yàn)樗靼妆O(jiān)管即將到來(lái)。”“因此他說(shuō)公司歡迎監(jiān)管，也是希望爭(zhēng)取立法者的好感?！?/p>
在奧爾特曼造訪歐洲期間，歐盟議會(huì)投票推進(jìn)名為《人工智能法案》(AI Act)的立法草案，這套法案被認(rèn)為是西方首套全面的人工智能法規(guī)。草案包括對(duì)面部識(shí)別的限制，并要求一些人工智能模型披露用于訓(xùn)練模型的版權(quán)材料。同樣，在奧爾特曼訪問(wèn)澳大利亞時(shí)，當(dāng)?shù)卣诰捅O(jiān)管人工智能進(jìn)行為期八周的磋商。
陪同奧爾特曼訪問(wèn)的馬坎朱說(shuō)，她印象最深刻的是，從葡萄牙里斯本到韓國(guó)首爾的每一站，即便人們也想要防范風(fēng)險(xiǎn)，但所有人最關(guān)心的還是不要讓自己國(guó)家錯(cuò)過(guò)人工智能革命可能帶來(lái)的經(jīng)濟(jì)機(jī)會(huì)。她說(shuō)：“人們真的希望確保無(wú)論他們做什么，都能為他們的經(jīng)濟(jì)帶來(lái)好處?！?/p>
馬坎朱說(shuō)，人們提到的主要風(fēng)險(xiǎn)是對(duì)虛假信息的恐懼，擔(dān)心人工智能技術(shù)對(duì)就業(yè)市場(chǎng)的影響，還擔(dān)心人工智能推理能力對(duì)人類來(lái)說(shuō)到底意味著什么的存在性風(fēng)險(xiǎn)。
自去年11月份上線以來(lái)，ChatGPT因神奇能力風(fēng)靡全球，用戶可以用簡(jiǎn)單的對(duì)話提示來(lái)讓ChatGPT寫電子郵件、詩(shī)歌或計(jì)算機(jī)代碼。今年3月份，OpenAI加大投入力度，發(fā)布最新的大語(yǔ)言模型GPT-4，為聊天機(jī)器人提供更強(qiáng)大動(dòng)力。
在這個(gè)過(guò)程中，Alphabet旗下谷歌和微軟等各個(gè)公司在人工智能領(lǐng)域展開激烈競(jìng)爭(zhēng)。谷歌和微軟都開始在自家搜索產(chǎn)品中加入生成式人工智能技術(shù)，微軟還與OpenAI達(dá)成了130億美元的合作伙伴關(guān)系。
這也引發(fā)關(guān)于人工智能可能危害人類的一系列嚴(yán)重警告，有時(shí)這種警告甚至來(lái)自?shī)W爾特曼本人。
據(jù)報(bào)道，奧爾特曼在英國(guó)造訪期間登上新聞?lì)^條。他在一次討論的間隙表示，按照歐盟草擬的人工智能法案，OpenAI存在“很多”問(wèn)題。法案草案將OpenAI的GPT-4等模型指定為“高風(fēng)險(xiǎn)”，需要受到監(jiān)管。如果OpenAI在技術(shù)層面上無(wú)法遵守這一法案，可能不得不在歐盟“停止運(yùn)營(yíng)”。
奧爾特曼隨后又在推特上寫道：“在歐洲就如何更好監(jiān)管人工智能開展的一周時(shí)間對(duì)話卓有成效！我們很高興能繼續(xù)在這里運(yùn)營(yíng)，當(dāng)然也沒(méi)有離開的計(jì)劃?！?/p>
馬坎朱說(shuō)，整件事只是“奧爾特曼的隨口一說(shuō)被斷章取義了”。在全球訪問(wèn)結(jié)束后，馬坎朱表示，公司正專注于制定可行的技術(shù)方法，以便對(duì)OpenAI開發(fā)的強(qiáng)大模型進(jìn)行管理，比如制定標(biāo)準(zhǔn)在模型部署之前評(píng)估安全性。
馬坎朱也對(duì)歐盟人工智能法案草案中的部分條款表達(dá)了擔(dān)心。這些條款要求人工智能模型披露它們用于訓(xùn)練模型的版權(quán)內(nèi)容。她說(shuō)，OpenAI還沒(méi)有對(duì)法案表達(dá)正式的官方立場(chǎng)，因?yàn)槿杂卸鄠€(gè)版本的草案需要達(dá)成一致。
馬坎朱還在全球訪問(wèn)結(jié)束后表示，公司有興趣尋找能識(shí)別人工智能生成內(nèi)容的方法。OpenAI研究人員已經(jīng)對(duì)各種方法進(jìn)行了一段時(shí)間的試驗(yàn)，包括一種被稱為“水印”的統(tǒng)計(jì)方法。
早在ChatGPT引起公眾關(guān)注之前，歐盟執(zhí)行機(jī)構(gòu)就于2021年首次提出了《人工智能法案》(AI Act)。但馬坎朱表示，歐洲并不一定會(huì)像之前引領(lǐng)數(shù)據(jù)隱私方面的監(jiān)管一樣引領(lǐng)這波科技監(jiān)管浪潮。她提到，上周美國(guó)參議院議員查克·舒默（Chuck Schumer）發(fā)布了一個(gè)制定人工智能立法的框架。
奧特曼和OpenAI的其他高管們都建議，對(duì)于能力超過(guò)一定閾值的人工智能開發(fā)工作，將需要由一個(gè)類似于國(guó)際原子能機(jī)構(gòu)(International Atomic Energy Agency)的全球機(jī)構(gòu)進(jìn)行監(jiān)管，這樣一個(gè)機(jī)構(gòu)可以審查系統(tǒng)并測(cè)試是否符合安全標(biāo)準(zhǔn)。
盡管人們擔(dān)心人工智能可能產(chǎn)生的潛在危險(xiǎn)，但奧爾特曼在大多數(shù)國(guó)家都受到了人們的熱烈歡迎。
在墨爾本的演講活動(dòng)結(jié)束后，奧爾特曼身穿一件灰色亨利襯衫、深色褲子和一雙彩虹運(yùn)動(dòng)鞋，顯得十分隨性，被各種自拍和想要聊天的粉絲團(tuán)團(tuán)圍住。大廳里也有抗議者舉起標(biāo)語(yǔ)，其中一個(gè)標(biāo)語(yǔ)上寫著：“人工智能很可能導(dǎo)致世界末日?！?/p>
現(xiàn)年26歲的賈斯汀·奧利弗(Justin Olive)正在研究人工智能，他參加了奧爾特曼在墨爾本舉行的演講活動(dòng)。他說(shuō)自己每天都在使用ChatGPT，幫助學(xué)習(xí)或起草電子郵件。但在演講結(jié)束后，奧利弗說(shuō)自己不確定該如何看待奧爾特曼。
“他對(duì)變革性人工智能帶來(lái)風(fēng)險(xiǎn)的擔(dān)憂似乎是真的，”奧利弗說(shuō)?！傲硪环矫?，我覺(jué)得這只是一位魅力十足的首席執(zhí)行官在做一些營(yíng)銷工作，這讓我有點(diǎn)不安?！?/p>
原創(chuàng)文章，作者：蘋果派，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/572979.html
