7月21日，據(jù)報(bào)道，OpenAI起草的一份互聯(lián)網(wǎng)政策備忘錄顯示，該公司認(rèn)為應(yīng)當(dāng)要求所有想要開(kāi)發(fā)先進(jìn)人工智能的公司必須獲得政府支持。這份文件還透露，該公司愿意公開(kāi)他們?cè)谟?xùn)練圖像生成器時(shí)使用的數(shù)據(jù)。
作為ChatGPT和DALL-E的開(kāi)發(fā)者，OpenAI是在白宮官員與科技行業(yè)高管今年5月4日舉行會(huì)面后，在內(nèi)部文件中披露一系列人工智能政策承諾的。該公司在草案中寫(xiě)道：“我們致力于跟美國(guó)政府和世界各地的政策制定者合作，支持為未來(lái)最先進(jìn)的基礎(chǔ)模型開(kāi)發(fā)工作制定一套牌照制度?！?/p>
如果由OpenAI等人工智能巨頭參與制定政府牌照制度，有可能會(huì)與初創(chuàng)公司和開(kāi)源開(kāi)發(fā)者的利益形成沖突。后者認(rèn)為，這些巨頭會(huì)試圖借此提高行業(yè)門(mén)檻。
這并非OpenAI首次提出這種想法：在5月的美國(guó)參議院聽(tīng)證會(huì)上，該公司CEO山姆·阿爾特曼（Sam Altman）就支持成立一個(gè)政府機(jī)構(gòu)，負(fù)責(zé)為人工智能產(chǎn)品發(fā)放牌照，并在發(fā)生違規(guī)情況時(shí)收回牌照。
此時(shí)正值微軟、谷歌和OpenAI響應(yīng)白宮號(hào)召，預(yù)計(jì)將在周五公開(kāi)承諾為人工智能開(kāi)發(fā)提供保障措施之際。據(jù)知情人士透露，這些公司將承諾以負(fù)責(zé)任的態(tài)度開(kāi)發(fā)和部署人工智能。
OpenAI警告稱，該公司在其內(nèi)部政策文件中提出的想法，將不同于白宮即將與科技公司共同發(fā)布的政策。該公司全球事務(wù)副總裁Anna Makanju表示，該公司并沒(méi)有急于推動(dòng)牌照制度，而是認(rèn)為這是政府追蹤新型系統(tǒng)的一種“現(xiàn)實(shí)”方式。
“對(duì)于政府來(lái)說(shuō)，有必要了解是否會(huì)有一個(gè)可能構(gòu)成潛在破壞的超強(qiáng)系統(tǒng)出現(xiàn)?！彼f(shuō)，“如果有人不愿像我們這樣主動(dòng)報(bào)告情況，幾乎無(wú)法確保政府能夠及時(shí)了解這樣的系統(tǒng)?！?/p>
Makanju表示，OpenAI認(rèn)為，這種牌照制度應(yīng)當(dāng)僅適用于比現(xiàn)有的GPT-4更強(qiáng)大的人工智能模型，小型創(chuàng)業(yè)公司不應(yīng)當(dāng)承受過(guò)大的監(jiān)管負(fù)擔(dān)?！拔覀儾幌攵糁粕鷳B(tài)系統(tǒng)?！彼f(shuō)。
OpenAI還在內(nèi)部政策文件中透露，他們?cè)敢膺M(jìn)一步開(kāi)放用于訓(xùn)練DALL-E等圖片生成器的數(shù)據(jù)，并致力于在年底前“納入溯源方法”。數(shù)據(jù)溯源是一種讓開(kāi)發(fā)人員對(duì)其工作的透明度和來(lái)源負(fù)責(zé)的做法。許多政策制定者之前已經(jīng)提出這種想法，他們認(rèn)為，這對(duì)于防止人工智能工具傳播錯(cuò)誤信息和偏見(jiàn)至關(guān)重要。
OpenAI在備忘錄中列出的承諾，與微軟今年5月宣布的政策非常相似。但OpenAI之前曾經(jīng)表示，盡管獲得了微軟的100億美元投資，但他們依然是一家獨(dú)立公司。
該公司在文件中披露，他們正在進(jìn)行調(diào)查，了解水印（一種追蹤人工智能生成圖像的真實(shí)性和版權(quán)的方法）以及人工智能生成內(nèi)容的檢測(cè)和披露方法，并將公布調(diào)查結(jié)果。
OpenAI還在文件中表示，他們對(duì)外部“紅隊(duì)”持開(kāi)放態(tài)度。換言之，該公司將允許人們參與測(cè)試其系統(tǒng)在多方面的潛在問(wèn)題，包括冒犯性內(nèi)容、被操縱的風(fēng)險(xiǎn)、錯(cuò)誤信息和偏見(jiàn)。該公司在備忘錄表示，它支持建立一個(gè)信息共享中心，就網(wǎng)絡(luò)安全開(kāi)展合作。
OpenAI在備忘錄中似乎承認(rèn)人工智能系統(tǒng)可能在就業(yè)和不平等方面帶來(lái)風(fēng)險(xiǎn)。該公司還在草案中表示，他們將進(jìn)行研究，并向政策制定者提出建議，以保護(hù)經(jīng)濟(jì)免受潛在破壞的影響。
原創(chuàng)文章，作者：蘋(píng)果派，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/573516.html
