近日，全球知名的人工智能公司OpenAI和Anthropic宣布了一項(xiàng)重要舉措，與美國人工智能安全研究所（US AI Safety Institute）簽署諒解備忘錄，承諾在發(fā)布重大新的人工智能模型前，將允許美國政府提前訪問并評(píng)估這些模型的安全性。這一合作被視為推動(dòng)AI技術(shù)安全發(fā)展的重要里程碑。
根據(jù)協(xié)議內(nèi)容，兩家公司在其AI模型公開發(fā)布之前及之后，都將向美國政府開放訪問權(quán)限，以便共同識(shí)別并緩解潛在的安全風(fēng)險(xiǎn)。美國政府表示，這一合作將有助于增強(qiáng)對AI技術(shù)的理解和監(jiān)管，確保AI技術(shù)的安全可控發(fā)展。
OpenAI首席戰(zhàn)略官Jason Kwon對此次合作表示高度支持，他強(qiáng)調(diào)：“我們非常支持美國AI安全研究所的使命，并期待通過合作，共同制定AI模型的安全最佳實(shí)踐和標(biāo)準(zhǔn)。我們相信，這一合作將在確保美國在負(fù)責(zé)任開發(fā)AI方面的領(lǐng)導(dǎo)地位上發(fā)揮關(guān)鍵作用?！?/p>
Anthropic公司同樣對此次合作寄予厚望。公司聯(lián)合創(chuàng)始人兼政策負(fù)責(zé)人Jack Clark表示：“確保AI安全可靠對于發(fā)揮該技術(shù)的積極影響至關(guān)重要。通過這種測試和合作方式，我們能夠更好地發(fā)現(xiàn)和減少AI帶來的風(fēng)險(xiǎn)，推動(dòng)負(fù)責(zé)任的AI發(fā)展。我們?yōu)槟軈⑴c這項(xiàng)重要工作感到自豪，并期望為AI的安全性和可信度設(shè)立新的標(biāo)準(zhǔn)?！?/p>
值得注意的是，這一合作正值全球范圍內(nèi)對AI監(jiān)管政策討論的熱點(diǎn)時(shí)期。在聯(lián)邦和州立法機(jī)構(gòu)紛紛探討如何平衡AI技術(shù)創(chuàng)新與安全監(jiān)管之際，OpenAI和Anthropic的舉措無疑為行業(yè)樹立了典范。周三，加利福尼亞州立法者通過了《前沿人工智能模型安全創(chuàng)新法案》（SB 1047），要求該州的人工智能公司在訓(xùn)練先進(jìn)基礎(chǔ)模型前采取特定安全措施。盡管該法案已進(jìn)行修改并等待州長簽署，但仍引發(fā)了業(yè)界的廣泛關(guān)注和討論。
美國白宮也一直在積極尋求從主要AI公司獲得關(guān)于安全措施的自愿承諾。多家領(lǐng)先的AI公司已作出非約束性承諾，投資于網(wǎng)絡(luò)安全和歧視研究，并致力于對AI生成內(nèi)容進(jìn)行水印標(biāo)記等安全措施。
美國人工智能安全研究所所長伊麗莎白·凱利在一份聲明中強(qiáng)調(diào)：“這些新的協(xié)議只是開始，但它們是我們努力幫助負(fù)責(zé)任地管理AI未來的一個(gè)重要里程碑。”她表示，未來將繼續(xù)推動(dòng)AI技術(shù)的安全發(fā)展，確保AI技術(shù)能夠造福人類社會(huì)。
此次OpenAI與Anthropic與美國政府的合作，無疑為AI技術(shù)的安全發(fā)展注入了新的動(dòng)力。隨著AI技術(shù)的不斷進(jìn)步和應(yīng)用領(lǐng)域的不斷拓展，如何確保AI技術(shù)的安全性和可信度將成為全球關(guān)注的焦點(diǎn)。通過加強(qiáng)合作與監(jiān)管，我們有理由相信AI技術(shù)將在未來發(fā)揮更加積極的作用，推動(dòng)人類社會(huì)的進(jìn)步和發(fā)展。
原創(chuàng)文章，作者：AI，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/677402.html
