近日，OpenAI的“超級(jí)對(duì)齊”團(tuán)隊(duì)在NeurIPS，一年一度的機(jī)器學(xué)習(xí)會(huì)議上，展示了他們最新的研究成果。這支團(tuán)隊(duì)由Collin Burns、Pavel Izmailov和Leopold Aschenbrenner領(lǐng)銜，專注于如何控制比人類更聰明的AI系統(tǒng)??。
OpenAI于今年七月成立了這個(gè)團(tuán)隊(duì)，目的是為“超級(jí)智能”AI系統(tǒng)——即智能遠(yuǎn)超人類的理論系統(tǒng)——制定引導(dǎo)、監(jiān)管和治理的方法。團(tuán)隊(duì)成員Burns表示，目前他們能夠?qū)R的模型多數(shù)智能水平不及或與人類相當(dāng)，而如何對(duì)齊超越人類智能的模型還沒(méi)有明確的方法??。
然而，對(duì)于OpenAI的技術(shù)是否會(huì)在不久的將來(lái)或?qū)?lái)任何時(shí)候獲得可能毀滅世界、超越人類智能的能力，一些專家持懷疑態(tài)度。他們認(rèn)為，關(guān)于即將到來(lái)的超級(jí)智能的說(shuō)法，可能只是為了轉(zhuǎn)移人們對(duì)當(dāng)前AI監(jiān)管問(wèn)題的注意，如算法偏見(jiàn)和AI的傾向性??。
該團(tuán)隊(duì)目前正在嘗試構(gòu)建適用于未來(lái)強(qiáng)大AI系統(tǒng)的治理和控制框架。這不是一個(gè)簡(jiǎn)單的任務(wù)，因?yàn)椤俺?jí)智能”的定義以及特定AI系統(tǒng)是否已經(jīng)達(dá)到這一水平，仍然是熱烈討論的話題。目前，團(tuán)隊(duì)采用的方法是使用一個(gè)較弱、較不復(fù)雜的AI模型（例如GPT-2）來(lái)引導(dǎo)一個(gè)更先進(jìn)、更復(fù)雜的模型（例如GPT-4）朝著期望的方向發(fā)展，同時(shí)避免不希望的方向??。
為了推動(dòng)這方面的技術(shù)研究，OpenAI啟動(dòng)了一個(gè)價(jià)值1000萬(wàn)美元的贈(zèng)款項(xiàng)目，支持超級(jí)智能對(duì)齊的技術(shù)研究。這些贈(zèng)款將為學(xué)術(shù)實(shí)驗(yàn)室、非營(yíng)利組織、個(gè)人研究者和研究生保留。OpenAI還計(jì)劃在2025年初舉辦一個(gè)有關(guān)超級(jí)對(duì)齊的學(xué)術(shù)會(huì)議，屆時(shí)將分享和推廣超級(jí)對(duì)齊獎(jiǎng)項(xiàng)的決賽選手的工作??。
通過(guò)這篇文章，我們可以看到，OpenAI正在積極探索如何應(yīng)對(duì)和控制超級(jí)智能AI的挑戰(zhàn)，同時(shí)也在通過(guò)贈(zèng)款項(xiàng)目和會(huì)議來(lái)促進(jìn)這一領(lǐng)域的研究。這顯示了他們對(duì)未來(lái)AI技術(shù)發(fā)展方向的前瞻性思考和對(duì)潛在風(fēng)險(xiǎn)的重視。
原創(chuàng)文章，作者：cl-t，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/607062.html
