日前，OpenAI公司宣布成立新的“防備”團隊，旨在監(jiān)控旗下技術可能帶來的潛在威脅，防止其落入壞人之手，甚至被用于制造化學和生物武器。
該團隊由麻省理工學院人工智能教授亞歷山大?馬德里領導，將招募人工智能研究人員、計算機科學家、國家安全專家和政策專家等，對OpenAI開發(fā)的技術進行持續(xù)監(jiān)測和測試。一旦發(fā)現(xiàn)任何危險苗頭，及時向公司發(fā)出警告。
OpenAI還發(fā)布了名為“防備框架”的指導方針，強調(diào)只推出評級為“低”和“中”的模型。防備團隊將反復評估OpenAI最先進、尚未發(fā)布的AI模型，根據(jù)不同類型的感知風險評為四個等級，從低到高依次是“低”、“中”、“高”和“嚴重”。
OpenAI的“防備”團隊介于兩個現(xiàn)有團隊之間：負責消除AI系統(tǒng)中種族偏見等現(xiàn)有問題的“安全系統(tǒng)”團隊，以及研究如何確保AI在超越人類智能的未來場景中不會傷害人類的“超級對齊”團隊。
OpenAI首席執(zhí)行官薩姆?阿爾特曼表示，公司將繼續(xù)推進技術發(fā)展，造福社會并從中獲益。馬德里表示，他既不同意那些擔心AI已經(jīng)超越人類智能的“末日論者”，也不同意那些希望移除所有AI發(fā)展障礙的“加速主義者”。
此次成立的“防備”團隊將進一步保障OpenAI技術的安全性和穩(wěn)定性，為AI技術的發(fā)展提供有力支持。
原創(chuàng)文章，作者：秋秋，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/608671.html
