近日，OpenAI自行開展的一項研究顯示，其在生物武器研究方面的GPT-4模型相較于普通互聯(lián)網(wǎng)搜索工具僅表現(xiàn)出微弱的優(yōu)勢。這一研究結果似乎與外界對于強大人工智能模型可能帶來生物武器制造優(yōu)勢的擔憂相悖。
該研究由OpenAI新成立的準備團隊進行，旨在評估其前沿人工智能模型的風險和潛在濫用。研究過程中，一組由生物學專家和學生組成的小組被分配了使用GPT-4進行生物武器相關研究的任務，另一組則僅使用普通互聯(lián)網(wǎng)進行搜索。
結果顯示，盡管GPT-4組在回答的詳細性和創(chuàng)新性上有所提高，但在準確性上并未顯著優(yōu)于僅使用互聯(lián)網(wǎng)搜索的小組。此外，GPT-4在總準確率上給所有參與者帶來了“統(tǒng)計學意義上顯著的”優(yōu)勢，不過這一優(yōu)勢僅在未對多重比較進行調整的情況下才顯著。
值得注意的是，OpenAI的這項研究似乎與其對GPT-4的宣傳存在矛盾。GPT-4是一個多模態(tài)模型，不僅具備完全的互聯(lián)網(wǎng)訪問權限，而且在大量科學數(shù)據(jù)和其他數(shù)據(jù)的基礎上進行了訓練。這使得GPT-4不僅能夠對科學手稿提出反饋意見，甚至可以作為科學研究的合作者。因此，GPT-4給參與者帶來的微小提升似乎并不符合其實際能力。
盡管OpenAI創(chuàng)始人薩姆·奧特曼承認人工智能有潛在的危險，但其公司的這項研究卻似乎在貶低其最先進的聊天機器人的實力。然而，對于GPT-4在生物武器研究方面的真正影響仍需進一步研究和觀察。
原創(chuàng)文章，作者：happy，如若轉載，請注明出處：http://2079x.cn/article/627238.html
