今日，2024年美國(guó)總統(tǒng)大選正式拉開帷幕，愛荷華州率先舉行黨團(tuán)會(huì)議。在這個(gè)關(guān)鍵時(shí)刻，生成式人工智能公司OpenAI宣布了一系列措施，以防止其工具（如ChatGPT和DALL-E）被用于創(chuàng)建和傳播”深度偽造”和其他虛假信息，這些信息可能會(huì)被用來(lái)破壞美國(guó)總統(tǒng)大選，甚至是今年全球各國(guó)密集舉行的大選。
OpenAI在博文中表示，該公司將確保其工具被用于提供準(zhǔn)確的投票信息、執(zhí)行有節(jié)制的政策和提高透明度。為了應(yīng)對(duì)潛在的濫用問題，OpenAI設(shè)立了一個(gè)專門負(fù)責(zé)選舉工作的跨職能部門，該部門匯集了公司的安全系統(tǒng)、威脅情報(bào)、法律、工程和政策團(tuán)隊(duì)的專業(yè)知識(shí)。
OpenAI明確表示，其工具將不會(huì)被用于任何政治活動(dòng)或游說目的。此外，該公司還禁止使用其工具和服務(wù)創(chuàng)建任何旨在模擬與真實(shí)候選人或政府團(tuán)體聊天的聊天機(jī)器人。為了防止散布歪曲人們?cè)谶x舉中的投票方式或勸阻人們投票的信息，OpenAI將采取措施阻止這些濫用行為。同時(shí)，該公司還將允許人們向OpenAI報(bào)告可能的違規(guī)行為。
除了防止濫用其工具外，OpenAI還在開發(fā)相關(guān)工具以幫助識(shí)別人工智能通過DALL-E制作的深度偽造圖像。目前，該公司正在開發(fā)一種名為”出處分類器”的新工具，該工具可以幫助發(fā)現(xiàn)人工智能制作的圖像，即使圖像經(jīng)過了常見類型的修改。包括記者在內(nèi)的一組測(cè)試人員將很快能夠試用這一工具。
最近的一份報(bào)告稱，微軟的Copilot聊天機(jī)器人使用了OpenAI開發(fā)的技術(shù)，經(jīng)常對(duì)有關(guān)2023年選舉的一些問題提供錯(cuò)誤的答案。11月，微軟宣布計(jì)劃提供一款新工具，幫助各政黨證明其創(chuàng)建的圖像（如廣告和視頻）是真實(shí)的，沒有經(jīng)過人工智能工具的修改。
總體而言，OpenAI采取的這些措施表明了該公司對(duì)于防止其工具有被用于破壞選舉的決心。通過跨職能部門的設(shè)立和采取防止濫用的措施，OpenAI正在確保其工具有助于提供準(zhǔn)確的信息和執(zhí)行有節(jié)制的政策。同時(shí)，該公司還在開發(fā)新的工具以幫助識(shí)別人工智能制作的深度偽造圖像。這些措施有望保護(hù)美國(guó)總統(tǒng)大選和全球其他密集舉行的大選免受虛假信息的干擾和破壞。
對(duì)于愛荷華州率先舉行的黨團(tuán)會(huì)議和即將到來(lái)的美國(guó)總統(tǒng)大選，這些措施的實(shí)施將受到密切關(guān)注。隨著選舉的進(jìn)行，我們將繼續(xù)關(guān)注OpenAI和其他相關(guān)公司的動(dòng)態(tài)，以了解他們?nèi)绾螒?yīng)對(duì)潛在的濫用問題和保護(hù)選舉的公正性。
原創(chuàng)文章，作者：秋秋，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/619789.html
