近日，人工智能AI領(lǐng)域的領(lǐng)軍企業(yè)OpenAI與微軟Microsoft聯(lián)手，宣布關(guān)閉了五個(gè)與國家關(guān)聯(lián)的惡意行為者的賬戶，這些行為者利用包括ChatGPT在內(nèi)的人工智能工具進(jìn)行網(wǎng)絡(luò)攻擊。
據(jù)了解，這五個(gè)行為者分別與中國、伊朗、朝鮮和俄羅斯等國家有關(guān)聯(lián)。其中，與中國相關(guān)的行為者名為“木炭臺(tái)風(fēng)”（CHROMIUM）和“鮭魚臺(tái)風(fēng)”（SODIUM），被指控針對(duì)美國國防承包商、政府機(jī)構(gòu)和加密技術(shù)領(lǐng)域?qū)嶓w進(jìn)行網(wǎng)絡(luò)攻擊。伊朗相關(guān)的行為者名為“赤紅沙塵暴”（CURIUM），朝鮮相關(guān)的行為者名為“翡翠雨夾雪”（THALLIUM），而俄羅斯相關(guān)的行為者名為“森林暴雪”（STRONTIUM）。
OpenAI在一份聲明中表示，這些行為者通常利用OpenAI服務(wù)來查詢開源信息、翻譯、查找編碼錯(cuò)誤以及運(yùn)行基本編碼任務(wù)。然而，調(diào)查結(jié)果顯示，OpenAI的模型只能為惡意網(wǎng)絡(luò)安全任務(wù)提供有限的增量功能。
微軟方面也表示，俄羅斯軍事情報(bào)人員福雷斯特·暴雪（Forrest Blizzard）使用大型語言模型（LLM）來研究可能與烏克蘭常規(guī)軍事行動(dòng)有關(guān)的各種衛(wèi)星和雷達(dá)技術(shù)，并支持諸如操作文件之類的任務(wù)以實(shí)現(xiàn)潛在的自動(dòng)化或技術(shù)優(yōu)化。
Charcoal Typhoon和Salmon Typhoon兩個(gè)與中國有關(guān)聯(lián)的組織，都有針對(duì)美國國防承包商、政府機(jī)構(gòu)和加密技術(shù)領(lǐng)域?qū)嶓w的歷史。它們使用法學(xué)碩士對(duì)全球情報(bào)機(jī)構(gòu)和各個(gè)公司進(jìn)行查詢，生成代碼并識(shí)別編碼錯(cuò)誤，以及翻譯任務(wù)。同時(shí)，Crimson Sandstorm、Emerald Sleet以及這兩個(gè)與中國有關(guān)聯(lián)的組織也利用OpenAI的工具來生成網(wǎng)絡(luò)釣魚活動(dòng)的內(nèi)容。
盡管OpenAI和微軟的研究并未發(fā)現(xiàn)來自使用嚴(yán)密監(jiān)控工具的攻擊者的“重大攻擊”，但兩家公司仍然高度警惕，提出了其他方法來減輕使用AI執(zhí)行類似任務(wù)的威脅攻擊者日益增長的風(fēng)險(xiǎn)。
為了應(yīng)對(duì)這一挑戰(zhàn)，OpenAI和微軟表示將繼續(xù)監(jiān)控和破壞與威脅行為者相關(guān)的活動(dòng)。他們將與業(yè)內(nèi)其他合作伙伴合作，共享有關(guān)惡意行為者已知使用人工智能的信息，并告知公眾和利益相關(guān)者惡意行為者使用其人工智能工具的情況。
此次事件再次提醒我們，隨著人工智能技術(shù)的快速發(fā)展，網(wǎng)絡(luò)攻擊手段也在不斷演變。企業(yè)和個(gè)人需要提高警惕，加強(qiáng)網(wǎng)絡(luò)安全防護(hù)，確保個(gè)人信息和企業(yè)資產(chǎn)的安全。同時(shí)，政府和國際社會(huì)也需要加強(qiáng)合作，共同打擊利用人工智能技術(shù)進(jìn)行的網(wǎng)絡(luò)攻擊行為，維護(hù)網(wǎng)絡(luò)空間的和平與安全。
原創(chuàng)文章，作者：檸萌，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/630354.html
