Google DeepMind 推出了 SynthID，這是一種新的水印工具，可以區(qū)分人工智能生成的圖像。
Synth ID 的創(chuàng)建是為了區(qū)分人工智能生成的內(nèi)容與實際內(nèi)容并保護版權(quán)。最初，它可以與 Google 的圖像創(chuàng)建人工智能 Imagen 一起使用。Imaginen 是托管在 Google Cloud 機器學(xué)習(xí)平臺 Vertex 上的一項服務(wù)。Imaginen 用戶現(xiàn)在可以選擇在創(chuàng)建 AI 圖像時是否添加水印。
去年非常流行的生成式人工智能模型已經(jīng)傳播了基于人工智能的深度造假、未經(jīng)同意的色情內(nèi)容和侵犯版權(quán)的問題。水印作為解決這一問題的最流行的想法而受到關(guān)注，它是一種將信號隱藏在文本或圖像中以區(qū)分其是否由人工智能創(chuàng)建的技術(shù)。
去年 7 月，美國政府宣布 OpenAI、Google 和 Meta 等主要人工智能公司自愿承諾開發(fā)水印工具，以防止人工智能生成內(nèi)容的錯誤信息和濫用。
此前，5月，在Google年度I/O大會上，谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)提到，他正在開發(fā)一種以水印等版權(quán)保護技術(shù)為標(biāo)準(zhǔn)的AI模型。隨后，谷歌 DeepMind 成為承諾與美國政府合作的公司中第一家公開發(fā)布水印工具的公司。
以前，水印的插入方式是在圖像上添加肉眼可見的覆蓋層或在元數(shù)據(jù)中添加信息。然而，谷歌 DeepMind 研究副總裁 Pushmeet Kohli 指出，在這種情況下，當(dāng)圖像被裁剪、調(diào)整大小或編輯時，水印可能會被損壞。
Synth ID 使用兩個神經(jīng)網(wǎng)絡(luò)。第一個神經(jīng)網(wǎng)絡(luò)獲取原始圖像并創(chuàng)建一個看起來幾乎相同的新圖像，但對一些像素進行了微妙的修改。這是一種嵌入肉眼無法識別的圖案的方法。第二個神經(jīng)網(wǎng)絡(luò)在圖像中找到這些模式，并告訴用戶水印是否存在或懷疑存在。Cawley 強調(diào)，Synth ID 的設(shè)計目的是檢測水印，即使圖像被捕獲為屏幕截圖或通過旋轉(zhuǎn)和調(diào)整圖像大小進行編輯。
芝加哥大學(xué)教授本·趙表示，谷歌 DeepMind 并不是唯一一家開發(fā)這種水印工具的公司。他參與開發(fā)了一個防止人工智能收集藝術(shù)家作品的系統(tǒng)。類似于 SynthID 的水印工具已經(jīng)發(fā)布，可用于開源圖像創(chuàng)建 AI“Stable Diffusion”。Meta尚未公開發(fā)布水印工具，但已對其進行了研究。
Colley 認(rèn)為，雖然 Google DeepMind 的水印尚不完美，但它比現(xiàn)有水印更能抵抗操縱。
不過，趙教授對這種說法表示懷疑?！拔艺J(rèn)為很少有水印能夠隨著時間的推移而保持牢固，”他指出。研究表明，文本水印在發(fā)布后幾個月內(nèi)就會變得毫無用處。
他補充說，有惡意勢力試圖使水印對某種利益毫無用處。例如，使用深度偽造內(nèi)容作為不存在的犯罪或事件的實際照片證據(jù)。
趙教授表示：“這些勢力可以通過將 Deepfake 圖像偽裝成真實照片或聲稱真實照片是假的來獲取大量利潤?！八麄儾粫H僅停留在裁剪圖像、通過壓縮增加損耗或改變顏色?！?/p>
盡管如此，SynthID 的推出是良好的第一步，AI Partnership 的人工智能和媒體誠信項目總監(jiān) Claire Leibowicz 表示。她解釋說，這些努力可能會導(dǎo)致行業(yè)共享有關(guān)哪些技術(shù)有效、哪些技術(shù)無效的信息。
萊博維茨強調(diào)，“無論情況多么困難，我們都不能放棄。”
Cawley 向本文解釋說，SynthID 是一種“實驗性”水印工具，他們將研究人們?nèi)绾问褂迷摴ぞ邅泶_定其優(yōu)缺點，然后將其擴展到更廣泛的人群。他拒絕回答 Google DeepMind 是否會將 Synth ID 的使用擴展到 Imaginen 之外。此外，沒有提及是否有計劃將 Synth ID 添加到谷歌自己的圖像創(chuàng)建人工智能系統(tǒng)中。
初創(chuàng)公司 Hugging Face 的人工智能研究員 Sasha Luccioni 指出，這一決定可能會限制其實用性。她補充說，如果谷歌擁有該工具的獨家所有權(quán)，那么只有谷歌才能嵌入和檢測該水印。
Lucioni 強調(diào)，“如果我們在整個圖像創(chuàng)作系統(tǒng)中添加水印組件，就可以減少 Deepfake 色情內(nèi)容等造成的損害?！?/p>
原創(chuàng)文章，作者：小科同學(xué)，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/580543.html
