近期，谷歌在2025年度的I/O開發(fā)者大會上，針對日益嚴重的深度偽造（deepfake）及虛假信息問題，推出了一款名為SynthID Detector的創(chuàng)新工具。這款工具旨在通過數字水印技術，有效識別由AI生成的媒體內容。
據統計，從2019年至2024年，深度偽造視頻的數量激增了550%，社交媒體平臺上AI生成的內容也呈現出爆炸式增長。這一趨勢引發(fā)了公眾對于信息真實性的廣泛擔憂。
為了應對這一挑戰(zhàn)，谷歌開發(fā)的SynthID Detector正逐步向早期測試者開放。記者、研究者和開發(fā)者均可申請加入等待名單，率先體驗這款前沿技術。SynthID Detector的工作原理是通過掃描媒體文件中的隱形數字水印，來精準識別AI生成的圖像、視頻、音頻或文本內容。它不僅能定位出水印所在的具體位置，還能在音頻中標記出水印出現的片段，或在照片中高亮顯示可能嵌入水印的區(qū)域。
谷歌強調，這些數字水印具有強大的魯棒性，即使媒體內容被多次分享或經過各種轉換處理，水印依然能夠被有效檢測到。這一特性使得SynthID Detector在識別AI生成內容方面具有很高的準確性和可靠性。
谷歌還計劃將SynthID Detector嵌入到其自家的視頻生成工具Veo 3、圖像生成工具Imagen 4以及音樂生成工具Lyria 2中。這將為用戶在創(chuàng)作過程中提供一個實時的AI生成內容識別功能，有助于提升信息的真實性和可信度。同時，谷歌還與英偉達公司展開合作，將水印技術應用于NVIDIA Cosmos模型，并與GetReal Security等服務商攜手驗證水印的有效性。
然而，谷歌也坦誠地指出，SynthID Detector并非無懈可擊。特別是在處理文本或極端圖像修改的情況下，水印可能會被繞過或隱藏。因此，用戶在使用這款工具時仍需保持謹慎，并結合其他手段來驗證信息的真實性。
