近期,谷歌在2025年度的I/O開發(fā)者大會上,針對日益嚴重的深度偽造(deepfake)及虛假信息問題,推出了一款名為SynthID Detector的創(chuàng)新工具。這款工具旨在通過數字水印技術,有效識別由AI生成的媒體內容。
據統計,從2019年至2024年,深度偽造視頻的數量激增了550%,社交媒體平臺上AI生成的內容也呈現出爆炸式增長。這一趨勢引發(fā)了公眾對于信息真實性的廣泛擔憂。
為了應對這一挑戰(zhàn),谷歌開發(fā)的SynthID Detector正逐步向早期測試者開放。記者、研究者和開發(fā)者均可申請加入等待名單,率先體驗這款前沿技術。SynthID Detector的工作原理是通過掃描媒體文件中的隱形數字水印,來精準識別AI生成的圖像、視頻、音頻或文本內容。它不僅能定位出水印所在的具體位置,還能在音頻中標記出水印出現的片段,或在照片中高亮顯示可能嵌入水印的區(qū)域。
谷歌強調,這些數字水印具有強大的魯棒性,即使媒體內容被多次分享或經過各種轉換處理,水印依然能夠被有效檢測到。這一特性使得SynthID Detector在識別AI生成內容方面具有很高的準確性和可靠性。
谷歌還計劃將SynthID Detector嵌入到其自家的視頻生成工具Veo 3、圖像生成工具Imagen 4以及音樂生成工具Lyria 2中。這將為用戶在創(chuàng)作過程中提供一個實時的AI生成內容識別功能,有助于提升信息的真實性和可信度。同時,谷歌還與英偉達公司展開合作,將水印技術應用于NVIDIA Cosmos模型,并與GetReal Security等服務商攜手驗證水印的有效性。
然而,谷歌也坦誠地指出,SynthID Detector并非無懈可擊。特別是在處理文本或極端圖像修改的情況下,水印可能會被繞過或隱藏。因此,用戶在使用這款工具時仍需保持謹慎,并結合其他手段來驗證信息的真實性。