近期，中國(guó)針對(duì)人工智能技術(shù)的快速發(fā)展及其帶來的潛在風(fēng)險(xiǎn)，正式推出了《人工智能生成合成內(nèi)容表示辦法》。這一舉措緊隨雷軍對(duì)AI換臉和AI擬聲技術(shù)的公開關(guān)注，標(biāo)志著中國(guó)在AI治理領(lǐng)域邁出了重要一步。

隨著AI技術(shù)的廣泛應(yīng)用，市場(chǎng)上已涌現(xiàn)出超過300款生成式AI產(chǎn)品和3000多個(gè)生成合成服務(wù)。然而，技術(shù)的濫用也引發(fā)了社會(huì)對(duì)虛假信息傳播和身份冒充等問題的擔(dān)憂，導(dǎo)致信任危機(jī)。為此，國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《辦法》，旨在通過“技術(shù)標(biāo)準(zhǔn)+管理制度”的雙重模式，強(qiáng)化AI治理，確保技術(shù)的健康發(fā)展。

《辦法》中的一大亮點(diǎn)是引入了顯式標(biāo)識(shí)和隱式標(biāo)識(shí)的雙軌機(jī)制。顯式標(biāo)識(shí)要求AI生成的內(nèi)容以直觀的方式，如視頻水印、文本標(biāo)注等，明確告知用戶其身份。而隱式標(biāo)識(shí)則通過數(shù)字水印、元數(shù)據(jù)嵌入等技術(shù)，在文件底層添加不可見的“身份證”，為監(jiān)管部門提供溯源依據(jù)。

對(duì)于內(nèi)容發(fā)布平臺(tái)而言，《辦法》同樣提出了嚴(yán)格要求。平臺(tái)需自動(dòng)檢測(cè)并標(biāo)識(shí)上傳的內(nèi)容，對(duì)未標(biāo)識(shí)的內(nèi)容添加顯著提示。同時(shí)，平臺(tái)還需提供標(biāo)識(shí)工具，引導(dǎo)創(chuàng)作者主動(dòng)聲明內(nèi)容的AI生成屬性。對(duì)于申請(qǐng)無顯式標(biāo)識(shí)的用戶，平臺(tái)需對(duì)其身份和使用記錄至少保留6個(gè)月，以實(shí)現(xiàn)從源頭防控技術(shù)濫用。

《辦法》還對(duì)用戶（創(chuàng)作者）設(shè)定了明確的規(guī)范。使用AI生成的內(nèi)容必須主動(dòng)標(biāo)識(shí)，且標(biāo)識(shí)不得刪除、偽造或隱匿。一旦違反規(guī)定，將依據(jù)相關(guān)法律法規(guī)追究責(zé)任。這一舉措旨在確保AI生成內(nèi)容的真實(shí)性和可信度，維護(hù)社會(huì)信任。