近日，中央廣播電視總臺中國之聲報道了一則關(guān)于生成式人工智能技術(shù)的新聞。這項技術(shù)為數(shù)字經(jīng)濟的發(fā)展提供了強大的推動力。然而，由于AI生成合成內(nèi)容未進行明確標(biāo)識，公眾難以區(qū)分這些內(nèi)容與人類創(chuàng)作的內(nèi)容，導(dǎo)致利用AI實施詐騙、侵權(quán)等違法犯罪行為頻發(fā)。為此，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法》，該辦法將于今年9月1日起正式施行。

《人工智能生成合成內(nèi)容標(biāo)識辦法》明確要求用戶在發(fā)布AI生成合成內(nèi)容時，必須主動聲明并進行標(biāo)識。這一規(guī)定旨在規(guī)范生成合成內(nèi)容的傳播活動，保障公眾的知情權(quán)，并減少利用AI進行違法犯罪的可能性。

在北京互聯(lián)網(wǎng)法院近期審理的一起網(wǎng)絡(luò)服務(wù)合同糾紛案中，涉及到了AI生成合成內(nèi)容的標(biāo)識問題。原告在被告運營的網(wǎng)絡(luò)平臺上發(fā)表了一段言論，卻被平臺判定為“包含AI生成內(nèi)容但未標(biāo)識”的違規(guī)情況，導(dǎo)致內(nèi)容被隱藏，賬號被禁言一天。原告起訴稱，這些言論并未使用AI創(chuàng)作，平臺的行為構(gòu)成了違約。

在庭審過程中，被告平臺強調(diào)，他們有權(quán)依據(jù)雙方的網(wǎng)絡(luò)服務(wù)合同審核認(rèn)定用戶的違規(guī)行為，并采取必要的治理措施。平臺指出，原告發(fā)布的內(nèi)容經(jīng)機器識別為“包含人工智能生成”，并經(jīng)過人工復(fù)核，認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。然而，原告無法提供創(chuàng)作底稿、原件等證明人類創(chuàng)作屬性的初步證據(jù)。

法院在審理此案時認(rèn)為，平臺在社區(qū)公告中明確規(guī)定了創(chuàng)作者在發(fā)布包含AI生成內(nèi)容時應(yīng)主動使用標(biāo)識，并對未標(biāo)識的內(nèi)容采取流通限制和添加相關(guān)標(biāo)識的措施。這一公告屬于平臺服務(wù)協(xié)議的組成部分，因此平臺有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進行審查和處理。

然而，法院也指出，平臺作為算法工具的掌控方和結(jié)果判斷方，應(yīng)對判斷依據(jù)和結(jié)果作出合理解釋。雖然平臺在本案中提供了算法的備案信息，但備案信息顯示該算法功能為識別有安全風(fēng)險的回答，無法認(rèn)定它是對AI生成合成識別判斷的技術(shù)。因此，法院認(rèn)為平臺未對涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋，應(yīng)承擔(dān)違約責(zé)任。

中國人民大學(xué)法學(xué)院副教授黃尹旭認(rèn)為，此案是對AI生成合成內(nèi)容標(biāo)識、平臺識別和治理在司法審查規(guī)則方面的有益探索。他表示，法院既肯定了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺利用算法工具對AI生成合成內(nèi)容進行審查和處理的積極作用，又認(rèn)定了平臺在即時性創(chuàng)作文本場景下對算法自動化決策結(jié)果承擔(dān)適度說明義務(wù)。這一判決為司法審查階段的算法解釋說明程度確立了一定的標(biāo)準(zhǔn)，既保障了網(wǎng)絡(luò)用戶的合法權(quán)益，又能有效推動算法公開透明，規(guī)范算法應(yīng)用行為。

黃尹旭還強調(diào)，算法治理需要在保障技術(shù)透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力之間尋求動態(tài)平衡。司法審查應(yīng)本著包容審慎的態(tài)度，在算法信息適當(dāng)公開與算法商業(yè)秘密適度保護之間達成平衡。在此案中，法院合理分配了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺和用戶的舉證責(zé)任，既保障了用戶的權(quán)益，又避免了平臺泄露技術(shù)細(xì)節(jié)、源代碼或原始數(shù)據(jù)的風(fēng)險。