□陳彥霏

11月24日，胖東來集團發(fā)表聲明，稱近期第三方網(wǎng)絡平臺多個賬號為博取流量，未經(jīng)授權(quán)擅自利用AI技術(shù)手段生成于東來聲音，對公眾造成誤導和混淆，并將堅決采取法律措施追究其法律責任。

這并非企業(yè)家第一次被AI侵犯權(quán)利，今年10月，雷軍就曾被網(wǎng)友利用AI合成語音惡搞，惡搞視頻中“雷軍”銳評了堵車、假期等熱門話題，還包含一些不雅謾罵。對此，雷軍回應稱“自己也挺困擾”“挺不舒服的”。老牌港星黃百鳴10月也在社交媒體上發(fā)表聲明，提及自己被AI偽造用于代言。

AI作為一把“雙刃劍”，在帶給人們創(chuàng)作便利提高生產(chǎn)效率的同時，也為不法分子提供了更強大的武器。如果不加以節(jié)制，當AI脫下惡搞娛樂的“遮羞布”，暴露出來的問題，則是對社會亂象的野蠻助長。

如果說對知名人物的侵權(quán)只是給我們敲響警鐘，生成式AI在詐騙造謠上的運用則是將觸手伸向每一個普通人。《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐增長了3000％。詐騙、造謠、非法牟利……一系列違法犯罪在AI的幫助下變得更加難以防范。詐騙分子用AI生成聲音、換臉，訓練有素的大數(shù)據(jù)模型造假真假難辨。不僅如此，在受害者的選擇上，不法分子還利用AI篩選受騙人群，技術(shù)手段加大了詐騙者和普通人的認知鴻溝。當“眼見并非為實”，當謠言被成千上萬自動生產(chǎn)，信息真實和社會信任都將面臨重大考驗。

為此，我們亟需樹立“智能向善”社會共識。在剛剛結(jié)束的2024世界互聯(lián)網(wǎng)大會上，“智能向善”這一主題也被反復提及，雷軍在大會上表示，科技企業(yè)要發(fā)揮推動“智能向善”引領作用。就實際行動而言，中國聯(lián)通用AI技術(shù)助力詐騙電話過濾系統(tǒng)精準度提升了40%、人工智能專業(yè)委員會成立推動相關規(guī)范……不僅進一步探索用AI反詐的各種手段，“用魔法打敗魔法”；更在國家和社會層面，完善相關法律法規(guī)，進行廣泛的AI倫理普及宣傳，讓“智能向善”的共識深入人心。