近期，社交媒體巨頭meta正在醞釀一場審核機制的變革，計劃將原本依賴人工的風險評估工作大幅轉向人工智能（AI）處理。據(jù)美國國家公共廣播電臺（NPR）的深度報道，meta內(nèi)部文件透露，公司旨在讓AI承擔起高達90%的風險評估重任，這一轉變不僅限于常規(guī)內(nèi)容，更將觸及青少年保護和“誠信”領域，后者廣泛涵蓋暴力、虛假信息等敏感問題。

過去，meta旗下平臺如Instagram和WhatsApp在推出新功能或更新前，均需經(jīng)過嚴格的人工審核流程。然而，近兩個月來，meta顯著加快了AI技術的應用步伐。現(xiàn)在，產(chǎn)品團隊需先填寫詳盡的調(diào)查問卷，再由AI系統(tǒng)迅速反饋潛在風險領域，產(chǎn)品團隊必須解決AI提出的問題后方可發(fā)布。

對于這一變革，meta內(nèi)部出現(xiàn)了不同聲音。多位現(xiàn)任及前任員工在接受NPR采訪時表達了對AI審核能力的擔憂，他們認為，AI可能無法像人工團隊那樣敏銳捕捉到某些嚴重風險。一位前高管直言，審核力度的減弱等同于“增加潛在風險”，新產(chǎn)品變更可能帶來的負面效應更難在初期得到遏制。

meta官方對此回應稱，公司并未完全放棄人工審核，而是將“人類專業(yè)知識”聚焦于“新穎且復雜的問題”，而將那些“低風險決策”交由AI處理。這一策略調(diào)整旨在提升審核效率，同時保持對關鍵問題的敏銳洞察。

值得注意的是，meta近期發(fā)布了其最新季度誠信報告，這也是公司自年初調(diào)整內(nèi)容審核和事實核查政策后的首次報告亮相。報告數(shù)據(jù)顯示，政策調(diào)整導致被刪除的內(nèi)容數(shù)量有所減少，但與此同時，霸凌騷擾行為以及暴力和血腥內(nèi)容的比例卻略有上升，這一現(xiàn)象引發(fā)了外界對meta審核機制有效性的進一步關注。