近日，北京迎來了一項(xiàng)重要科技事件的誕生——國內(nèi)首個(gè)專注于智能體安全生態(tài)的協(xié)作組織“IIFAA智能體可信互連工作組”正式宣告成立。該工作組旨在應(yīng)對智能體技術(shù)迅猛發(fā)展所帶來的安全協(xié)作挑戰(zhàn)，推動(dòng)行業(yè)共同制定跨智能體交互的安全技術(shù)規(guī)范，構(gòu)建一個(gè)開放、合作、共贏的智能體生態(tài)。

這一工作組由IIFAA互聯(lián)網(wǎng)可信認(rèn)證聯(lián)盟發(fā)起，該聯(lián)盟自2015年成立以來，已在可信身份認(rèn)證等領(lǐng)域取得了顯著成果，并擁有超過300家成員單位。此次工作組的成立，標(biāo)志著IIFAA在智能體安全領(lǐng)域的進(jìn)一步拓展和深化。

近年來，隨著AI智能體生態(tài)的搭建成為科技行業(yè)的重要戰(zhàn)略布局，手機(jī)廠商、大模型及應(yīng)用開發(fā)商等紛紛推出智能體產(chǎn)品，如“AI管家”等，這些產(chǎn)品允許用戶通過自然語言與設(shè)備或應(yīng)用進(jìn)行交互，實(shí)現(xiàn)諸如訂票、點(diǎn)餐、打車等便捷操作。蘋果、榮耀、vivo等手機(jī)廠商推出的系統(tǒng)智能體，以及螞蟻集團(tuán)的“支小寶”、智譜AI的AutoGLM等AI智能體產(chǎn)品，都是這一領(lǐng)域的典型代表。

然而，隨著多個(gè)智能體協(xié)同工作為用戶提供更豐富功能的同時(shí)，也帶來了安全上的挑戰(zhàn)。信通院泰爾終端實(shí)驗(yàn)室信息安全部副主任傅山指出，用戶的一條指令往往涉及多個(gè)智能體產(chǎn)品，而智能體之間的打通并不容易。如何在端上實(shí)現(xiàn)多智能體間的可信互連，成為智能體發(fā)展中亟待解決的問題。目前，行業(yè)仍處于初期階段，新技術(shù)在帶來便利的同時(shí)，也隱藏著安全風(fēng)險(xiǎn)。

IIFAA聯(lián)盟秘書長鄭亮強(qiáng)調(diào)，智能體之間的服務(wù)互聯(lián)需要完成用戶指令，這涉及到意圖數(shù)據(jù)的共享傳遞和復(fù)雜任務(wù)拆解等流程。在沒有規(guī)范約束的情況下，這些流程容易出現(xiàn)亂象。事實(shí)上，即使在多智能體發(fā)展的早期階段，已經(jīng)出現(xiàn)了諸多問題。因此，工作組的存在顯得尤為必要，旨在推動(dòng)智能體之間的開放協(xié)作，并共建安全互信的行業(yè)規(guī)范。

工作組的成員涵蓋了手機(jī)終端廠商、硬件廠商、應(yīng)用開發(fā)商以及相關(guān)監(jiān)管機(jī)構(gòu)等多方力量。作為成員單位之一，智譜AI CEO張鵬表示，智譜非常注重技術(shù)安全和治理的同步發(fā)展，成立智能體行業(yè)組織對于避免由于缺乏統(tǒng)一標(biāo)準(zhǔn)而可能導(dǎo)致的惡意攻擊、隱私侵犯等安全隱患具有重要意義，有助于促進(jìn)整個(gè)行業(yè)的健康發(fā)展。

螞蟻集團(tuán)副總裁李俊奎也表達(dá)了對工作組的支持。他認(rèn)為，創(chuàng)新與開放是螞蟻持續(xù)發(fā)展的基石，工作組將推動(dòng)智能體技術(shù)在各個(gè)應(yīng)用場景中的廣泛普及與信任建立，讓AI更安全地服務(wù)于用戶和行業(yè)。

工作組技術(shù)總監(jiān)張璇介紹，接下來，工作組將圍繞智能體可信認(rèn)證、服務(wù)可信調(diào)用、數(shù)據(jù)可信流轉(zhuǎn)、用戶隱私與權(quán)益保護(hù)等方向，建設(shè)智能體可信互連行業(yè)規(guī)范，推動(dòng)行業(yè)安全、健康發(fā)展。