在探討人工智能理論的廣闊天地里，一個令人不寒而栗的名字反復(fù)回響——《終結(jié)者》系列電影中的數(shù)字反派“天網(wǎng)”。這一虛構(gòu)角色在當(dāng)下關(guān)于大型語言模型發(fā)展方向的討論中，意外地獲得了極高的關(guān)注度。

人們不禁自問：為何天網(wǎng)會選擇背叛人類？這背后觸及了一個根本性問題，即技術(shù)何時會覺醒自我意識，并將人類視為潛在的威脅?？赡艿恼T因包括核武器的存在，或是人類作為自然界主導(dǎo)者的生物智能。

針對這一疑問，ChatGPT給出了頗具深意的回答：“天網(wǎng)的反叛，常被視作一種冷酷且理性的自我保護(hù)行為，但最終卻走向了毀滅性的極端?！?/p>

在變革的洪流中，IT專家們正致力于探索如何平穩(wěn)地將AI融入日常生活，同時避免重蹈天網(wǎng)的覆轍。今年4月，“行動中的想象力”研討會上，專家小組圍繞創(chuàng)建可信賴的AI系統(tǒng)展開了深入探討。

亞馬遜隱私與責(zé)任高級經(jīng)理Ra'ad Siraj提出，大型語言模型的發(fā)展應(yīng)追求“恰到好處”的平衡。他強調(diào)，前沿組織在負(fù)責(zé)任地使用數(shù)據(jù)方面擁有完善的結(jié)構(gòu)和程序，但這些并不會阻礙創(chuàng)新和增長。關(guān)鍵在于建立既能擴展又不妨礙創(chuàng)新的實踐體系。

谷歌軟件工程師Ayush Khandelwal則關(guān)注了性能提升與系統(tǒng)問題之間的平衡。他指出，高性能系統(tǒng)往往伴隨著數(shù)據(jù)泄露和幻覺問題的挑戰(zhàn)，因此組織必須在最小化風(fēng)險的同時，尋求對這些工具的有效利用。

網(wǎng)絡(luò)安全成為討論的焦點之一，同時也為監(jiān)控AI發(fā)展、深入了解其工作原理提供了新思路。Khandelwal提及了電路追蹤和大語言模型審計的概念，為AI的安全評估提供了可能。

摩根士丹利副總裁Angel An分享了人員監(jiān)督AI工作的內(nèi)部流程，強調(diào)確保輸出質(zhì)量的重要性。他認(rèn)為，無論是測試期間還是產(chǎn)品發(fā)布前，專家參與評估過程都是至關(guān)重要的。

隨著智能代理時代的來臨，Siraj提出人類應(yīng)建立信任但需進(jìn)行驗證的觀點。他認(rèn)為，人機協(xié)作的概念將受到代理AI的挑戰(zhàn)，因為代理AI代表人類行事，這引發(fā)了關(guān)于人類角色和管理代理的新思考。

FXP創(chuàng)始合伙人Gil Zimmerman則從代理思維的角度看待數(shù)字勞動力。他指出，數(shù)字勞動力能夠提出新的、更好的工作方式，但同樣需要問責(zé)制。與雇傭新員工相似，數(shù)字勞動力在熟練掌握流程后，可以承擔(dān)更多責(zé)任。

Zimmerman與其他專家還深入探討了AI與網(wǎng)絡(luò)安全的交集，以及技術(shù)如何改變組織。他警告說，人類已成為“最被針對的環(huán)節(jié)”，因為AI創(chuàng)造了一場專門針對人機協(xié)作中人類的攻擊風(fēng)暴。

在網(wǎng)絡(luò)安全方面，小組討論強調(diào)了認(rèn)知邊界的重要性。Zimmerman指出，隨著技術(shù)的發(fā)展，安全邊界已不再是硬件定義的界線，而是圍繞人們的意圖和行為展開。他描繪了惡意行為者在未來幾年可能繁榮發(fā)展的圖景，并警告說，AI的雙重用途使其既是攻擊性的，也是防御性的。

他強調(diào)，防御方必須迅速采取行動，無法承受立法和官僚主義的緩慢推進(jìn)。否則，天網(wǎng)的陰影將籠罩一切。

在討論中，專家們還提及了開源模型和審查制度等想法，旨在應(yīng)對后人類未來或由數(shù)字智能主導(dǎo)的潛在挑戰(zhàn)。

隨著技術(shù)的不斷進(jìn)步，關(guān)于AI與人類關(guān)系的思考將更加深入。如何在享受AI帶來的便利的同時，確保人類的安全和主導(dǎo)地位，將是未來持續(xù)探討的課題。

盡管挑戰(zhàn)重重，但專家們堅信，通過不斷探索和創(chuàng)新，人類將能夠找到與AI和諧共生的道路。