記者 張崢 邊雪 譚羽清 馬曉玉

如果可以給Chat GPT下命令問(wèn)詢(xún)制造武器的方法，如果人類(lèi)跟訓(xùn)練了上百萬(wàn)次的機(jī)器人下國(guó)際象棋，如果企業(yè)用人工智能提供的招聘模板，未來(lái)的充斥著AI的世界會(huì)變成什么樣？如何應(yīng)對(duì)AI帶來(lái)的潛在風(fēng)險(xiǎn)？

人工智能將怎樣影響人類(lèi)？

10月26日，2024世界頂尖科學(xué)家論壇分論壇——世界頂尖科學(xué)家智能科學(xué)大會(huì)上，全球頂尖科學(xué)家匯聚一堂，討論“為人類(lèi)永續(xù)發(fā)展制定科學(xué)的AI治理框架”。

在主旨演講中，中國(guó)科學(xué)院院士、北京大學(xué)國(guó)際機(jī)器學(xué)習(xí)研究中心主任鄂維南，2007圖靈獎(jiǎng)得主、南方科技大學(xué)斯發(fā)基斯可信自主系統(tǒng)研究院院長(zhǎng)約瑟夫·斯發(fā)基斯，2024年世界頂尖科學(xué)家協(xié)會(huì)獎(jiǎng)“智能科學(xué)或數(shù)學(xué)獎(jiǎng)”獲得者、康奈爾大學(xué)計(jì)算機(jī)科學(xué)和信息科學(xué)講席教授喬恩·克萊因伯格，分別從不同角度分享了他們的研究成果和思考。

AI助力科學(xué)研究：需要學(xué)科間合作

AI+科學(xué)能迸發(fā)出什么樣的火花？鄂維南詳細(xì)介紹了人工智能（AI）在科學(xué)研究中的應(yīng)用?！霸谌斯ぶ悄軒椭?，我們可以開(kāi)發(fā)出更多更有效的工具。很早以前，我們就發(fā)起了學(xué)生開(kāi)源平臺(tái)，我們期待更多人獲益?！毙碌腁I將呼吁合作、打破學(xué)科間的壁壘。鄂維南呼吁一種新的研究范式，用更多的有效的數(shù)據(jù)，來(lái)“武裝”科學(xué)研究。

鄂維南

他以材料科學(xué)為例，他提到了一個(gè)名為“uni-mol”的AI模型，以當(dāng)前各大智能手機(jī)和電視中廣泛使用的新型顯示技術(shù)有機(jī)發(fā)光二極管(OLED)為例，如果要發(fā)現(xiàn)更出色的發(fā)光材料，傳統(tǒng)材料設(shè)計(jì)，需要依賴(lài)專(zhuān)家經(jīng)驗(yàn)和大量實(shí)驗(yàn)驗(yàn)證，試錯(cuò)成本極高。如果使用AI模型來(lái)進(jìn)行預(yù)測(cè)和篩選，就可以節(jié)約大量的時(shí)間和成本。

過(guò)去，做實(shí)驗(yàn)是進(jìn)行科學(xué)研究的必要方式?，F(xiàn)在可以有不一樣的期待，“我們可以利用實(shí)驗(yàn)來(lái)收集數(shù)據(jù)”然后充分運(yùn)用算法和大模型的幫助。

技術(shù)發(fā)展：要符合人類(lèi)價(jià)值觀

圖靈獎(jiǎng)得主約瑟夫·斯發(fā)基斯則聚焦于AI倫理問(wèn)題，深入剖析了AI技術(shù)在實(shí)際應(yīng)用中面臨的挑戰(zhàn)和風(fēng)險(xiǎn)。他指出，隨著AI技術(shù)的快速發(fā)展，其在決策過(guò)程中可能存在的安全性和倫理性問(wèn)題日益凸顯。例如，AI系統(tǒng)在處理復(fù)雜任務(wù)時(shí)，可能無(wú)法完全符合人類(lèi)的價(jià)值觀和道德標(biāo)準(zhǔn)，從而引發(fā)一系列社會(huì)倫理問(wèn)題。

約瑟夫·斯發(fā)基斯

“我們不能忽視AI技術(shù)在實(shí)際應(yīng)用中的潛在風(fēng)險(xiǎn)，特別是在涉及個(gè)人隱私和數(shù)據(jù)安全的領(lǐng)域?！边@位科學(xué)家強(qiáng)調(diào)，“為了確保AI的發(fā)展能夠更好地服務(wù)于人類(lèi)社會(huì)，我們需要建立一個(gè)全球性的監(jiān)管框架，制定明確的倫理準(zhǔn)則?！?/p>

他呼吁加強(qiáng)跨學(xué)科研究，推動(dòng)不同領(lǐng)域的專(zhuān)家學(xué)者共同參與，形成一套全面、系統(tǒng)的AI倫理準(zhǔn)則。他還提倡加強(qiáng)公眾對(duì)AI倫理的認(rèn)識(shí)和理解，提高社會(huì)對(duì)AI技術(shù)應(yīng)用的接受度和支持度。

“未來(lái)，我們需要在技術(shù)創(chuàng)新的同時(shí)，更加關(guān)注其對(duì)經(jīng)濟(jì)和社會(huì)的長(zhǎng)遠(yuǎn)影響，確保技術(shù)發(fā)展符合人類(lèi)的共同利益?！边@位科學(xué)家最后總結(jié)道。

算法預(yù)測(cè)：AI在社會(huì)決策中的應(yīng)用與挑戰(zhàn)

2024年世界頂尖科學(xué)家協(xié)會(huì)獎(jiǎng)“智能科學(xué)或數(shù)學(xué)獎(jiǎng)”獲得者、康奈爾大學(xué)計(jì)算機(jī)科學(xué)和信息科學(xué)講席教授喬恩·克萊因伯格在論壇上探討了算法預(yù)測(cè)在社會(huì)決策中的應(yīng)用與挑戰(zhàn)。隨著互聯(lián)網(wǎng)的發(fā)展，算法預(yù)測(cè)已經(jīng)成為社會(huì)決策的重要工具，廣泛應(yīng)用于招聘、風(fēng)險(xiǎn)評(píng)估等領(lǐng)域。

喬恩·克萊因伯格

克萊因伯格展示了一張社交媒體上用戶(hù)瀏覽行為的截圖，“算法會(huì)關(guān)注到你的觀看行為，預(yù)測(cè)這可能是你感興趣的內(nèi)容，然后理所當(dāng)然地給你推送同類(lèi)型內(nèi)容。”

為了應(yīng)對(duì)這些問(wèn)題，克萊因伯格建議采用多種算法組合，避免單一算法帶來(lái)的風(fēng)險(xiǎn)。他強(qiáng)調(diào)，不同算法之間的互補(bǔ)性可以提高決策的準(zhǔn)確性和公平性?！拔磥?lái)的研究需要更多地關(guān)注算法的社會(huì)影響，確保技術(shù)發(fā)展能夠更好地服務(wù)于人類(lèi)社會(huì)?！笨巳R因伯格總結(jié)道。