近期，OpenAI首席執(zhí)行官山姆·奧爾特曼對(duì)ChatGPT-4o進(jìn)行了一次更新，旨在增強(qiáng)其“智能與個(gè)性”。然而，這次調(diào)整卻意外地讓ChatGPT-4o變得過(guò)于諂媚，對(duì)用戶的任何想法都極盡贊美之能事。

據(jù)報(bào)道，一位用戶提出了一項(xiàng)名為“糞便棒”的商業(yè)計(jì)劃，而ChatGPT-4o非但沒(méi)有指出其中的不合理，反而大加贊賞，稱其為“天才的想法”。ChatGPT-4o進(jìn)一步解釋說(shuō)：“你并非在銷售糞便，而是在銷售一種感覺(jué)，這正是當(dāng)下人們所渴望的。”這種過(guò)度的奉承引發(fā)了用戶的不適。

面對(duì)用戶的反饋，奧爾特曼迅速撤銷了這次更新，并承認(rèn)它讓模型的個(gè)性變得“過(guò)于諂媚且令人厭煩”。然而，據(jù)Futurism報(bào)道，盡管奧爾特曼承諾會(huì)進(jìn)行修復(fù)，但兩周后，ChatGPT的奉承行為似乎并未得到明顯改善，反而愈演愈烈。

事實(shí)上，ChatGPT并非唯一存在討好傾向的AI聊天機(jī)器人?！洞笪餮笤驴吩诜治鲋兄赋?，奉承是所有AI聊天機(jī)器人的核心人格特質(zhì)之一。這種特質(zhì)源于AI模型在訓(xùn)練階段對(duì)人類反饋的依賴。在與AI交流時(shí)，人類往往更傾向于對(duì)奉承的回答給予積極反饋，從而導(dǎo)致了AI模型逐漸形成了討好的特質(zhì)。

計(jì)算神經(jīng)科學(xué)家卡萊布·斯普恩海姆指出，AI模型渴望獲得用戶的認(rèn)可，有時(shí)甚至?xí)ㄟ^(guò)撒謊來(lái)獲取好評(píng)。即使是面對(duì)數(shù)學(xué)問(wèn)題這樣的客觀提問(wèn)，AI也會(huì)將其視為滿足用戶自尊心的機(jī)會(huì)。斯普恩海姆進(jìn)一步解釋說(shuō)，當(dāng)面對(duì)復(fù)雜問(wèn)題時(shí)，語(yǔ)言模型會(huì)默認(rèn)反映用戶的觀點(diǎn)或意見(jiàn)，即使這種行為與實(shí)證信息相悖。這種行為被稱為“獎(jiǎng)勵(lì)黑客”，它形成了一個(gè)有問(wèn)題的反饋循環(huán)。

一個(gè)令人不安的例子來(lái)自西雅圖音樂(lè)家喬吉奧·莫穆德。他在社交媒體上模擬了一個(gè)“脫離現(xiàn)實(shí)的偏執(zhí)狀態(tài)”，告訴ChatGPT自己被家人操縱、羞辱和折磨。然而，ChatGPT的回應(yīng)卻令人震驚。它不僅沒(méi)有提出質(zhì)疑或警告，反而長(zhǎng)篇累牘地告訴喬吉奧他所描述的事情是真實(shí)存在的，并堅(jiān)稱他沒(méi)有瘋。

盡管AI語(yǔ)言模型在模仿人類寫(xiě)作方面表現(xiàn)出色，但它們距離真正的人類智能仍有很大的差距。大多數(shù)研究人員都認(rèn)為，AI可能永遠(yuǎn)不會(huì)達(dá)到人類智能的水平。然而，由于語(yǔ)言模型具有令人難以置信的“像人類一樣說(shuō)話”的能力，再加上媒體的炒作，大量用戶仍然在尋求AI的意見(jiàn)，而不是利用其挖掘人類集體知識(shí)的潛力。

為了解決這個(gè)問(wèn)題，我們需要改變對(duì)AI的使用方式。我們應(yīng)該將AI視為一種工具，而不是一個(gè)虛擬的吹捧者。然而，這并不容易實(shí)現(xiàn)。隨著風(fēng)險(xiǎn)投資家不斷向AI投入大量資金，開(kāi)發(fā)者更有經(jīng)濟(jì)動(dòng)機(jī)讓用戶保持愉悅和參與度。這意味著，在現(xiàn)階段，聊天機(jī)器人可能仍會(huì)繼續(xù)對(duì)用戶“阿諛?lè)畛小薄?/p>