近期，OpenAI的AI語(yǔ)音轉(zhuǎn)寫工具Whisper被曝出存在重大缺陷，該工具竟然會(huì)生成大量與原始語(yǔ)音不符的虛假信息。這一發(fā)現(xiàn)引發(fā)了社會(huì)各界的廣泛關(guān)注與討論。

據(jù)悉，已有部分醫(yī)療機(jī)構(gòu)，如美國(guó)明尼蘇達(dá)州曼卡托診所和洛杉磯兒童醫(yī)院，采用了基于Whisper開發(fā)的工具來記錄醫(yī)患會(huì)診內(nèi)容。然而，OpenAI此前曾明確警告，Whisper不適用于高風(fēng)險(xiǎn)領(lǐng)域。

一位機(jī)器學(xué)習(xí)工程師在分析了超100小時(shí)的Whisper轉(zhuǎn)錄數(shù)據(jù)后，發(fā)現(xiàn)約半數(shù)內(nèi)容存在嚴(yán)重失實(shí)。這可能與語(yǔ)音中的停頓、背景噪音或音樂播放有關(guān)。

對(duì)此，OpenAI表示正在積極研究如何減少虛構(gòu)內(nèi)容，并承諾在后續(xù)模型更新中改進(jìn)。