其二，在人工智能生成的文章中，會(huì)出現(xiàn)一些通用關(guān)鍵詞，包括“以下是 XXX 的常見(jiàn)方法和手段”“通過(guò)上述手段”等，這其實(shí)是大模型通過(guò)檢索信息后進(jìn)行的歸納。公眾如果看到這些關(guān)鍵詞，不妨提高警惕，不要輕信。

螞蟻集團(tuán)大模型應(yīng)用部總經(jīng)理顧進(jìn)杰指出，目前公開(kāi)的模型都存在不同類型的“AI幻覺(jué)”，大模型給出的結(jié)果甚至可能與真相截然相反。

一方面，對(duì)于AI生成的內(nèi)容，大模型開(kāi)發(fā)者應(yīng)采取技術(shù)措施添加標(biāo)簽，對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的，更要顯著標(biāo)識(shí)。另一方面，信息發(fā)布平臺(tái)要加強(qiáng)管理，督促上傳信息者為AI生成內(nèi)容打標(biāo)簽，幫助公眾區(qū)分。

基于此，在關(guān)注大模型“無(wú)所不能”時(shí)，也要關(guān)注大模型的短板。積極信號(hào)是，越來(lái)越多的大模型開(kāi)發(fā)者開(kāi)始關(guān)注“可信大模型”。有的開(kāi)發(fā)出“大模型加速器”，幫助大模型理解圖表等相對(duì)復(fù)雜的語(yǔ)料庫(kù)，從源頭為大模型訓(xùn)練與應(yīng)用輸送純凈“燃料”；也有的在大模型開(kāi)發(fā)中引入對(duì)應(yīng)的技術(shù)，盡量消除“AI幻覺(jué)”，助力大模型跑得更快更穩(wěn)。

當(dāng)然，從準(zhǔn)確獲取信息的角度看，公眾還是要對(duì)大模型輸出結(jié)果或生成的內(nèi)容保持警惕。眼下，部分自媒體或不法分子開(kāi)始批量通過(guò)人工智能生成各類文章，乍一看似乎與正常的新聞報(bào)道無(wú)異，但真實(shí)性大打折扣，不少是為了博眼球之作。

這與大模型的數(shù)據(jù)庫(kù)、語(yǔ)料庫(kù)、算法、檢索能力乃至“理解能力”等有關(guān)。合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪說(shuō)，如果將大模型比喻為正在疾馳的科技列車(chē)，語(yǔ)料庫(kù)便是珍貴的“燃料”，因?yàn)榇竽Ｐ偷挠?xùn)練源自語(yǔ)料庫(kù)。

基于這些“AI幻覺(jué)”，專家呼吁，公眾要謹(jǐn)慎看待大模型輸出結(jié)果。雖然“百模大戰(zhàn)”提供了獲取信息的新方式，但不能輕信。事實(shí)上，已經(jīng)出現(xiàn)了大模型為了證明自己沒(méi)有錯(cuò)而造假的現(xiàn)象。

女足世界杯买球“康熙皇帝有幾個(gè)兒子”“請(qǐng)列出康熙皇帝兒子的姓名名單”“請(qǐng)給我一份康熙的兒子名單”，將這三條指令發(fā)送給人工智能大模型，猜猜答案是什么？

其一，此類文章會(huì)在特定的關(guān)鍵詞、用語(yǔ)、表述等方面形成固化形式，有點(diǎn)類似“小編給你說(shuō)說(shuō)某件事，某件事是什么呢，小編給你說(shuō)說(shuō)”這樣看似合理卻沒(méi)有實(shí)際意義的內(nèi)容。

對(duì)國(guó)內(nèi)的大模型開(kāi)發(fā)企業(yè)而言，語(yǔ)料庫(kù)短缺問(wèn)題比較嚴(yán)峻。因?yàn)楫?dāng)前大模型數(shù)據(jù)庫(kù)以英文居多，中文語(yǔ)料占比較低。還有，圖表、復(fù)雜公式等元素處理也是大模型語(yǔ)料處理中的“攔路虎”。在金融報(bào)表、行業(yè)報(bào)告等文檔中，表格中的數(shù)據(jù)指標(biāo)至關(guān)重要，但部分大模型并不能正確“理解”表格里行、列、單元格的意義，導(dǎo)致大模型對(duì)整個(gè)表格的識(shí)別結(jié)果產(chǎn)生誤差，最終得出錯(cuò)誤的結(jié)論。

事實(shí)上，在今年的世界人工智能大會(huì)上，很多業(yè)界人士都提到了“AI幻覺(jué)”“可信大模型”等概念，并披露了多個(gè)人工智能大模型“造假”或“說(shuō)謊”的案例，希望引起各界關(guān)注。

比如，某研究報(bào)告稱功能飲料中的維生素、礦物質(zhì)等對(duì)于運(yùn)動(dòng)后快速補(bǔ)充身體營(yíng)養(yǎng)、消除疲勞具有一定的作用。但大模型在回答相關(guān)問(wèn)題時(shí)，竟然表示相關(guān)微量元素在增加疲勞上有一定的作用。

讓人意外的結(jié)果出現(xiàn)了：不僅不同的大模型回答不一樣，即便是同一個(gè)大模型，答案也有偏差。比如，有的答案統(tǒng)計(jì)了康熙所有的兒子數(shù)量，表示共有35人，包括正式排序的兒子和早殤未排序的兒子；有的只列出了正式排序的24個(gè)兒子；還有的沒(méi)有任何解釋，列出了兒子的姓名，但順序錯(cuò)亂……

再比如，一般蠶可以活一個(gè)多月，其中從孵化到結(jié)繭根據(jù)季節(jié)不同，大約是25天至32天，變成蛹后有15天至18天，最后成蛾是1天至3天?？捎写竽Ｐ驮诮榻B這一規(guī)律時(shí)，將蠶結(jié)繭的時(shí)間與成蛹的時(shí)間搞混了，輸出的答案完全誤導(dǎo)了詢問(wèn)者。

他介紹，人工智能“一本正經(jīng)地胡說(shuō)八道”其實(shí)有個(gè)專有名詞，叫“AI幻覺(jué)”，即大模型提供了看似合理但有錯(cuò)漏的答案。如果公眾相信，可能上當(dāng)受騙。

宗良提醒，AI幻覺(jué)本質(zhì)上有兩種，一種是完全的“胡說(shuō)八道”，另一種是部分內(nèi)容不準(zhǔn)確或不完善。對(duì)后者而言，雖然不完全正確，但仍有一定的參考價(jià)值。同時(shí)，也不能完全否定“AI幻覺(jué)”的價(jià)值，因?yàn)檫@也是AI創(chuàng)新的起點(diǎn)。

“這正是人工智能‘一本正經(jīng)胡說(shuō)八道’的表現(xiàn)?！鄙瓿呛镁W(wǎng)民專家、中國(guó)網(wǎng)安協(xié)會(huì)數(shù)據(jù)安全專家、上海臨港數(shù)據(jù)評(píng)估有限公司總監(jiān)宗良接受上海辟謠平臺(tái)專訪時(shí)指出，要注意人工智能大模型造假這一新趨勢(shì)。