银河澳门app

其一，此類文章會(huì)在特定的關(guān)鍵詞、用語、表述等方面形成固化形式，有點(diǎn)類似“小編給你說說某件事，某件事是什么呢，小編給你說說”這樣看似合理卻沒有實(shí)際意義的內(nèi)容。

讓人意外的結(jié)果出現(xiàn)了：不僅不同的大模型回答不一樣，即便是同一個(gè)大模型，答案也有偏差。比如，有的答案統(tǒng)計(jì)了康熙所有的兒子數(shù)量，表示共有35人，包括正式排序的兒子和早殤未排序的兒子；有的只列出了正式排序的24個(gè)兒子；還有的沒有任何解釋，列出了兒子的姓名，但順序錯(cuò)亂……

其二，在人工智能生成的文章中，會(huì)出現(xiàn)一些通用關(guān)鍵詞，包括“以下是 XXX 的常見方法和手段”“通過上述手段”等，這其實(shí)是大模型通過檢索信息后進(jìn)行的歸納。公眾如果看到這些關(guān)鍵詞，不妨提高警惕，不要輕信。

對(duì)國(guó)內(nèi)的大模型開發(fā)企業(yè)而言，語料庫短缺問題比較嚴(yán)峻。因?yàn)楫?dāng)前大模型數(shù)據(jù)庫以英文居多，中文語料占比較低。還有，圖表、復(fù)雜公式等元素處理也是大模型語料處理中的“攔路虎”。在金融報(bào)表、行業(yè)報(bào)告等文檔中，表格中的數(shù)據(jù)指標(biāo)至關(guān)重要，但部分大模型并不能正確“理解”表格里行、列、單元格的意義，導(dǎo)致大模型對(duì)整個(gè)表格的識(shí)別結(jié)果產(chǎn)生誤差，最終得出錯(cuò)誤的結(jié)論。

當(dāng)然，從準(zhǔn)確獲取信息的角度看，公眾還是要對(duì)大模型輸出結(jié)果或生成的內(nèi)容保持警惕。眼下，部分自媒體或不法分子開始批量通過人工智能生成各類文章，乍一看似乎與正常的新聞報(bào)道無異，但真實(shí)性大打折扣，不少是為了博眼球之作。

宗良提醒，AI幻覺本質(zhì)上有兩種，一種是完全的“胡說八道”，另一種是部分內(nèi)容不準(zhǔn)確或不完善。對(duì)后者而言，雖然不完全正確，但仍有一定的參考價(jià)值。同時(shí)，也不能完全否定“AI幻覺”的價(jià)值，因?yàn)檫@也是AI創(chuàng)新的起點(diǎn)。

這與大模型的數(shù)據(jù)庫、語料庫、算法、檢索能力乃至“理解能力”等有關(guān)。合合信息智能創(chuàng)新事業(yè)部總經(jīng)理唐琪說，如果將大模型比喻為正在疾馳的科技列車，語料庫便是珍貴的“燃料”，因?yàn)榇竽Ｐ偷挠?xùn)練源自語料庫。

“這正是人工智能‘一本正經(jīng)胡說八道’的表現(xiàn)?！鄙瓿呛镁W(wǎng)民專家、中國(guó)網(wǎng)安協(xié)會(huì)數(shù)據(jù)安全專家、上海臨港數(shù)據(jù)評(píng)估有限公司總監(jiān)宗良接受上海辟謠平臺(tái)專訪時(shí)指出，要注意人工智能大模型造假這一新趨勢(shì)。

他介紹，人工智能“一本正經(jīng)地胡說八道”其實(shí)有個(gè)專有名詞，叫“AI幻覺”，即大模型提供了看似合理但有錯(cuò)漏的答案。如果公眾相信，可能上當(dāng)受騙。

螞蟻集團(tuán)大模型應(yīng)用部總經(jīng)理顧進(jìn)杰指出，目前公開的模型都存在不同類型的“AI幻覺”，大模型給出的結(jié)果甚至可能與真相截然相反。

一方面，對(duì)于AI生成的內(nèi)容，大模型開發(fā)者應(yīng)采取技術(shù)措施添加標(biāo)簽，對(duì)可能導(dǎo)致公眾混淆或者誤認(rèn)的，更要顯著標(biāo)識(shí)。另一方面，信息發(fā)布平臺(tái)要加強(qiáng)管理，督促上傳信息者為AI生成內(nèi)容打標(biāo)簽，幫助公眾區(qū)分。

再比如，一般蠶可以活一個(gè)多月，其中從孵化到結(jié)繭根據(jù)季節(jié)不同，大約是25天至32天，變成蛹后有15天至18天，最后成蛾是1天至3天。可有大模型在介紹這一規(guī)律時(shí)，將蠶結(jié)繭的時(shí)間與成蛹的時(shí)間搞混了，輸出的答案完全誤導(dǎo)了詢問者。

比如，某研究報(bào)告稱功能飲料中的維生素、礦物質(zhì)等對(duì)于運(yùn)動(dòng)后快速補(bǔ)充身體營(yíng)養(yǎng)、消除疲勞具有一定的作用。但大模型在回答相關(guān)問題時(shí)，竟然表示相關(guān)微量元素在增加疲勞上有一定的作用。

基于此，在關(guān)注大模型“無所不能”時(shí)，也要關(guān)注大模型的短板。積極信號(hào)是，越來越多的大模型開發(fā)者開始關(guān)注“可信大模型”。有的開發(fā)出“大模型加速器”，幫助大模型理解圖表等相對(duì)復(fù)雜的語料庫，從源頭為大模型訓(xùn)練與應(yīng)用輸送純凈“燃料”；也有的在大模型開發(fā)中引入對(duì)應(yīng)的技術(shù)，盡量消除“AI幻覺”，助力大模型跑得更快更穩(wěn)。

银河澳门app“康熙皇帝有幾個(gè)兒子”“請(qǐng)列出康熙皇帝兒子的姓名名單”“請(qǐng)給我一份康熙的兒子名單”，將這三條指令發(fā)送給人工智能大模型，猜猜答案是什么？

基于這些“AI幻覺”，專家呼吁，公眾要謹(jǐn)慎看待大模型輸出結(jié)果。雖然“百模大戰(zhàn)”提供了獲取信息的新方式，但不能輕信。事實(shí)上，已經(jīng)出現(xiàn)了大模型為了證明自己沒有錯(cuò)而造假的現(xiàn)象。

事實(shí)上，在今年的世界人工智能大會(huì)上，很多業(yè)界人士都提到了“AI幻覺”“可信大模型”等概念，并披露了多個(gè)人工智能大模型“造假”或“說謊”的案例，希望引起各界關(guān)注。