2025年，注定是AI智能體爆發(fā)元年。

在這場流量和技術狂歡中，新技術動輒冠以“站起來”的光環(huán)，在這樣的主旋律下，AI數(shù)據(jù)、案例烏龍往往被淹沒在洶涌的正向洪流中，更有甚者提出問題會被懷疑居心。

但隨著AI應用的深入，時下最火的DeepSeek也不可避免深陷“幻覺陷阱”泥潭。

一方面，從醫(yī)療診斷中的虛假處方，到法律文書中的虛構(gòu)案例，再到新聞事件傳播中的合成信息，AI的“謊言”正以流暢的邏輯、專業(yè)的表述滲透到現(xiàn)實。

今年2月，如果不是長期從事人口研究的中國人民大學教授李婷的公開辟謠，很多人都對“中國80后累計死亡率為5.20%”這組數(shù)據(jù)深信不疑，其背后原因很有可能是AI大模型出錯。

另一方面，AI大模型也正成為謠言的放大器，從新聞消息到股市“黑嘴”，從網(wǎng)絡平臺虛假信息到被納入信源范圍、再到錯誤答案或謠言，已經(jīng)形成完整閉環(huán)，從超一線明星到眾多上市公司都被迫成為主角。

如最近瘋傳的“超一線明星在澳門輸了10億”的消息持續(xù)發(fā)酵，最后被證實是網(wǎng)民徐某強（男，36歲）為博取流量、謀取非法利益，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為“頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯”的謠言信息，最終被處以行政拘留8日的處罰。

再比如華勝天成、慈星股份因DeepSeek被推上風口浪尖等。

當AI幻覺從技術缺陷變?yōu)樯鐣栴}，人類該如何重建對AI的信任圍墻。

AI幻覺的本質(zhì)

技術“想象力”的另一面

什么是AI幻覺？

簡單來說，AI幻覺指的是AI也像人產(chǎn)生心理幻覺一樣，在遇到自己不熟悉、不在知識范圍的問題，編造難以明辨真假的細節(jié)，生成與事實相悖的答案，更籠統(tǒng)些，AI胡說八道的本領就是AI幻覺。

在現(xiàn)有技術水平下，AI幻覺比例其實非常高。來自Vectara機器學習團隊的幻覺測試顯示，截止到2025年2月28日，各主流AI大模型都或多或少存在AI幻覺問題。其中時下最火的

DeepSeek-R1，幻覺率高達14.3%，遠超行業(yè)其他推理模型。數(shù)據(jù)顯示，即使是DeepSeek-V3，幻覺率也高達3.9%，OpenAI-o1的測試結(jié)果是2.4%。

圖片來源于Vectara

AI為什么會產(chǎn)生幻覺，要了解這個問題，首先要明白AI大模型的技術根源。

大模型的本質(zhì)是一種對人類知識的數(shù)學化和統(tǒng)一化，背后是Transformer架構(gòu)的出現(xiàn)、算力的提升、以及互聯(lián)網(wǎng)海量文本及數(shù)據(jù)量的爆炸式增長。

其實AI大模型的工作流程比較清晰，輸入文本 → 拆分為token → 神經(jīng)網(wǎng)絡數(shù)學變換 → 自注意力分析上下文 → 計算所有可能詞的概率 → 選擇輸出詞 → 循環(huán)生成結(jié)果。

整個過程本質(zhì)是通過海量數(shù)據(jù)訓練，讓模型學習文本中的統(tǒng)計規(guī)律（如詞與詞的搭配概率、語義關聯(lián)），而非真正“理解”內(nèi)容。Transformer架構(gòu)的生成邏輯，實則是場精心設計的賭博。每個token選擇都是有概率分布的輪盤賭，當模型在“三馬前兩個是馬云、馬化騰”詞條后以更高的概率選中“馬明哲”時，馬明哲就會成為問題的答案。

根據(jù)這個工作流程可以發(fā)現(xiàn)，AI幻覺的共性原因主要歸結(jié)以下三點。

第一，基礎訓練數(shù)據(jù)的病根。

互聯(lián)網(wǎng)發(fā)展幾十年來，從來沒有過信息精細化時代，無論是過去還是現(xiàn)在，互聯(lián)網(wǎng)語料庫的參差不齊和無法保障的準確度，都從根本上為AI幻覺埋下了病根。

無論是訓練中可能包含的錯誤、偏見、虛構(gòu)或者不完整的信息，模型自然會學習并復現(xiàn)這些錯誤。另外，如果問題超出訓練數(shù)據(jù)的覆蓋范圍，模型可能依賴統(tǒng)計模式“編造”答案，而非基于真實知識。

第二，概率生成機制的設計矛盾。

通常來說，AI大模型被要求“流暢回答”而非“謹慎求證”，訓練時更關注生成文本的流暢性（如語法正確、上下文連貫），而非事實準確性。因此在被提問到冷門問題時，AI寧可編造細節(jié)也不會回答“我不知道”。

與此同時，AI大模型生成過程中沒有內(nèi)置機制（如實時訪問數(shù)據(jù)庫）驗證事實，導致錯誤無法被發(fā)現(xiàn)并及時修正。

第三，無法真正理解人類思維。

AI不具備人類的常識或物理世界的體驗，無法驗證生成內(nèi)容是否符合現(xiàn)實邏輯，在某些任務上過度擬合訓練數(shù)據(jù)或者泛化能力不足時，都有可能生成不合理內(nèi)容。

此外，在通過人類反饋強化學習（RLHF）優(yōu)化模型時，會出現(xiàn)過度迎合用戶期望，比如提供看似詳實的回答，而非嚴格追求真實。

因此，AI幻覺實則是從“數(shù)據(jù)缺陷”到“設計矛盾”的綜合作用下的產(chǎn)物，是一種必然。

那么，為什么DeepSeek幻覺率要明顯高很多？答案藏在其出色的推理能力里。

在Vectara機器學習團隊的研究里，通過HHEM 2.1 來分析幻覺率，發(fā)現(xiàn)DeepSeek-R1 在幻覺率上比 DeepSeek-V3 高出了 大約 4 倍。

圖片來源于Vectara

研究人員進一步提出，推理增強的模型可能會產(chǎn)生更多幻覺，而這一點在其他推理增強模型中也有所體現(xiàn)。例如，GPT 系列的 GPT-o1（推理增強）和 GPT-4o（普通版）之間的對比顯示，推理增強模型的幻覺率通常也較高。

圖片來源于Vectara

以此來看，推理增強模型可能會更容易產(chǎn)生幻覺，因為它們在推理過程中處理了更多復雜的推理邏輯，可能因此產(chǎn)生更多無法與數(shù)據(jù)源完全匹配的內(nèi)容。

DeepSeek-R1 的推理能力雖然強大，但伴隨其而來的幻覺問題也更為明顯。但相較于DeepSeek， GPT-o1 的幻覺率較 GPT-4o 差距沒有那么大，因此在實測階段，GPT 系列在推理與幻覺之間的平衡顯然做得比 DeepSeek好。

較高的幻覺率，更容易生成與真實數(shù)據(jù)不符或者偏離用戶指令的現(xiàn)場，而在醫(yī)療、法律、金融等對準確性要求高的領域，AI會帶來嚴重的后果。

DeepSeek-R1在這方面尤其明顯，在撰寫專業(yè)內(nèi)容時，盡管已經(jīng)前置化要求信源準確，但DeepSeek給出的答案依然差強人意。在討論AI醫(yī)療方面的問題，DeepSeek給出了詳細的數(shù)據(jù)及信源，但圖中所有數(shù)據(jù)及信源，絕大部分為虛構(gòu)。例如DeepSeek回答中的Google的Vision Transformer ViT-22B，2023年報告達90.45%，實際上是Transformer進階版ViT-G/14在2021年的數(shù)據(jù)，

在比如“AI系統(tǒng)（如Google Health 2023年研究）在乳腺鉬靶影像中達到92%準確率，略低于人類放射科醫(yī)生的96.3%（NHS臨床試驗數(shù)據(jù)）”中，實際上是Google Health在2020年《自然》上發(fā)表的論文，其中結(jié)論是研究人員讓人工智能系統(tǒng)與6名放射科醫(yī)生進行對比，結(jié)果發(fā)現(xiàn)人工智能系統(tǒng)在準確檢測乳腺癌方面優(yōu)于放射科醫(yī)生，DeepSeek顯然張冠李戴的同時，又以極專業(yè)的表述讓人信服。

再比如，當詢問DeepSeek中國醫(yī)院AI醫(yī)療布局情況，DeepSeek給出的回答同樣漏洞百出，經(jīng)核查大部分為虛構(gòu)信息。

早在去年，互聯(lián)網(wǎng)大佬周鴻祎和李彥宏就曾因為AI幻覺問題進行過觀點交鋒。

在去年全球互聯(lián)網(wǎng)大會上，周鴻祎明確指出，大模型幻覺不可消除，幻覺是大模型與生俱來的特點，沒有幻覺就沒有智能，人與很多動物的區(qū)別就是人能描繪不存在的事情，這就叫杜撰的能力。

而在那之前，李彥宏表示“要想基于大模型開發(fā)應用，消除幻覺是必須的，如果這個模型總是一本正經(jīng)地胡說八道，就不會有人信你，就不會有應用。”并強調(diào)經(jīng)歷了2年左右的發(fā)展，大模型基本消除了幻覺，它回答問題的準確性大幅提升了，這讓AI變得可用、可被信賴。

事實上，周鴻祎和李彥宏的觀點基本上是行業(yè)中對于AI幻覺的兩個看法，怕AI沒有創(chuàng)造力，又怕AI亂幻想。但就現(xiàn)階段而言，AI幻覺的危害已經(jīng)顯現(xiàn)出來。

當AI開始說謊

人類后真相時代可能提前到來

毫無疑問，AI幻覺，正在侵蝕人類真實世界，我們正面臨一場前所未有的信息真實性“戰(zhàn)爭”。

據(jù)南都大數(shù)據(jù)研究院發(fā)布的“AI新治向”專題報道，2024年搜索熱度較高的50個國內(nèi)AI風險相關輿情案例中，超1/5與AI造謠有關，AI謠言，已經(jīng)成為社會公害。

另外，68%的網(wǎng)民曾因AI生成的“專家解讀”“權(quán)威數(shù)據(jù)”而誤信謠言。作為新技術，很多人對AI給出的答案深信不疑，但AI數(shù)據(jù)的真實性卻無人擔保。

中國信通院相關負責人透露，中國信通院曾做過試驗，當在特定論壇連續(xù)發(fā)布百余條虛假信息后，主流大模型對對標問題的回答置信度就會從百分之十幾快速飆升。這就像在純凈水中滴入墨水，當污染源足夠密集，整個知識體系都會被扭曲。

今年年初，紐約大學研究團隊在《自然醫(yī)學》雜志上發(fā)表的論文中指出，如果訓練數(shù)據(jù)中被注入了虛假信息，LLM模型依然可能在一些開放源代碼的評估基準上表現(xiàn)得與未受影響的模型一樣好。這意味著，我們可能無法察覺到這些模型潛在的風險。

為了驗證這一點，研究團隊對一個名為 “The Pile” 的訓練數(shù)據(jù)集進行了實驗，他們在其中故意加入了150，000篇 AI 生成的醫(yī)療虛假文章。僅用24小時，他們就生成了這些內(nèi)容，研究表明，給數(shù)據(jù)集替換0.001% 的內(nèi)容，即使是一個小小的1百萬個訓練標記，也能導致有害內(nèi)容增加4.8%。這個過程的成本極其低廉，僅花費了5美元。

如今這些漏洞，正在被大肆利用，通過自動化腳本在多個論壇同步投放虛假信息，接著利用爬蟲技術加速搜索引擎收錄，最后用污染后的AI回答進行社交媒體裂變傳播，已經(jīng)形成一個完整黑色產(chǎn)業(yè)鏈。

美國麻省理工學院傳媒實驗室曾在一個報告中表示，假新聞在社交媒體的傳播速度是真實新聞的6倍。而如今，AI加持下，謠言生產(chǎn)成本會大幅降低。

在公共安全事故中，AI謠言不僅會擾亂視聽、干擾救援節(jié)奏，還容易引發(fā)民眾恐慌。當造謠者通過收割流量，社會付出的代價其實是信任的崩塌與秩序的混亂。

不夸張的說，AI所制造的虛假信息已經(jīng)影響了美國政治，如特朗普在競選中所引用的非法移民食用寵物的圖片，就是AI合成；而馬斯克所引用的USAID付給克林頓女兒切爾西·克林頓8400萬美元的信息，也是AI所編造。

世界經(jīng)濟論壇發(fā)布的《2025年全球風險報告》顯示，“錯誤和虛假信息”是2025年全球面臨的五大風險之一，從新聞到股市到謠言，AI正成為沒有情感的幫兇。

與之對應的醫(yī)療風險、法律陷阱和學術造假，也會短時間成為社會公害。

更嚴重的是，我們可能會提前進入后真相時代。

牛津字典把“后真相”定義為“訴諸情感及個人信念，較客觀事實更能影響民意”。

和“網(wǎng)絡謠言”、“虛假信息”和“宣傳操控”等話題的關注點有所不同，“后真相”并不強調(diào)信息準確與否的重要性，而是強調(diào)輿論分裂和極化的根本原因，是人們傾向于選擇那些他們更愿意接受的信息，并將其當做“真相”。

在娛樂至上的現(xiàn)在，人們往往在還沒弄清楚真相的同時，就已經(jīng)在情緒的驅(qū)動下莫名其妙站了隊。而真相從來不是單一維度的，它是由多層次、多角度的復雜信息交織而成的。從利用AI幻覺，到利用AI制造幻覺，AI正以人類未曾想過的方式影響著這個世界。

錯的或許不是AI，是利用AI缺陷的人，但在流量時代，人類信息甄別能力在喪失，這不是一個好現(xiàn)象。因此，是時候行動起來了。

如何應對AI幻覺泛濫

技術修補和社會聯(lián)防外更需自身謹慎

AI幻覺問題本身是AI技術問題，在短時間內(nèi)也很難通過技術手段完全規(guī)避。

但借助網(wǎng)絡和社交媒體，前沿技術潮流到普通民眾的速度太快了，很多人都還沒做好接受新技術的準備，就被涌來的浪潮裹挾前行，更有甚者成為了鐮刀或韭菜。

AI幻覺治理，已經(jīng)箭在弦上，具體方案無外乎技術修補和社會聯(lián)防。

技術修補主要依賴技術平臺和內(nèi)容平臺雙向努力。

在技術修補層面，各AI大模型平臺都需要慎重處理互聯(lián)網(wǎng)海量文本篩選，加強數(shù)據(jù)監(jiān)管，確保AI訓練數(shù)據(jù)的真實性和合法性，防止數(shù)據(jù)污染。

同時要通過AI技術比如自然語言處理（NLP）技術，分析數(shù)據(jù)的語義、邏輯結(jié)構(gòu)，識別文本中的矛盾、不合理表述，盡量避免數(shù)據(jù)投喂中涌入虛假信息。

此外，要合理處理推理能力和準確性的平衡。前文說到，DeepSeek-R1有較高的幻覺率，但其在推理能力方面確實較為出色，創(chuàng)造力和準確度，是AI大模型天平的兩端，任何一端失衡，都會出現(xiàn)致命問題。

目前已經(jīng)有很多團隊在開發(fā)AI生成內(nèi)容檢測技術，讓AI生成內(nèi)容自帶“水印”等隱藏符號，也能夠有效甄別AI幻覺生成內(nèi)容。如騰訊混元安全團隊朱雀實驗室研發(fā)了一款AI生成圖片檢測系統(tǒng)，通過AI模型來捕捉真實圖片與AI生圖之間的各類差異，最終測試檢出率達95%以上，以后此類工具和技術會越來越多。

對于內(nèi)容平臺來說，互聯(lián)網(wǎng)上海量數(shù)據(jù)，絕大部分以內(nèi)容平臺為信息傳播渠道。無論是百度、抖音、今日頭條、微博、快手還是小紅書，都應該守好內(nèi)容底線，及時發(fā)現(xiàn)，及時治理，及時辟謠，同時要組建專業(yè)審核團隊，不讓AI幻覺產(chǎn)出的內(nèi)容及利用AI產(chǎn)出的虛假內(nèi)容在互聯(lián)網(wǎng)擴散。

與此同時，相關法律法規(guī)和政策也需要盡快落實。更重要的是，用戶自己要學會辨別虛假信息，加強防范意識。對AI堅持“保持警惕，交叉驗證，引導模型，聯(lián)網(wǎng)搜索和享受創(chuàng)意”的原則，謹慎且擁抱。

就目前而言，無論是今日頭條、還是百家號亦或是微信公眾號，AI生成內(nèi)容已經(jīng)泛濫，如何治理，是各平臺亟需思考的問題。

但有一點是可以肯定的，對于DeepSeek等AI大模型來說，AI技術的科技之光，不能讓深信它們的普通民眾為漏洞買單。

來源：數(shù)據(jù)猿