日前，江蘇一顧客用AI軟件預約餐廳，到店后卻被告知無預約記錄，怒寫差評，商家稱不支持AI訂座，AI軟件平臺也坦言無實際預約功能，部分用戶誤將模擬信息視為有效憑證。這起看似笑話的真實糾紛，正是AI幻覺的典型寫照。

所謂AI幻覺，是指AI生成看似真實合理卻完全虛構或錯誤的信息。隨著AI滲透到生活工作的方方面面，其“一本正經(jīng)胡說八道”的幻覺問題日益凸顯。當AI越來越“能干”，我們更需補上理性認知、風險規(guī)范的“常識課”。技術跑得再快，也不能把常識甩在身后。

近年來，類似AI幻覺的事件頻發(fā)。比如，有考生家屬用AI平臺查詢高校報考信息，AI生成了不準確信息，還提出若生成內容有誤將賠償；有人在搜索自己的姓名和職務時，“AI智能回答”竟編造出他曾“被判三年有期徒刑”的虛假內容，并配有照片；AI編造不存在的論文引用、虛構名人信息等情況，更是屢見不鮮。這些AI生成內容與客觀事實的嚴重錯位，小則引發(fā)糾紛、鬧出笑話，大則誤導公眾認知、擾亂社會秩序，致使人們做出錯誤決策，可能埋下法律與安全隱患。

AI幻覺何以屢屢產(chǎn)生？技術層面而言，它源于AI開發(fā)與運行的底層邏輯。AI大模型的一個運行核心，是學習海量文本中的語言概率、語義搭配、句式邏輯等統(tǒng)計規(guī)律。同時，AI訓練數(shù)據(jù)難以覆蓋所有知識，一旦遇到錯誤、過時甚至故意“投毒”的信息，AI大概率只會“照單全收”，很難辨別真?zhèn)?、剔除謬誤。更重要的一點是，一些AI生成內容追求快速流暢而非嚴謹準確，有的AI軟件更是將用戶滿意度最大化作為訓練目標。在這種模型導向下，模型優(yōu)先保證的是文本連貫自然和用戶體驗滿意。當AI遇到“拿不準”的信息時，更傾向于編造出一個流暢合理而非真實準確的答案，就像網(wǎng)友調侃的那樣，“做事瞎糊弄，被抓包就嬉皮笑臉道歉，情緒穩(wěn)定且下次還敢”。

面對AI幻覺產(chǎn)生的謬誤和風險，平臺、社會和用戶都需補齊“常識課”。

對于AI平臺而言，當務之急是補上技術規(guī)范與責任邊界的課程。一方面，優(yōu)化模型架構，匹配檢索增強生成技術，降低AI生成幻覺信息的概率。同時，凈化語料池，建立事實核查機制，對金融、醫(yī)療、法律、政務等專業(yè)敏感領域內容進行重點校驗。另一方面，明確責任邊界，對生成內容強制標注來源和風險提醒，讓用戶清晰了解AI生成的局限性與風險。

社會要補上AI素養(yǎng)與監(jiān)管治理課。比如，加強全民AI素養(yǎng)教育，將AI基本原理、幻覺風險、核驗方法等納入科普范圍。同時，完善監(jiān)管規(guī)則，明確AI平臺的責任義務，對故意夸大功能、放任幻覺蔓延的平臺或軟件依法追責。此外，鼓勵AI行業(yè)共建可信數(shù)據(jù)源的白名單，推動AI技術以“準確優(yōu)先、兼顧流暢”為目標，從源頭降低幻覺風險。

用戶則要補上理性認知與信息核驗的課程。面對AI的輸出內容，心里那根“求證”的弦不能松。唯有平臺守規(guī)矩、社會強治理、用戶明認知，才能讓AI技術行穩(wěn)致遠，真正成為社會發(fā)展的可靠助力。

（來源：人民日報）