官方网站-首页

【导语】近日，知乎“直答”AI搜索功能的升级引发了广泛关注，人们期待这一支持答案全链路溯源的AI问答产品能够有效解决AI生成错误信息的问题。AI在交互过程中时常产生与事实不符的内容，即“AI幻觉”，这源于模型训练数据的局限和算法缺陷。该现象在医疗、司法、教育等领域可能引发严重后果，挑战着人类对于真相的认知边界。如何对抗AI的“幻觉”，保持“数字怀疑(yí)”意(yì)识(shi)，成(chéng)为人机协作时代的重要课题。

近日，知乎“直答”AI搜索功能升级引发关注。不少人期望，这一国内首个支持答案全链路溯源的AI问答产品，真的能治治AI时不时“一本正经地胡说八道”的毛病。

AI幻觉，是指AI在交互时生成与事实不符、缺乏依据的内容。比如，当你给美食AI助手上传一张番茄炒蛋照片，得到的却是“这是一道典型的意大利菜——马苏里拉奶酪配番茄沙拉，建议搭配红酒享用”的反馈。这种源于模型训练数据局限和算法缺陷下的必然，已经严重影响了AI输出信息的可靠性。

无止境的“拼图游戏”

AI为什么会产生“幻觉”呢？

其实，这个过程就像孩童在昏暗的房间里拼凑万花筒一样。当开发者将海量的数据输入到AI系统中时，这些数据就像散落的彩色玻璃碎片一样，杂乱无章。而AI通过深度学习构建认知框架的过程，本质上就是在进行一场无止境的“拼图游戏”。

在自然语言处理领域，像GPT这样的系列模型，平均每个词语的生成都要经历数百亿次的概率计算。这种基于概率的创作机制，虽然让AI能够生成流畅自然的文本，但也时常让它在知识的边界模糊地带“自由发挥”。就像人(rén)类(lèi)在(zài)不(bù)自(zì)觉(jué)中(zhōng)会(huì)填(tián)补(bǔ)视(shì)觉(jué)盲(máng)区(qū)一(yī)样(yàng)，AI也(yě)会(huì)用(yòng)统(tǒng)计(jì)学(xué)上(shàng)认(rèn)为(wèi)“合(hé)理(lǐ)”的(de)内(nèi)容(róng)来(lái)填(tián)补(bǔ)数(shù)据(jù)的(de)空(kōng)白(bái)。

值(zhí)得(de)玩(wán)味(wèi)的(de)是(shì)，人(rén)类(lèi)与(yǔ)AI的(de)互(hù)动(dòng)本(běn)身(shēn)也(yě)在(zài)塑(sù)造(zào)这(zhè)种(zhǒng)“幻(huàn)觉(jué)”。当(dāng)用(yòng)户(hù)反(fǎn)复(fù)追(zhuī)问(wèn)不(bù)存(cún)在(zài)的(de)事(shì)物(wù)时(shí)，AI就(jiù)像(xiàng)被(bèi)观(guān)众(zhòng)要(yào)求(qiú)不(bù)断(duàn)加(jiā)戏(xì)的(de)即(jí)兴(xìng)演(yǎn)员(yuán)一(yī)样(yàng)，最(zuì)终(zhōng)呈(chéng)现(xiàn)的(de)“作(zuò)品(pǐn)”已(yǐ)然(rán)超(chāo)出(chū)了(le)原(yuán)始(shǐ)剧(jù)本(běn)的(de)范(fàn)围(wéi)。这(zhè)种(zhǒng)现(xiàn)象(xiàng)在(zài)心(xīn)理(lǐ)学(xué)上(shàng)被(bèi)称(chēng)为(wèi)“确(què)认(rèn)偏(piān)误(wù)的(de)算(suàn)法(fǎ)镜(jìng)像(xiàng)”，人(rén)类(lèi)的(de)执(zhí)着(zhe)提(tí)问(wèn)与(yǔ)AI的(de)“讨(tǎo)好(hǎo)性(xìng)”回(huí)应(yīng)形(xíng)成(chéng)了(le)闭(bì)环(huán)，共(gòng)同(tóng)编(biān)织(zhī)出(chū)了(le)虚(xū)实(shí)交(jiāo)错(cuò)的(de)叙(xù)事(shì)。

应用中的“蝴蝶效应”

AI产生“幻觉”不可避免，在现实应用中也可能带来一系列的问题。

有医院就曾接诊过一起特殊病例，AI辅助诊断系统将这一普通的皮肤过敏识别为“未知恶性病变”，只因为训练数据中相似的图像多与重症病例关联。这个事件暴露出“AI幻觉”可能带来的“蝴蝶效应”——在医疗、司法、金融等领域，一个算法的偏差就可能引发连锁反应，造成严重的后果。

教育领域也同样面临着挑战。有高校教师发现，学生用AI生成的论文中频繁出现“19世纪量子力学奠基人”等时空错乱的概念。这些“学术幻觉”不仅折射出了知识传播的失真风险，更揭示了新一代学生面临的认知危机：当AI成为知识中介时，我们该如何守护真相的边界？

保持“数字怀疑”意识

我们该如何对抗AI的“幻觉”呢？

第一道防线其实就藏在古老的人类智慧中。硅谷某科技公司就颇具启示性地开展了“红队演习”：他们专门雇佣古典文学学者来挑战AI系统，用荷马史诗中的隐喻陷阱来检验机器的逻辑连贯(guàn)性(xìng)。这(zhè)种(zhǒng)人(rén)文与(yǔ)科(kē)技(jì)的(de)碰(pèng)撞，意外地成为校准AI认知的重要方式。

对(duì)于(yú)普(pǔ)罗(luō)大(dà)众(zhòng)而(ér)言(yán)，我(wǒ)们(men)更需要建立起“数字怀疑”的意识。一位母亲发现育儿AI建议“给婴儿饮用稀释蜂蜜水”时，她没有盲从，而是查阅了权威资料，避免了可能引发肉毒杆菌中毒的风险。这种保持清醒的交互态度，正是人机协作时代的生存(cún)法(fǎ)则(zé)。

站(zhàn)在(zài)文明(míng)演(yǎn)进(jìn)的(de)长(zhǎng)河(hé)中回望，从原始壁画的夸张变形到AI的算法幻想，人类始终在(zài)与(yǔ)“非(fēi)真(zhēn)实(shí)”共(gòng)舞(wǔ)。当(dāng)大(dà)模(mó)型(xíng)偶(ǒu)尔(ěr)在(zài)对(duì)话(huà)中(zhōng)插(chā)入(rù)莎(shā)士(shì)比(bǐ)亚(yà)风(fēng)格(gé)的(de)十(shí)四(sì)行(xíng)诗(shī)时(shí)，当(dāng)文生(shēng)图(tú)工(gōng)具(jù)绘(huì)出(chū)三(sān)只(zhǐ)眼(yǎn)睛(jing)的(de)蒙(méng)娜(nà)丽(lì)莎(shā)时(shí)，这(zhè)些(xiē)数(shù)字(zì)世(shì)界(jiè)的(de)“庄(zhuāng)周(zhōu)梦(mèng)蝶(dié)”，既(jì)是(shì)技(jì)术(shù)局(jú)限(xiàn)性(xìng)的注脚，也暗藏着突破认知边界的可能。在亦真亦幻的辩证中，人类与AI共同谱写的，或许正是这个时代最动人的“科幻现实主义”篇章。

（作者张旅阳 系中国计算机学会科学普及工作委员会委员）