在科幻电影中，人工智能常被塑造成全知全能的“超级大脑 ” ，但现实中 ，AI却时常表现为“自信的谎言家 ” 。比如，请AI描述“关公战秦琼” ，它不仅能“叙述 ”虚构的故事情节 ，还会“猜测 ”用户喜好，煞有介事地编造不存在的文献档案 。这种现象被称为“AI幻觉” ，已经成为困扰许多人工智能企业和使用者的现实难题。
AI为什么会一本正经地胡说八道？根源在于其思维方式与人类存在本质不同 。今天人们日常使用和接触最多的AI大模型本质上是一个庞大的语言概率预测和生成模型 。它通过分析互联网上数以万亿计的文本 ，学习词语之间的关联规律，再像玩猜词游戏一样 ，逐字逐句生成看似合理的回答。这种机制使AI擅于模仿人类的语言风格 ，但有时缺乏辨别真伪的能力 。
AI幻觉的产生与大模型训练的过程密不可分 。AI的知识体系基本来源于训练时“吞下 ”的数据源。来自互联网的各类信息鱼龙混杂，其中不乏虚假信息、虚构故事和偏见性观点 。这些信息一旦成为AI训练的数据源，就会出现数据源污染 。当某个领域专业数据不足时 ，AI便可能通过模糊性的统计规律来“填补空白 ”。比如 ，将科幻小说中的“黑科技”描述为真实存在的技术。在AI被越来越多地用于信息生产的背景下，AI生成的海量虚构内容和错误信息正在进入训练下一代AI的内容池 ，这种“套娃 ”生态将进一步加剧AI幻觉的产生 。
在大模型训练过程中 ，为了使AI生成满足用户需求的内容，训练者会设置一定的奖励机制——对于数学题等需要逻辑推理的问题 ，往往通过确认答案的正确与否给予奖励；对于写作等开放式命题 ，则需要判断其生成的内容是否符合人类写作习惯 。为了训练效率，这种判断更多关注AI语言的逻辑性和内容格式等指标 ，却忽略了事实的核查。
此外 ，训练过程的缺陷也会导致AI存在“讨好 ”用户的倾向，明知道答案不符合事实 ，也愿意遵照指令生成迎合用户的内容 ，并编造一些虚假的例证或看似科学的术语来支撑自己的“假说” 。这种“角色扮演式”的表达让许多普通用户难以分辨AI幻觉 。上海交通大学媒体与传播学院进行的一项全国抽样调查显示，约七成受访者对大模型生成虚假或错误信息的风险缺乏清晰认知。
如何破解AI幻觉？开发者尝试通过技术手段为AI“纠偏 ” 。比如“检索增强生成 ”技术，这意味着AI在回答前需要从最新的数据库检索相关信息 ，降低“信口开河”概率；一些模型被要求在不确定答案时主动承认“不知道 ” ，而非强行编造答案 。不过，由于目前的AI无法像人类那样理解语言背后的真实世界 ，因此这些方法难以从根本上解决AI幻觉问题。
应对AI幻觉 ，不仅需要技术规制，也需要从公民AI素养普及 、平台责任 、公共传播等维度构建系统性的“幻觉免疫力 ” 。AI素养不仅包含使用AI的基本技能 ，更重要的是对AI幻觉要有基本的认知能力 。明确技术平台的责任边界同样重要 ，AI产品在设计时就应嵌入风险提示机制，自动标记“可能存在事实性错误”等警示内容 ，并提供方便用户进行事实核查和交叉验证的功能。媒体可以通过定期发布AI伪造事实的典型案例 ，进一步培养公众的识别能力 。通过多方联手，智能时代的认知迷雾才能被真正破除 。
（作者为上海交通大学媒体与传播学院特聘教授 ，本报记者黄晓慧采访整理）
炒股杠杆是啥意思:怎样网上注册股票开户-*ST紫天财务造假、阻碍执法、年报未披露！存在极大退市风险
股票怎样杠杆:炒股股票怎么开户流程-“苏超”点燃江苏游 出境游同步升温 民航暑运或现量价齐升
十倍杠杆炒股:股票账户开户网上开户流程-引爆上一轮加密货币大崩盘的男人认罪 面临十余年铁窗生涯
炒股加杠杆是什么意思:手机怎样买卖股票-开盘逾百万手封涨停 固态电池领域稀缺题材火了（附名单）
股票开户怎么办理网上:炒股加杠杆叫什么-银行股“牛市”：转债触发强赎潮 有股东错失增持良机
股票收益app:股票怎样网上开户流程-周末要闻汇总：央行最新货币政策报告释放重要信息
红腾网app-专业股票配资公司_股票线上配资_配资服务平台提示：文章来自网络，不代表本站观点。
红腾网app-专业股票配资公司_股票线上配资_配资服务平台㉖投资者在选择股票配资平台时，可以关注其是否具备全球化的运营网络和服务能力，以满足跨国投资者的需求。
记者｜赵阳戈继“遇见小面”后，溜溜果园集团股份有限公司（以下简称溜溜果园）向香港联交所递表，由中信证券、...
当地时间14日，以色列国防军称监测到伊朗对以色列的新一轮导弹袭击。以色列多地再次拉响防空警报，以军称防空系统正在对伊...
3月24日，业内权威专家表示，MLF（中期借贷便利）不再有统一的中标利率，标志着MLF利率的政策属性完全退出。3月24日...
3月24日，易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数，这个指数是什么？有哪些优势？投资价值如何？...
界面新闻记者|陈靖3月1日，财信证券发布了高级管理人员变更的公告。此次变更中，公司新任命了两名高级管...
记者王珍3月23日，国务院参事、清华大学苏世民书院院长薛澜在“中国发展高层论坛2025年年会”间隙接受...
近期美股市场波动显著放大，区域政治风险叠加政策不确定性，或为扰动投资者情绪的核心因素。日前，国海富兰克林基金分析指出，特...
国家卫健委主任雷海潮在参加十四届全国人大三次会议江苏代表团开放团组会议时指出，人口问题仍是一个需要深入和动态研究的重要问...
2025年4月11日，邦德股份（838171.BJ）发布了限售股份上市流通公告。本次股份上市类型为发行前股份限售流通，上...
今日A股反弹，大消费震荡回调。消费ETF（159928）三连阳后首度回调，全天成交额8.55亿元。资金持续涌入，全天再获...
【导读】*ST天喻及实控人之一、*ST海越被证监会立案 6月6日晚间，*ST天喻（300205）公告称，因涉嫌信息...
界面新闻记者|杨志锦界面新闻编辑|王姝建设银行3月末披露的2024年年报显示，2024年该行利润总额下降...
美东时间4月10日，美国多家电影公司的股价大幅下跌。华特迪士尼和华纳兄弟探索公司的股价当日分别下跌6.79%和12.53...
10年期美债收益率站上4.5%，为2月中旬以来首次。(金十数据APP)...
作者：ACE1.对于中国的互联网大亨来说，刚刚过去的2021年，是被载入史册的一年。只不过，载入...
