在科幻电影中，人工智能常被塑造成全知全能的“超级大脑 ” ，但现实中 ，AI却时常表现为“自信的谎言家 ” 。比如，请AI描述“关公战秦琼” ，它不仅能“叙述 ”虚构的故事情节 ，还会“猜测 ”用户喜好，煞有介事地编造不存在的文献档案 。这种现象被称为“AI幻觉” ，已经成为困扰许多人工智能企业和使用者的现实难题。
AI为什么会一本正经地胡说八道？根源在于其思维方式与人类存在本质不同 。今天人们日常使用和接触最多的AI大模型本质上是一个庞大的语言概率预测和生成模型 。它通过分析互联网上数以万亿计的文本 ，学习词语之间的关联规律，再像玩猜词游戏一样 ，逐字逐句生成看似合理的回答。这种机制使AI擅于模仿人类的语言风格 ，但有时缺乏辨别真伪的能力 。
AI幻觉的产生与大模型训练的过程密不可分 。AI的知识体系基本来源于训练时“吞下 ”的数据源。来自互联网的各类信息鱼龙混杂，其中不乏虚假信息、虚构故事和偏见性观点 。这些信息一旦成为AI训练的数据源，就会出现数据源污染 。当某个领域专业数据不足时 ，AI便可能通过模糊性的统计规律来“填补空白 ”。比如 ，将科幻小说中的“黑科技”描述为真实存在的技术。在AI被越来越多地用于信息生产的背景下，AI生成的海量虚构内容和错误信息正在进入训练下一代AI的内容池 ，这种“套娃 ”生态将进一步加剧AI幻觉的产生 。
在大模型训练过程中 ，为了使AI生成满足用户需求的内容，训练者会设置一定的奖励机制——对于数学题等需要逻辑推理的问题 ，往往通过确认答案的正确与否给予奖励；对于写作等开放式命题 ，则需要判断其生成的内容是否符合人类写作习惯 。为了训练效率，这种判断更多关注AI语言的逻辑性和内容格式等指标 ，却忽略了事实的核查。
此外 ，训练过程的缺陷也会导致AI存在“讨好 ”用户的倾向，明知道答案不符合事实 ，也愿意遵照指令生成迎合用户的内容 ，并编造一些虚假的例证或看似科学的术语来支撑自己的“假说” 。这种“角色扮演式”的表达让许多普通用户难以分辨AI幻觉 。上海交通大学媒体与传播学院进行的一项全国抽样调查显示，约七成受访者对大模型生成虚假或错误信息的风险缺乏清晰认知。
如何破解AI幻觉？开发者尝试通过技术手段为AI“纠偏 ” 。比如“检索增强生成 ”技术，这意味着AI在回答前需要从最新的数据库检索相关信息 ，降低“信口开河”概率；一些模型被要求在不确定答案时主动承认“不知道 ” ，而非强行编造答案 。不过，由于目前的AI无法像人类那样理解语言背后的真实世界 ，因此这些方法难以从根本上解决AI幻觉问题。
应对AI幻觉 ，不仅需要技术规制，也需要从公民AI素养普及 、平台责任 、公共传播等维度构建系统性的“幻觉免疫力 ” 。AI素养不仅包含使用AI的基本技能 ，更重要的是对AI幻觉要有基本的认知能力 。明确技术平台的责任边界同样重要 ，AI产品在设计时就应嵌入风险提示机制，自动标记“可能存在事实性错误”等警示内容 ，并提供方便用户进行事实核查和交叉验证的功能。媒体可以通过定期发布AI伪造事实的典型案例 ，进一步培养公众的识别能力 。通过多方联手，智能时代的认知迷雾才能被真正破除 。
（作者为上海交通大学媒体与传播学院特聘教授 ，本报记者黄晓慧采访整理）
牛策略股票配资平台:股票网上网上怎么开户-国常会审议通过《关于深入实施“人工智能+”行动的意见》
股票配资官网平台:网上怎么开户购买股票-多个板块迎来利好！IP经济概念板块全天强势 稳定币概念股再度爆发
配资官网平台:怎样在网上申请股票开户-*ST紫天拉响退市警报！中程退今日摘牌！
靠谱的实盘配资平台:股票网上开户怎么开的-墨西哥计划提高对华关税 中方回应
多少岁可以开户买股票:配资炒股平台官方网站-为人工智能砸下巨额投资是否值得？调查显示人们的担忧正在加剧
股票开户如何办理网上开户:看股票资讯app哪个最好-国家发改委：深入实施“人工智能+”行动要避免无序竞争、一哄而上
炒股配资公司_专业炒股配资网址_股票炒股配资平台提示：文章来自网络，不代表本站观点。
记者｜赵阳戈年初，证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见，市场也将注意力投向了...
记者辛圆随着我国老龄化程度持续加深，对养老照护人才的需求也在增加。教育部网站3月19日发布消息...
现货黄金持续走高，站上3070美元/盎司，日内涨近3%。...
稀土迎重磅利好！ 一是，7月18日早上，国家安全部官微发声，截断稀土相关物项非法出境渠道，有力维护了我资源安全与国...
近期，“反内卷”政策东风劲吹，促使A股市场相关主题行情持续发力，钢铁、水泥、光伏、新能源汽车等板块集体走强。Wind...
广博股份4月11日公告，2024年实现营业收入27.78亿元，同比增长3.26%；归属于上市公司股东的净利润1.52亿元...
2025年上半年，商业银行多措并举补充资本热度不减。 近日，又一家国有大行——邮储银行完成1300亿元定增，预计将...
界面新闻记者|张晓云又见信托...
上期所原油期货夜盘收涨0.83%，报535.7元/桶。沪金主力合约收跌0.47%，报705元/克，沪银主力合约收跌0.6...
界面新闻记者|冯赛琪近日，金元期货（872050.NQ）、福能期货（871101.NQ）两家新三板期货公司相...
为深入贯彻落实党的二十届三中全会、中央经济工作会议和全国两会精神，深入学习领会“稳住楼市股市，防范化解重点领域风险和外部...
4月7日晚间，多家上市公司发布回购与增持计划公告，为资本市场注入一针“强心剂”。具体来看，宁德时代（300750...
消息面上，从央行、金融监管总局、国资委等多部门密集部署，到中央汇金公司积极发挥类“平准基金”作用，再到全国社保基金理事会...
4月9日，港股市场低开高走，港股科技板块反弹幅度居前，恒生指数涨0.68%，恒生科技指数涨2.64%，科技股延续涨势，半...
宏观要闻民政部等11部门发文帮扶农村留守妇女困难群体据民政部网站消息，民政部等11部门日前印发《农村留守...
