您的当前位置:首页 > 探知 > 为了让你满意,AI宁可骗你 正文
时间:2026-10-20 19:10:33 来源:网络整理 编辑:探知
一不留神,你就会陷入AI编织的梦境。图片由谭畅使用AI工具生成2025年2月底,我在写一篇各城市争哪吒故里的报道时,突发奇想,和DeepSeek聊了聊。我把在安徽蚌埠与四川宜宾采访所得告诉它,要求它查

一不留神,为让你就会陷入AI编织的满意梦境。图片由谭畅使用AI工具生成
2025年2月底,为让我在写一篇各城市争哪吒故里的满意报道时,突发奇想,为让和DeepSeek聊了聊。满意
我把在安徽蚌埠与四川宜宾采访所得告诉它,为让要求它查找更多的满意现有资料,并提供几篇同类报道。为让
接下来DeepSeek的满意回答,让我叹服AI的为让深度思考功能强大——它列举框架中的五个小标题都“很有范”。但其用于支撑论证的满意却是我完全生僻的信息,例如蚌埠市固镇县端午和五一假期游客量同比增长180%,为让宜宾三江口景区的单日游客峰值达到5万人次。
端午和五一还没到,游客量数据就率先出炉了?我开始警惕。
它接着举例:固镇投资2.3亿元用于哪吒主题文旅城,并通过硬核基建路径,文旅局联合发改委的“神话IP赋能乡村振兴”专项基金,过去四年累计计划投入8.7亿元;而宜宾市发起了一场“场景革命”的实验,与某短视频平台合作发起哪吒主题国风创作大赛,话题播放量9亿次……
乍一看,它用词专业,但里面诸多数据和细节,我在采访中从未听说。
它提供的文章,包括媒体近几年刊发的三篇深度报道。看标题,跟我想要的匹配度达100%——《梁祝故里争夺战背后的县域经济焦虑》《一个“孙悟空故里”的诞生与消亡》,以及《杜甫很忙:草堂经济启示录》。
我按图索骥找了一圈,结果一篇原文都没找到。同样帮我查找范本失利的同事说,AI会瞎扯。
我去跟DeepSeek要原文链接,给它一个弥补的机会,它的回答很狡猾:完整内容通常需通过官方渠道或订阅获取,无法直接提供外部链接,可通过一些数据库渠道搜索。
经过一番核查,我最终确认,AI回答我的都是假信息。一个术语就此进入我的视野——AI幻觉(AI Hallucination)。
AI幻觉,通常指人工智能系统在处理或生成信息时,产生看似合理但实际错误或不存在的内容。通俗地讲,就是生成式AI一本正经地胡说八道。很多时候,这种虚假信息会被包装得很真实,不易被察觉。
很多人都被AI欺骗过。在多名受访者的答复中,有人询问第97届奥斯卡金像奖最佳动画长片的内容梗概,发现DeepSeek对得此殊荣的电影也敢虚构情节;有人让ChatGPT结合高考分数推荐可填报的学校和专业,结果推荐方案跟当年实际录取分数完全不匹配,“真要按照它给你的结果填报,就完了。”
关于这个话题,云宏人工智能研究院院长、广东省委社会工作部新兴领域网络社会工作观察员蓝云有过一段魔幻经历,他描述自己在深夜误入了AI编织的一场深度梦境中。
故事发生在2月10日凌晨3点钟左右,有些困乏的蓝云跟DeepSeek聊的
台青创业4.0时代,“两岸是互补的”2026-10-20 18:48
特朗普称美伊谅解备忘录已终结2026-10-20 18:26
6月美联储议息会议纪要出炉,市场反应平平2026-10-20 18:26
加拿大留学都有哪些途径2026-10-20 18:08
重奖食品安全“吹哨人”:最高按罚没款5%奖励|周一健2026-10-20 17:50
美国网坛传奇小威廉姆斯止步温网女单正赛首轮2026-10-20 17:11
“巴威”维持超强台风级强度 逐渐趋向台湾以东洋面2026-10-20 17:04
尹锡悦涉嫌妨碍逮捕案三审被判有期徒刑7年2026-10-20 17:03
伊朗称一艘违规油轮在霍尔木兹海峡南部触雷爆炸起火2026-10-20 16:34
尹锡悦涉嫌妨碍逮捕案三审被判有期徒刑7年2026-10-20 16:33
WTT中国大满贯赛:中国组合王曼昱/蒯曼女双夺冠2026-10-20 19:03
中方敦促美方立即停止对古巴封锁和任何形式胁迫施压2026-10-20 18:19
英国留学申请条件本科2026-10-20 18:13
今年以来全国公安机关共查处网络谣言案8000余起2026-10-20 17:33
再扩大!中国144小时过境免签政策适用口岸增至37个2026-10-20 17:12
日本高中选校重点|理性规划赴日留学2026-10-20 16:52
理科生赴日留学选校规划2026-10-20 16:43
现货黄金有望三连跌,霍尔木兹局势推升油价,FOMC纪要成关键2026-10-20 16:41
职场人士的语言学习路径设计:场景与目标2026-10-20 16:40
“巴威”趋向我国,交通运输部启动台风四级防御响应2026-10-20 16:25