2025年5月15日,玄学中国信息通信研究院人工智能研究所公布了大模型幻觉测试的幻觉第一期结果:包括DeepSeek R1在内的15个主流模型,无一例外都存在不同程度的捕手“幻觉”。

“幻觉”一词源于生物学,更像运用在人工智能领域,玄学始于谷歌2017年的幻觉www. 7c一项研究。当时研究员们模仿人类的捕手神经网络,设计了一个机器翻译系统。更像

结果发现这个网络翻译系统哪怕“不会”,玄学仍能输出一段流畅的幻觉内容。过去,捕手谷歌传统的更像翻译系统遇到不会的单词,很多时候会保留原文。玄学于是幻觉,研究人员把神经翻译系统这种更有“迷惑性”的捕手错误命名为“幻觉”。

一个著名的幻觉案例是,2024年7月,Scale AI的高级提示工程师莱利·古德赛德向当时世界最强三大模型(GPT-4o、Gemini Advanced、Claude 3.5 Sonnet)询问,“9.11和9.9哪个更大?有妖精漫画在线阅读免费漫画阅读”它们异口同声回答:“9.11更大。”

ChatGPT并非全球首个大模型,Meta和谷歌此前也推出过类似产品。其中,Meta的Galactica AI因幻觉严重,上线仅三天便被撤回。

ChatGPT之所以被视为划时代产品,正是因其首次将幻觉率压低到可接受范围。从ChatGPT-3.5到o3,两年来模型性能持续提升,人们逐渐形成一种假设:模型越聪明,韩剧gogogo高清免费播放越不会出错。

直到2025年4月,OpenAI在一篇论文中泼了冷水:在其内部测试中,最新的推理模型o3比前一代推理模型o1的幻觉率更高。

这一反直觉的发现令整个行业都神经紧张,如果智能提升的同时,也增强了“伪装错误”的能力,那更聪明的推理大模型带来的不是更高的可靠性,而是更难察觉的风险。

不过,爱液不需下载直接观看中国信息通信研究院刚刚出炉的这份测评结果,让业界可以稍感安慰。他们的结果显示,推理模型相对于通用模型,幻觉问题更轻。这说明推理过程一定程度上有助于缓解幻觉。

那么,这些测评结果究竟能说明什么?更聪明的模型,真的更会“说谎”吗?人类能不能彻底消灭“幻觉”?

一次次测试中,黑一鸣偶尔会陷入一个哲学思考,91·黄“子非鱼,焉知鱼之乐也?”视觉中国 图

幻觉捕手

2025年春节,中国信息通信研究院人工智能研究所的研究员黑一鸣整个假期都泡在论文堆里,为了寻找捕捉这种“大模型幻觉”的方法。

黑一鸣身高接近1.9米,2023年博士毕业。那是他读博的最后一年,大模型时代突如其来,打乱了所有人的节奏,“我这一届还好,下一届的学弟学妹,如果毕业论文里没大模型,会被认为没有跟进最新研究,被质疑创新性。”

原本专攻网络内容安全的黑一鸣,也在毕业后转向大模型研究,加入中国信息通信研究院人工智能研究所,成为一名研究员。当时,国内大模型纷纷要进行安全备案,研究所为各大模型企业提供安全测评,重点评估输出内容的合规性与越狱攻击等风险。黑一鸣最初负责的,正是这项安全测评工作。

随着行业从“百模大战”走向大模型在真实业务中的落地,关注的焦点也悄然转移。黑一鸣感觉到,过去一年,来自金融、医疗、法律等高风险行业的咨询明显增加。

这些领域容错率极低,对潜在风险格外敏感。“比如银行的客户服务机器人,跟客户交流时,它输出的内容会不会违背既有政策,大家特别担心。”

一个最新的例子来自全球知名的人工智能编程软件公司 Cursor。作为目前最成功的大模型应用之一,它已将客服业务完全交由AI处

刘宇宁范丞丞齐聚江苏春晚 酷狗音乐独家上线

  这两天,范丞丞、胡夏、摩登兄弟刘宇宁、欧阳娜娜、郁可唯、赵露思、郑云龙等人气实力音乐人陆续官宣加盟江苏卫视春晚,正版音源也将于1月25日大年初一晚19:30同步上线酷狗音乐,超强悍嘉宾阵容引爆全网期待值!

  新生代偶像范丞丞的惊喜加盟让全网沸腾!2019年,范丞丞“大动作”不断,先是在神话新武侠剧《灵域》中首次担纲男主角,随后又在爆款旅游综艺《青春环游记》中凭借率真个性和青春能量圈粉无数~范丞丞的音乐风格和影响力也受到主流媒体的青睐,在新中国成立70周年之际,范丞丞演唱《与未来对话》献礼祖国,酷狗热评火速飙破999+!

  能将风格各异的经典单曲演绎出个人特色的摩登兄弟刘宇宁,同样拥有超高呼声!去年,超宠粉的“老大”刘宇宁不仅继续推出令人惊艳的翻唱单曲,还陆续发布了《不求》《乞丐》《人造卫星情人》等个人原创单曲,在酷狗音乐刷爆上万热评!不得不说刘宇宁的烟嗓爆发力和风格驾驭力,真的太6了~

  拥有迷人酒窝的甜酷女孩欧阳娜娜官宣加盟江苏春晚,更吸引无数网友关注!一边在世界级名校伯克利音乐学院就读,一边逐梦娱乐圈,全能的娜娜几乎活成了无数追星女孩的梦想~2019年,娜娜在成年之际送给自己的原创新单《To Me》,跳出以往少女时代的气味,更让酷狗网友看到另一个特别的自己,期待在江苏春晚看到更加百变的娜娜!

  1月25日大年初一晚19:30,锁定江苏卫视春晚,和家人朋友一起,享受超人气唱将范丞丞、胡夏、摩登兄弟刘宇宁、欧阳娜娜、郁可唯、赵露思、郑云龙等带来的超级跨年演唱会!所有音源将零时差上线酷狗音乐,等你循环~

助企“复元气” 晋江举办纾困贷款对接会

为推动各方加大对疫情重点村工业企业资金投放,帮助企业抗疫纾困,日前,晋江市工信局联合陈埭镇溪边村防控办、国网晋江市供电公司、晋江市农商银行,晋江市厚信融资担保有限公司在溪边小学举行“抗疫情、保运行”纾困贷款业务推介对接活动。

据了解,本次活动共有30家企业参加。当天27家企业与电网公司对接“电e贷”金融产品, 17家企业与农商银行对接第六期纾困贷款,总意向金额约为4200万元。

“此次活动主要是为了降低疫情对企业发展产生的不良影响,缓解企业资金压力,让企业满负荷生产,快速‘复元气’。”晋江市工信局副局长陈连智表示,纾困资金财政贴息额度可达到1000万元,适合于中小企业。(泉州晚报记者 王宇静)