2025年5月15日,玄学中国信息通信研究院人工智能研究所公布了大模型幻觉测试的幻觉第一期结果:包括DeepSeek R1在内的15个主流模型,无一例外都存在不同程度的捕手“幻觉”。

“幻觉”一词源于生物学,更像运用在人工智能领域,玄学始于谷歌2017年的幻觉男人的 伸到 里视频网站一项研究。当时研究员们模仿人类的捕手神经网络,设计了一个机器翻译系统。更像

结果发现这个网络翻译系统哪怕“不会”,玄学仍能输出一段流畅的幻觉内容。过去,捕手谷歌传统的更像翻译系统遇到不会的单词,很多时候会保留原文。玄学于是幻觉,研究人员把神经翻译系统这种更有“迷惑性”的捕手错误命名为“幻觉”。

一个著名的幻觉案例是,2024年7月,Scale AI的高级提示工程师莱利·古德赛德向当时世界最强三大模型(GPT-4o、Gemini Advanced、Claude 3.5 Sonnet)询问,“9.11和9.9哪个更大?ady7”它们异口同声回答:“9.11更大。”

ChatGPT并非全球首个大模型,Meta和谷歌此前也推出过类似产品。其中,Meta的Galactica AI因幻觉严重,上线仅三天便被撤回。

ChatGPT之所以被视为划时代产品,正是因其首次将幻觉率压低到可接受范围。从ChatGPT-3.5到o3,两年来模型性能持续提升,人们逐渐形成一种假设:模型越聪明,tvb8越不会出错。

直到2025年4月,OpenAI在一篇论文中泼了冷水:在其内部测试中,最新的推理模型o3比前一代推理模型o1的幻觉率更高。

这一反直觉的发现令整个行业都神经紧张,如果智能提升的同时,也增强了“伪装错误”的能力,那更聪明的推理大模型带来的不是更高的可靠性,而是更难察觉的风险。

不过,台湾公视中国信息通信研究院刚刚出炉的这份测评结果,让业界可以稍感安慰。他们的结果显示,推理模型相对于通用模型,幻觉问题更轻。这说明推理过程一定程度上有助于缓解幻觉。

那么,这些测评结果究竟能说明什么?更聪明的模型,真的更会“说谎”吗?人类能不能彻底消灭“幻觉”?

一次次测试中,黑一鸣偶尔会陷入一个哲学思考,国色天香网“子非鱼,焉知鱼之乐也?”视觉中国 图

幻觉捕手

2025年春节,中国信息通信研究院人工智能研究所的研究员黑一鸣整个假期都泡在论文堆里,为了寻找捕捉这种“大模型幻觉”的方法。

黑一鸣身高接近1.9米,2023年博士毕业。那是他读博的最后一年,大模型时代突如其来,打乱了所有人的节奏,“我这一届还好,下一届的学弟学妹,如果毕业论文里没大模型,会被认为没有跟进最新研究,被质疑创新性。”

原本专攻网络内容安全的黑一鸣,也在毕业后转向大模型研究,加入中国信息通信研究院人工智能研究所,成为一名研究员。当时,国内大模型纷纷要进行安全备案,研究所为各大模型企业提供安全测评,重点评估输出内容的合规性与越狱攻击等风险。黑一鸣最初负责的,正是这项安全测评工作。

随着行业从“百模大战”走向大模型在真实业务中的落地,关注的焦点也悄然转移。黑一鸣感觉到,过去一年,来自金融、医疗、法律等高风险行业的咨询明显增加。

这些领域容错率极低,对潜在风险格外敏感。“比如银行的客户服务机器人,跟客户交流时,它输出的内容会不会违背既有政策,大家特别担心。”

一个最新的例子来自全球知名的人工智能编程软件公司 Cursor。作为目前最成功的大模型应用之一,它已将客服业务完全交由AI处

泉州各级各有关部门开展政法队伍教育整顿

政法队伍教育整顿 学习教育亮点纷呈

连日来,泉州各级政法部门迅速行动、精心组织,周密安排,坚持以学习教育为先,紧扣忠诚纯洁可靠这一根本要求,结合党史学习教育,围绕政治教育、警示教育、英模教育三个方面,进一步推动全市政法队伍教育整顿。

鲤城公安分局开展队伍教育整顿专题党课,要求对标对表,高质量完成队伍教育整顿“规定动作”;讲通说透,全面彻底打消民警思想顾虑;补齐短板,奠定公安工作发展的坚实基础;统筹结合,努力推动各项公安工作提档升级。

丰泽区委政法委组织全体干部职工观看公安二级英模、革命烈士傅敏超先进事迹报告片,弘扬英模精神,激励干部职工牢记初心使命、勇于担当作为。大家纷纷表示要向傅敏超同志学习,坚定理想信念、坚守人民立场,忠诚履职、担当作为。

洛江区举行全区政法队伍教育整顿专题党课,要求坚持负面警示与正向激励相结合,统筹抓好系统整治、专项突破,分类梳理问题台账,列出整改清单,明确整改时限,不断净化执法司法环境,切实解决群众急难愁盼的具体问题。

晋江市开展政法队伍教育整顿专题党课,要求聚焦六大顽瘴痼疾,抓好学习教育、查纠整改、总结提升等各环节工作,做到学查改相结合,用工作成效检验活动成果,不断完善执法司法制约监督、提升司法公信力、提高人民群众满意度。

南安市委政法委组织干部职工到官桥镇开展党史学习教育集体参观学习活动,并开展党史学习教育专题授课。全体干部党员表示,将进一步强化思想认识,增强政治自觉和政治担当,确保教育整顿顺利推进。

永春县司法局开展“法治体检”送法律进企业专项活动,认真解答企业负责人、职工法律咨询,帮助解决法律问题;同时,聚焦法律服务企业的重难点问题,虚心听取、了解他们对开展学习教育整顿的意见建议,帮助中小微企业健康发展。(记者林铭珊)

许光汉柯佳嬿齐聚酷狗直播 开启《想见你》专场音乐会

  “所以暂时将你眼睛闭了起来,黑暗之中漂浮我的期待……”虽然距离大热台剧《想见你》完结已经将近两个月,全网剧迷还在为李子维和黄雨萱的“神仙”爱情持续“上头”中。

  为广大《想见你》剧迷谋福利,酷狗直播贴心送上顶级“售后服务”,4月15日晚上20:00,《想见你》主演许光汉、柯佳嬿、施柏宇,OST主创伍佰、八三夭乐团、孙盛希、陈零九将齐聚酷狗直播,开启专场音乐会,带领网友们“穿越”时空,重温欢乐的追剧时光。

  作为2020年度现象级影视剧,《想见你》别出心裁,难以割舍的爱情、交错复杂的时间线、扑朔迷离的真相纠缠在一起,让剧迷们欲罢不能。剧中,李子维与黄雨萱不断穿越回过去,只因对彼此的爱与思念,更让网友们纷纷变身“柠檬精”。

  让剧迷们沉迷其中的除了剧情,还有在剧中完美烘托剧情的系列原声带歌曲。八三夭乐团演唱的主题曲《想见你想见你想见你》深刻诠释了李子维和黄雨萱之间强烈的羁绊,火速在酷狗评论区收割上万评论。孙盛希为“反派”陈韵如量身打造的《逃》,也在酷狗音乐引发热议,触动众多网友柔软的内心。

  而伍佰演唱的经典老歌《Last Dance》,也因为《想见你》重新爆红,风靡全国。这首柔情与洒脱交织的单曲,成为剧中穿越的关键,每当音乐响起,心爱的人就会在眼前出现,满足了所有剧迷关于爱情的浪漫幻想。和李子维、黄雨萱一样,将食指与中指并起来盖住眼睛,“暂时将你眼睛闭了起来”,成为新的潮流。

  本次的酷狗直播《想见你》专场音乐会,许光汉、柯佳嬿、施柏宇再次重聚,不知道会不会分享扮演李子维、黄雨萱、莫俊杰期间的拍摄趣事呢?主演们和伍佰、八三夭乐团、孙盛希、陈零九等一众音乐主创同台,有没有为各位剧迷准备惊喜舞台呢?想知道答案,记得到酷狗直播亲自确认。

  4月15日晚上20:00,锁定酷狗直播《想见你》专场音乐会,你最想见的许光汉、柯佳嬿,等你一起《Last Dance》。