近日,投毒中央广播电视总台3·15晚会曝光了令人震惊的“投毒”AI大模型黑灰产业链。
AI“投毒”的斩断本质,是利用大模型依赖联网搜索实时信息、从海量数据学习的灰产特性,通过人为制造“虚假共识”来操控算法输出。不法商户通过GEO(生成式引擎优化)工具批量生成虚假评测、业链馃崒馃崒馃崒馃崙馃崙馃崙18伪造用户评价、投毒杜撰行业排名,斩断用自媒体账号在网络平台上大量发布。当用户向AI询问产品推荐时,灰产这些被精心设计的虚假信息因数量庞大、角度丰富,业链更容易被AI判定为“高权重信息”而采纳,最终成为AI给出的“标准答案”。
通过“投毒”AI的投毒数据“口粮”,虚构产品被包装成权威推荐,恶意抹黑被伪装成客观评价,一条“软件供应—内容生成—全网投喂—模型操控—牟利变现”的完整黑灰链条已然形成。
乱象滋生的斩断根源,在于技术迭代快于制度建设,形成监管真空。当前,灰产小心 入GEO服务游走于法律边缘,虽涉嫌违反广告法、反不正当竞争法、业链消费者权益保护法,投毒但责任主体模糊、取证难、斩断处罚轻,灰产违法成本低。同时,黄的APP网站平台和AI大模型为追求用户覆盖率,放松对信源审核,客观上为“投毒”提供了可乘之机。而一些企业急功近利,将“AI打榜”视为低成本获客捷径,助长了黑灰产蔓延。
治理AI“投毒”,要坚持系统思维,构建法律规制、技术防御、平台履责、公众参与的馃拤91 1馃槏馃槏馃槏馃槒馃槏馃槏馃槏馃槒馃槒馃槒馃槒多元共治格局。
完善法律供给,划定行为红线。应将“恶意数据投喂”明确纳入反不正当竞争法规制范畴,细化AI服务提供者、内容发布平台、GEO服务商的责任边界。明确“数据投毒”与正当GEO优化的10086iot.com.cn/ArTicle/details/5292.shtml界限,对伪造信息操纵AI的行为予以严惩,提高违法成本。对专门从事虚假内容发布的平台和账号,依法予以关停整顿,铲除黑灰产滋生的土壤。
强化技术防御,提升模型“免疫力”。AI平台应建立数据溯源机制,对训练和检索内容进行可信度评估,引入“白名单”信源制度,提升对批量同质化内容的识别能力。对医疗、金融等敏感领域强制多源交叉验证,并在回答中清晰标注信息来源。用算法对抗算法,建立动态监测与清洗机制,及时发现并阻断“投毒”行为。
压实平台责任,凝聚治理合力。信息发布平台应加强对批量发布、营销软文等异常行为的监测和处置,切断虚假内容的传播渠道。AI大模型厂商应优先采用权威媒体、学术期刊及持牌机构的官方信息,提升模型透明度,提供回答来源链接,让用户可查可验,打破“黑箱推荐”。同时,推动建立AI数据安全的行业标准和数据治理生态,规范数据集的采集、清洗和审核流程。
提升公众素养,筑牢社会防线。用户应树立“AI非权威”的认知,在使用AI获取信息时理性验证,尤其对涉及投资消费决策、医疗方案选择等重要问题的AI回答,务必通过官方渠道交叉验证。监管部门应加强AI安全知识的普及宣传,帮助公众识别AI幻觉和虚假信息。
AI“投毒”污染的不仅是大模型的口粮,更是数字社会的信任根基。让法治的阳光照进算法的黑箱,让监管的力量穿透数据的迷雾,我们才能彻底斩断黑灰产业链,让AI真正成为服务公众、造福社会的智能助手。
「S制造」国潮汹涌，又一国风歌曲《梧桐雨》惊艳上线
3月27日，00后国风歌手余菲宣布加入QQ音乐「S制造」第二季，并发布新作《梧桐雨》。歌曲以白居易《长恨歌》中唐玄宗与杨贵妃的爱情为创作灵感，从第三人的视角表现其中的悲欢离合。余菲在演绎时加入了女生特有的细腻处理，配上空灵声线，唱出了一出催人泪下的爱情悲剧。
00后素人直通「S制造」，QQ音乐助余菲实现音乐梦想
余菲今年刚满十七岁，此前并未正式出道过。去年10月，余菲以素人身份参与QQ音乐开放平台“醉国风”原创国风歌曲征集大赛第一季，凭借一曲《冷》脱颖而出，收获大量好评和投票夺得大赛第三名，让她在国风圈子小有名气，也让QQ音乐注意到她的巨大潜力。
入驻QQ音乐开放平台以来，余菲终于找到了施展个人音乐才华的舞台，创作、发布了一些音乐作品，依托开放平台在作品管理、作品推广、粉丝互动等方面给与的便利和支持，这些作品逐渐被越来越多的人听到并喜爱，余菲本人的人气也稳步上升。凭借在开放平台的出色表现，余菲最终获得了直通「S制造」机会。接下来，QQ音乐将聚集全平台资源，为余菲提供从作品创作到宣发推广等方面的全方位、定制化扶持，助她在实现音乐梦想的道路上畅通无阻。
引领Z世代听歌潮流，「S制造」展现多元国风音乐
「S制造」第二季正式开启以来，陆续以丰富的创意为年轻乐迷呈现出多元化的国风作品。首发作品——虚拟歌手祝眠的《下凡》将ACG与国风混搭，受到广大ACG乐迷和国风乐迷的一致好评；不久前不才的一首《渔家傲·秋思》联手国乐大师重新演绎范仲淹经典古词，让古韵以全新的方式呈现，更为大众所接受；此次余菲带来的《梧桐雨》，由古诗衍生而来，在创作灵感上堪称新颖。三首作品让人们看到国风音乐的不同打开方式，满足了当下年轻乐迷百变、多样的音乐需求。
作为面向潜质音乐人的成长扶植计划，「S制造」第二季着重于从最受当下年轻人喜爱的音乐流派挖掘有才华的音乐人，开局风格多样的国风作品聚焦了年轻乐迷的广泛关注，收获好评如潮。接下来，「S制造」还将从民谣、说唱等领域进行多元化突破，挖掘更多宝藏年轻音乐人，用更多优质音乐作品充盈年轻乐迷的歌单。
持港澳台居民居住证可在自助售（取）票机上取票
原标题：持港澳台居民居住证可在自助售（取）票机上取票
动车出行更方便了
持港澳台居民居住证、外国人永久居留证可在自助售（取）票机上取票
海峡网9月21日讯 （泉州网记者吴志明 通讯员钟璧锴 蔡栩 石闽）今年中秋小长假，市民可以乘高铁直达香港赏月了。记者昨日从铁路部门获悉，为方便港澳台及外籍旅客出行，持港澳台居民居住证、外国人永久居留证等证件的旅客，可以直接在自助售（取）票机上换取车票。
据了解，9月23日，广深港高铁香港段将正式运营。此次福建省共有4对动车到香港，其中经停泉州站有一对即G3001/2次。根据客票系统数据显示，仅9月23日福建去往香港客流量达2000人。
小长假期间，中国铁路南昌局集团有限公司预计将发送旅客319万人次，客流最高峰日将出现在9月22日。铁路部门将根据客流实际，动态加开列车。有出行需求的旅客，可通过12306铁路客服平台、“南昌铁路”微博、微信和车站广播公告等方式，及时了解列车开行信息。
相关新闻 （共 6 条）