端侧大模型逐步普及,端侧大模地运手机本地运行 AI 成为现实早上刷牙的型逐行时候,手机弹出一条提醒,步普说昨晚的及手机本睡眠分析已经生成,还顺带给出了一条调整建议。为现我瞟了一眼,端侧大模地运黄色的软件下载发现它连我昨晚几点翻来覆去都记下来了。型逐行以前这种功能多半要上传到云端算一圈再返回结果,步普但现在,及手机本我的为现手机全程没有联网。这背后就是端侧大模地运端侧大模型在起作用——它不再需要把数据送到远方,而是型逐行在手机里直接完成了推理。这两年“端侧大模型”这个词出现频率越来越高,步普但真正让我感觉到它变近了,及手机本是为现几件事凑到了一起。2023年底到2024年,高通和联发科先后发布了支持大模型本地运行的旗舰芯片,比如骁龙8 Gen 3和天玑9300,它们的内存带宽和NPU算力都做了针对性提升。紧接着,苹果在iOS 18里端出了Apple Intelligence,很多功能明确是on-device处理的。安卓这边,三星的Galaxy S24系列、小米14系列也都把“本地AI”当卖点。这些不是实验室里的演示,而是你我能直接买到的设备。手机本地跑大模型,国产h91免费到底意味着什么先说最直观的感受:AI变快了。以前用语音助手,问个天气都要转圈圈等一两秒,现在很多设备上,你说完话,几乎同步就给出回应。这是因为模型就在手机里,数据不用往返服务器,省掉了网络延迟。更重要的是,隐私边界变清晰了。你的照片、聊天记录、健康数据,都不需要离开设备去“被分析”,本地处理完就锁在手机里。对于在意数据安全的人来说,这比任何隐私政策都更让人安心。当然,本地运行也有代价。最大的瓶颈是内存和算力。一个百亿参数的大模型,量化到INT4精度大概需要5-6GB存储,这对手机内存是个不小的占用。所以你会看到现在的手机都开始卷内存,16GB已是标配,一些机型甚至到了24GB。色呦呦的视频另一个代价是模型能力受限,本地模型通常比云端大模型“小”不少,复杂推理、跨领域知识问答,还是得靠云。但胜在响应快、无连接依赖、个性化好。技术上的几个关键突破要说端侧大模型为什么这几年突然能落地,绕不开几项技术。量化技术是首当其冲的功臣。把FP16的模型压缩到INT8甚至INT4,体积能缩小到原来的四分之一甚至更少。精度损失有,但配合一些微调手段,日常使用几乎感知不到。现在的端侧模型,像谷歌的Gemma-2B、微软的Phi-3-mini,都是专门为移动设备设计的,参数量小,但推理效果不错。NPU(神经网络处理单元)的进化也很重要。早年手机芯片里的NPU只能做简单的图像识别,现在的高通Hexagon NPU、苹果Neural Engine,都支持混合精度计算和超大规模权重加载,快播免费版安装下载算力动辄几十TOPS。骁龙8 Gen 4据说NPU性能又翻了一倍,本地跑70亿参数模型已经不太费力。还有内存带宽的提升。大模型推理需要频繁读取权重,如果内存带宽不够,算力再强也白搭。LPDDR5X内存的普及,让手机带宽冲上了100GB/s以上,这才让百亿参数模型在本地流畅运行成为可能。我记得看到一个测试,用骁龙8 Gen 3的手机本地跑Llama-3-8B,速度能做到每秒20个token,虽然比不上云端的每秒几百token,但已经能用来做实时对话了。而且这个速度还在提升。实际体验:手机现在能做些什么如果你手里有一台支持端侧大模型的手机,你会发现AI的存在感不再是“一个悬浮球”,而是嵌进了系统的每个角落。写作文案。我试着用手机自带键盘的AI功能写了一段朋友圈文案,它先是根据我前几句碎碎念自动补全,还给我换了三种语气。整个过程完全离线,用的是本地小模型,响应速度比之前的云端版快多了。照片处理。色虎视频官网老照片修复、物体消除、扩图,这些功能基本都本地化了。以前谷歌相册的魔术橡皮擦还要等上传,现在直接在相册里点一下就完成,效果还挺自然。语音助理。现在很多手机的语音助手支持本地唤醒和简单命令,比如拨电话、设闹钟、查天气。不是说它不接云端了,而是它能区分哪些问题本地就能答,哪些必须求助云端,这种分层处理让体验好了不少。个人知识库。这是我觉得最有意思的方向。你可以把一些PDF、会议录音丢给手机,让它本地抽取摘要、做问答。过去这个必须用云端服务,现在像荣耀的任意门、三星的笔记助手,都能离线完成。有一说一,本地模型也会有“犯傻”的时候。比如我让它写一首古风诗,它写出来像打油诗,押韵都歪了。但胜在它懂你的习惯,比如你经常半夜查东西,它会在晚上给出更贴心的建议——因为那些偏好数据都留在手机里,它能学得更深。端侧和云端的边界正在重塑很多人担心“端侧大模型是不是要取代云端大模型”。其实两者根本不是替代关系,而是分工。端侧擅长处理低延迟、隐私敏感、单线程的任务;云端擅长处理复杂推理、全网知识、多模态融合。未来的手机AI,大概率是端云协同的架构:简单判断就在本地,复杂问题再上云。苹果的做法特别有代表性:Apple Intelligence里很多模块是端侧运行,但如果遇到需要更强大模型的请求,系统会悄悄调用云端,并且用加密和匿名化手段保护隐私。这就是一种很务实的综合方案。目前来看,端侧大模型能跑多大,直接受制于手机内存和存储。以前8GB内存只能跑很小的模型,现在16GB内存跑70亿参数模型已经蛮流畅,再往上跑130亿、200亿,就需要更先进的压缩技术和芯片设计。像Meta的MobileLLM论文里提到,小于10亿参数的小语言模型,如果训练得当,也能在端侧完成很多特定任务,这给手机厂商提了新思路——不一定要追求大,而是要专注做精做专。我亲测的几个小场景为了写这篇文章,我特意拿一部支持端侧AI的手机试了几天。不是特别高端的机型,就是中档偏上,内存16GB。有一次,我在地铁里没信号,想查“金针菇有点坏了还能不能吃”。我没抱希望地对着语音助手说了一句,结果它秒回:“坏了最好别吃,食物中毒可不是闹着玩的。”那一刻,我确实觉得本地AI挺顶用的。还有一次,我拍了很多照片,想找一张上个月和朋友吃火锅的合影。以前得靠网络相册搜索,现在拿手机本地相册直接搜关键词“火锅”,几秒就出来了,它甚至能识别出照片里桌上有毛肚和鸭肠。最让我惊艳的是文本摘要功能。我给它复制了一篇小一万字的行业报告,它只花不到一秒钟就给出了五百字摘要,还标出了三个关键数据。虽然不是每字每句都精准,但作为初稿已经很有用。但也有翻车的时候。让它写一封“语气委婉的拒绝信”,结果它写得过于客气,把拒绝变成了“我们再约个时间”?这大概就是大模型训练时“过度礼貌”导致的偏差。所以本地大模型离完美还远,但它确实让我对AI有了不一样的感受——它不再是远在天边的某个神秘云端服务,而是像手机上的一个日常能力,随时可以用。下一步会怎么发展有意思的是,现在端侧大模型已经从旗舰机往中端机渗透了。联发科的天玑8300、高通的骁龙7+ Gen 3,也都能支持端侧AI。这意味着两千元档的手机也开始跑本地大模型。以后端侧AI可能是标配,就像现在的指纹解锁一样,人人都有,没什么稀奇。技术路线上,有几个趋势值得关注:一是模型小型化,比如微软的Phi系列、微软的BitNet,都在探索更极致的压缩方式;二是NPU的通用化,不少芯片在尝试统一内存架构,让CPU、GPU、NPU共享大容量内存;三是本地知识库+个人智能体,手机里存着你十年的照片、聊天记录、运动健康数据,这些数据构成一个只属于你的模型记忆体,AI能更懂你,而且这批数据不出手机。与此同时,隐私和安全方面的挑战也在变大。端侧大模型如果训练不够充分,或者被植入后门,危害可能比云端更隐蔽。毕竟它就在你的手机里,天天看着你的一切。好在产业界已经开始重视,比如安卓的AICore权限管理、苹果的私有云计算,都在试图划清边界。写在日常中的真实感受说到底,端侧大模型的普及并不是一个炫技式的技术迭代,它更像是一场无形的升级,悄悄改变着我们使用手机的方式。从前那些需要联网才能完成的“智能操作”,现在本地就能搞定。我的手机我平时用不坏,摔是摔过几次,但AI功能倒是越用越顺心。有一次飞机上开启飞行模式,我用手机把两天前录的会议录音转成了文字,还自动生成了待办事项——这在以前是根本不敢想的。我不是技术极客,也不太关心跑分和数据表,但我知道,当手机在没有信号的时候还能熟练地回答我的问题、处理我的图片、总结我的文档时,那个“AI 手机”就已经真实地走到了我身边。它不完美,偶尔也犯傻,但那种能切切实实帮忙的感觉,挺好。

初三开学准备工作如何 泉州逐校逐项开展督查

本报讯 (记者曾聪虹)经市防控疫情应急指挥部研究同意,全市初三年级原则上于4月21日开学。为做好开学有关工作,泉州市教育局会同市卫健委从昨日起开展全市初三年级开学准备工作专项督导检查,协同市防控疫情应急指挥部巡回督导组督促检查相关工作落实情况,逐校查缺补漏,补齐各项工作短板。对达不到开学条件的,不予开学。

4月15日—18日,泉州市教育局、市卫健委联合督导检查组分为11组,下到全市各地的部分初中校进行检查。突出重点,统筹兼顾,将乡镇(村)初中、民办初中列入重点检查范围。对照《泉州市中小学(中职学校)2020年春季学期开学准备工作评估导则》的评估指标,逐校逐项逐条开展评估。按照分级管理原则,坚持落实属地责任和市级统筹相结合,各县(市、区)也组织对初三年级学校逐一开展督导检查,尤其抓好教室、食堂、宿舍等重点场所的检查指导,确保学校达到开学条件才能开学。

为确保初三年级学校安全有序开学,泉州市防控新型冠状病毒感染的肺炎疫情应急指挥部办公室出台了《关于做好泉州市2020年春季学期初三年级开学工作的通知》,要求全面开展校园安全排查整治,守牢安全“底线”,存在重大安全隐患未经整改到位的,一律停用;其他一般安全隐患必须尽快整改到位,确保师生员工人身安全;要组织各校做好自备水源、二次供水设施生活饮用水的检测,未经有关检测机构检测合格的不得使用。同时,要落实人员健康筛查,实施健康管理,开学后各学校要坚持做好缺勤、早退、请假记录,对因病缺勤的教职员工和学生及时追访和上报,对出现体温异常等可疑症状的师生员工落实处置的闭环管理,认真填报动态跟踪每日报表,经校长签字确认、盖章上报。严格管控学生个人校外租住,落实家校“点对点”出行管理。强化师生员工个人防护,督促引导学生错时作息、定点活动、不扎堆、不串班,分时分区开展课余活动、体育锻炼,减少人员流动和聚集。加强对师生的关心关爱,切实保障师生心理健康,对暂时无法返校复学、学习困难以及家庭贫困学生等制定“一对一”教学辅导,确保“一个都不掉队”。

晋江石狮部分影院复映 泉州市区影院本周有望复工

晋江石狮部分影院复映 泉州市区影院本周有望复工

观影前请配合测量体温

■早报记者 许奕梅 吴嘉晓 通讯员 黄亚衡 文图

“逛街、吃饭、看电影”,市民朋友们期盼的“正常周末”终于回归了。记者获悉,从26日起,晋江、石狮等地已有部分电影院恢复营业,但近期影迷们观影仍需注意做好全程戴口罩、禁饮食等防疫措施。市区各家影院也将于近日恢复开放,市民们很快就能享受到久违的大银幕观影体验。

晋江石狮部分影院复映 购票需隔座观影戴口罩

昨天,记者在支付宝线上影院平台查询到,沉寂已久的泉州各地电影院中,晋江、石狮已有部分影院恢复线上售票。记者查询到的晋江一家电影院已全天排片,但选座位时无法选购相邻座位,购票页面上也提醒市民:“观影需全程佩戴口罩,影厅内禁止饮食”。

昨日中午12时许,有市民陆续来到晋江一家影院观影,影院内张贴有“今日已全面消毒”的提醒标识,市民进入时需出示“八闽健康码”、戴好口罩、测量体温正常后再有序进场。

“我们看的是《多力特的奇幻冒险》,是进口新片,带孩子来看他们很开心。”市民李先生告诉记者,时隔大半年没来影院,家人都很期待。影院内的防疫措施做得挺好,让人能放心观影。

市区影院本周有望复工 观影需出示健康码

晋江市委宣传部广播影视管理科负责人黄女士介绍,根据国家电影局有关通知,晋江发布了《晋江市电影放映场所恢复开放疫情防控指南》。昨起已有3家影院符合条件恢复营业,另有多家影院提交复工申请,有关部门将在本周前往现场进行检查。“观影市民必须出示‘八闽健康码’,未佩戴口罩和体温37.3℃以上者不得进入。”黄女士表示,售票方式全部采取网络实名预约、无接触,交叉隔座售票,保证陌生观众间距离1米以上,每场电影上座率不得超过30%。

记者也从泉州市委宣传部电影科了解到,全市电影行业复工复映有关通知已发放到各县市区,剩下的影院也将陆续复映。其中泉州市区各影院有望本周复映。

记者联系到的泉州一家影城相关负责人蔡先生表示,开业前影院的各项疫情防控工作都已根据通知要求不断细化落实,“已做好充分准备,只要允许随时可恢复售票”。

据了解,接下来又有一批新片将上映。日前,电影《抵达之谜》宣布定档7月31日,同日还有3部动画新片,分别是国产动画片《妙先生》《呆瓜兄弟》和好莱坞动画片《刺猬索尼克》。当天上映的还有颁奖季热门进口片《乔乔的异想世界》。