您的当前位置:首页 > 探索 > 苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行 正文
时间:2026-07-17 12:32:57 来源:网络整理 编辑:探索
苹果公司正对人工智能初创公司 PrismML 开发的模型量化技术进行深度评估。该技术能够将大型语言模型LLM)所需的内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。Prism
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
马龙,在线辟谣2026-07-17 12:13
性侵案败诉,特朗普赔付82岁女作家逾560万美元2026-07-17 12:07
世界杯期间赌球更趋活跃 网络赌博乱象如何根治2026-07-17 11:51
我国首个水风光一体化智慧运营大模型发布2026-07-17 11:38
举报蒋方舟的清华教授肖鹰最新回应:这是一次“及时的、果决的自我纠错”2026-07-17 11:16
集邦咨询:预估陪伴型人形机器人2030年产值达11亿美元2026-07-17 11:16
1300km综合续航,大空间,全家长途出行少一点焦虑2026-07-17 10:32
背课文和记单词效率低且痛苦,有什么科学记忆方法,适合高中生?2026-07-17 10:29
世界模型迎来「真考场」:WorldArena 2.0 Challenge正式启动2026-07-17 10:16
黄牛集体翻车!AMD 5800X3D十周年版原价随便买:还送水冷2026-07-17 09:53
美军称已恢复对伊朗的海上封锁2026-07-17 12:27
我国首个水风光一体化智慧运营大模型发布 总台记者独家探访2026-07-17 12:16
硬核驰援广西抗洪!这才是科技发展的意义2026-07-17 12:15
铁路调图,激活发展新动能2026-07-17 11:59
U17世界杯:中国女篮大胜拉脱维亚进八强 李沅珊28分孙晗昀21分2026-07-17 11:33
刘丁硕说“怎么全是樊振东?”2026-07-17 11:19
俄飞船搭载俄美宇航员赴国际空间站“换班”2026-07-17 11:19
世界杯,谁能夺冠?罗纳尔多给出了自己答案!2026-07-17 10:57
对话茅盾文学奖得主刘亮程:对于语言本身,AI到底意味着什么?2026-07-17 10:36
开幕在即!世界人工智能大会四大展厅提前“剧透”2026-07-17 10:32