您的当前位置:首页 > 综合 > 苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行 正文
时间:2026-07-17 14:34:26 来源:网络整理 编辑:综合
苹果公司正对人工智能初创公司 PrismML 开发的模型量化技术进行深度评估。该技术能够将大型语言模型LLM)所需的内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。Prism
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
触目惊心!知名平台被曝涉黄后,还有大量低俗色情内容2026-07-17 14:33
分房5年,欠债2亿:邹市明和冉莹颖的“破产婚姻”还有爱吗?2026-07-17 14:21
罕见!以色列紧急指令:禁止美军加油机在最大机场降落2026-07-17 13:59
ESPN:科林蒂安租借韦斯利达口头协议,仍须解决禁令2026-07-17 13:59
永远的87版红楼梦,我们一一告别2026-07-17 13:58
电影《八仙!》点映及预售总票房破4000万2026-07-17 13:49
今日入伏,20个省份出现高温天气2026-07-17 13:19
北京动物园大熊猫新馆7月16日正式迎客2026-07-17 12:37
腾讯上线未成年人保护绿标体系,三重审核打造动态适龄内容专区2026-07-17 12:16
广西横州灾后重建:水退人进 守望新生2026-07-17 11:48
贾平凹的两个女儿,真是活成了两个极端。2026-07-17 14:17
宇树机器人首次操刀活体手术,论文作者独家回应2026-07-17 14:13
7款提供手机端侧生成式人工智能服务完成备案2026-07-17 13:46
长征七号甲火箭转运至发射工位,进入发射倒计时2天2026-07-17 13:46
微星泰坦16 AI笔记本新增U9 285HX + 16G + 1T + 5080版本2026-07-17 13:19
文化中国行丨“00后”秦腔丑角儿:“顶灯”特技如何练成?2026-07-17 12:53
多国人士反对有关国家翻炒非法“裁决”挑衅生事2026-07-17 12:42
孙东旭和2位东方甄选前主播合伙创业,俞敏洪公开送上祝福;李国庆不看好“撑不过一年半,咱们走着瞧”2026-07-17 12:24
龙之信条2新增永久传送石:拓展选择而不削弱徒步探索核心体验2026-07-17 12:19
关于近期天气气候热点,中国气象局专家解读2026-07-17 11:58