您的当前位置:首页 > 知识 > 苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行 正文
时间:2026-07-17 13:41:39 来源:网络整理 编辑:知识
苹果公司正对人工智能初创公司 PrismML 开发的模型量化技术进行深度评估。该技术能够将大型语言模型LLM)所需的内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。Prism
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
靠谱大容量TF卡推荐:三星T7满足多设备扩容需求2026-07-17 13:38
我国首部整车成本测算团体标准发布,统一核算口径强化行业可比性2026-07-17 13:32
WAIC大会进入倒计时,南方基金旗下司南投顾关注AI产业落地机遇2026-07-17 12:44
记者:青岛海牛确实有意向引进李嗣镕,但转会暂时还没有定论2026-07-17 12:23
阿根廷连续4场淘汰赛犯规上双,375分钟52次犯规吃到5黄2026-07-17 12:19
各地各部门多措施应对台风“巴威”影响2026-07-17 12:14
美股存储芯片深夜重挫,SK海力士大跌9%2026-07-17 11:32
红米Note 17系列售价公布:1299元起2026-07-17 11:30
记者:阿森纳首席商务官斯洛特夺冠后离职2026-07-17 11:02
苹果更新地图Apple Maps广告投放条款:明确禁投家居服务等内容2026-07-17 10:58
超激烈半场!英阿大战19犯,创世界杯尴尬纪录,名记:丑陋至极2026-07-17 13:38
(两岸新发现)台青探访厦门沙坡尾:同源一脉连两岸(视频)2026-07-17 13:17
局地超40℃!各大“火炉城市”高温日历来了2026-07-17 12:02
新娘突然要65万钻戒钱,新郎去当铺却消失了,新娘妈妈冲进店里懵了2026-07-17 12:01
南加州大学与Cantina Labs联手破解AI视频图像生成的量化难题2026-07-17 11:46
外交部:维护全球产供链安全稳定畅通是各国共同责任2026-07-17 11:33
幻兽帕鲁主动移除粪便系统,坚持横向拓展设计哲学2026-07-17 11:25
《雀骨》播出,发现演技不能对比,陶昕然封神,侯明昊演的是个啥2026-07-17 11:24
紫光国微:公司在宇航应用领域已推出了宇航用FPGA等多款产品2026-07-17 11:02
苹果和OpenAI商业诉讼核心人物:唐·坦职业路径曝光2026-07-17 10:55