您的当前位置:首页 > 娱乐 > 苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行 正文
时间:2026-07-17 09:44:35 来源:网络整理 编辑:娱乐
苹果公司正对人工智能初创公司 PrismML 开发的模型量化技术进行深度评估。该技术能够将大型语言模型LLM)所需的内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。Prism
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
“手”记——这就是众志成城的力量2026-07-17 09:23
官方:齐达内时隔五年出山,正式接替德尚执掌法国国家队教鞭2026-07-17 09:16
人类诱导多能干细胞全基因组功能图谱绘成2026-07-17 09:14
必须升级!微软发布倒计时提醒:部分Win10和Win11版本即将停止支持2026-07-17 08:58
当28岁侯明昊遇上18岁艾米,我才终于明白,为何说CP感是门玄学2026-07-17 08:41
《哪吒 2》之后最像《哪吒》的电影出现了!很多人猜它即将大爆?2026-07-17 08:01
知网下架AI署名论文2026-07-17 07:55
大模型降价之后,HPC路线怎么打Token成本战?2026-07-17 07:47
北京一女子耳痛,医生竟掏出3厘米活蜈蚣……2026-07-17 07:14
广东启动夜间文化和旅游消费促进活动2026-07-17 07:05
美国国家公路交通安全管理局:丰田将在美召回5400辆汽车2026-07-17 09:22
ESPN:与M费相反,蒂莱曼斯渴望为曼联效力2026-07-17 09:21
84岁高明现状:痛失独子后,在北京定居生活,儿媳一举动让人泪目2026-07-17 09:13
Miu系穿搭过时了?现在最火的穿搭竟然是——!2026-07-17 08:41
美股芯片股深夜走低,闪迪跌逾6%,中国资产大爆发2026-07-17 08:41
《雀骨》播出,发现演技不能对比,陶昕然封神,侯明昊演的是个啥2026-07-17 08:37
一级致癌物却撑起千亿市场:槟榔的灰色生意,为何禁而不止?2026-07-17 07:31
英格兰vs阿根廷半场数据:双方共3射0正,犯规7-12,黄牌1-12026-07-17 07:27
全球首个!诺基亚联手英伟达推出商用原生无线接入网平台:频谱效率暴增100%2026-07-17 07:13
这份5年规划,涉及百姓生活方方面面2026-07-17 07:02