您的当前位置:首页 > 知识 > 苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行 正文
时间:2026-07-17 13:20:11 来源:网络整理 编辑:知识
苹果公司正对人工智能初创公司 PrismML 开发的模型量化技术进行深度评估。该技术能够将大型语言模型LLM)所需的内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。Prism
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
欧洲十国宣布组建新联盟2026-07-17 13:20
支付宝阿宝与OPPO小布实现端侧互联,首创多智能体协同架构2026-07-17 12:24
世体:费尔明继续缺席,弗里克一日两练上强度2026-07-17 12:13
克拉约瓦大学1-0BC麦克斯林,班库助球队取胜2026-07-17 11:56
日本,掉进自己挖的坑2026-07-17 11:49
又一架歼-35绿皮机画面曝光!细节满满2026-07-17 11:23
局地超40℃!各大“火炉城市”高温日历来了2026-07-17 11:22
ASML:中国大陆市场的增量需求主要来自逻辑芯片领域2026-07-17 11:11
多家NFC果汁生产车间被曝没有水果2026-07-17 11:04
AI越跑越快,治理的“安全带”系好了吗? 22:00《锚点》世界人工智能大会特别策划2026-07-17 10:43
BLG MSI总决赛2:3惜败HLE,孙亚龙深度复盘:责任在团队而非Bin2026-07-17 12:44
004航母与福建舰俯视对比图,福建舰的短板不会在004航母上出现了2026-07-17 12:39
新华视点·关注“AI+”丨AI医疗迅猛发展 如何优化就医格局2026-07-17 12:37
不要再用爱情定义施南生2026-07-17 12:12
韩国“警二代”承认全部指控!受害者母亲嚎啕大哭:必须判死刑2026-07-17 12:11
《八仙!》提档7.18 凡人以命相搏誓要成仙2026-07-17 11:59
韩国“警二代”承认全部指控!受害者母亲嚎啕大哭:必须判死刑2026-07-17 11:16
1300km综合续航,大空间,全家长途出行少一点焦虑2026-07-17 11:15
各地各部门多措施应对台风“巴威”影响2026-07-17 11:09
给千万千瓦级清洁能源基地配上AI“指挥官”2026-07-17 11:04