您的当前位置:首页 > 休闲 > 苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行 正文
时间:2026-07-18 00:44:27 来源:网络整理 编辑:休闲
苹果公司正对人工智能初创公司 PrismML 开发的模型量化技术进行深度评估。该技术能够将大型语言模型LLM)所需的内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。Prism
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
5000倍成本差!AI《奥德赛》PK诺兰谁代表未来2026-07-18 00:29
举报蒋方舟的清华教授肖鹰最新回应:这是一次“及时的、果决的自我纠错”2026-07-17 23:42
无惧天价芯片?大摩坚定看涨苹果:iPhone涨价料成拉升引擎2026-07-17 23:16
四大AI预测英格兰vs阿根廷:两家看好英格兰,豆包看好阿根廷2026-07-17 23:06
启航了船长!华硕RTX 50显卡高帧畅玩《遗忘之海》2026-07-17 23:05
WAIC大会进入倒计时,南方基金旗下司南投顾关注AI产业落地机遇2026-07-17 22:50
凯尔凯兹:伊劳拉风格适合利物浦,在红军必须为冠军而战2026-07-17 22:47
无人机助力370多万亩棉田管护2026-07-17 22:32
泰国短剧收入东南亚第一,TikTok火速下场抢蛋糕2026-07-17 22:31
安踏回应品牌CEO辞职:另有任用2026-07-17 22:01
3架“翼龙”无人机6次出动 云端接力架起“空中生命线”!2026-07-18 00:37
纯电高颜值轿跑怎么选?主流高质感美学纯电轿跑推荐指南2026-07-17 23:48
S妈回应具俊晔争夺大S遗产!小S也发动态,谁对谁错一目了然2026-07-17 23:33
李阵郁有望出演韩版《非自然死亡》,女主敲定允儿2026-07-17 23:10
扩内需六大任务,促进服务消费排首位2026-07-17 22:40
DJMAX RESPECT V首登中国线下:2026萤火虫展开启本土化新阶段2026-07-17 22:39
华为MateBook MOR系列通过3C认证,鸿蒙笔记本产品线再添新成员2026-07-17 22:36
凯恩:我们拼尽全力,流干了血汗和泪水,但最终还是功亏一篑2026-07-17 22:27
大S遗产分配案再反转,最大赢家出现了2026-07-17 22:13
人均只赚10块钱,公司上市了2026-07-17 22:04