您的当前位置:首页 > 休闲 > 苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行 正文
时间:2026-07-17 13:58:46 来源:网络整理 编辑:休闲
苹果公司正对人工智能初创公司 PrismML 开发的模型量化技术进行深度评估。该技术能够将大型语言模型LLM)所需的内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。Prism
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
新华社文化随笔|长安一阕诗 丝路万里风2026-07-17 13:18
在拉萨,他们这样给自己“充电”2026-07-17 13:14
朝鲜街头问当地人对中国人啥印象,对方脱口而出,听完我沉默许久2026-07-17 13:03
顶流导演恋情被曝!和小13岁女友街头秀恩爱,反倒迎来全网祝福声2026-07-17 12:53
我国首个水风光一体化智慧运营大模型发布 总台记者独家探访2026-07-17 12:41
中使馆:谨慎来孟娶妻2026-07-17 11:47
7月15日追剧日历,11部长剧和5部短剧更新,7部新剧待播或待定档2026-07-17 11:36
黄河流域四川盆地有强降水和对流天气 广东广西有强降水2026-07-17 11:25
天津大学与阿里巴巴联手破解AI训练中的镜中幻象2026-07-17 11:24
关于近期天气气候热点,中国气象局专家解读2026-07-17 11:19
我国首个全链条绿色低碳乙烯工程在新疆库尔勒投产2026-07-17 13:20
特斯拉新车没满月踩不动刹车,一女子购买21天后慌了2026-07-17 13:08
若西班牙夺冠,罗德里将是包揽世界杯、欧冠和金球奖第11人2026-07-17 12:56
赖掉周星驰8600万后,千亿帝国塌了2026-07-17 12:41
从“一处美”到“全域美”,文明乡风让齐鲁乡村更有“看头”2026-07-17 12:32
金价,暴跌2026-07-17 12:17
阿根廷队晒图发出支援广西物资:广西我们来了!三批物资今天一齐发出2026-07-17 11:45
沃克:人盯人防守对梅西行不通,阿根廷是英格兰的最大难关2026-07-17 11:33
星咖来了 | 范丞丞,抖帝驾到,这个星座天生就玩得开2026-07-17 11:26
张艺谋也没想到,自己打拼了42年,最后却给岳父母做了嫁衣2026-07-17 11:24