手机AI的DeepSeek时刻：Bonsai 27B模型登场，苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息，手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调，模型在仅占用极小内存资源的苹果前提下，成功保留了原模型 90% 的运行智能水平，实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。
Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力，登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体（Agent）循环交互。
然而，手机原版 Qwen 3.6 27B 模型对硬件要求极高：在 16-bit 精度下需占用 54GB 存储空间，登场即便压缩至 4-bit 精度，模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限，导致其难以在本地设备部署。
为解决这一痛点，Bonsai 27B 通过极致量化技术，推出了两个针对不同场景的版本：
- Ternary（3-bit）Bonsai 27B：体积仅为 5.9 GB，每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化，平衡了性能与资源占用。
- 1-bit Bonsai 27B：体积进一步压缩至 3.9 GB，每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计，是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特（Tim Carambat）对此评价极高，他表示：“其影响力远超 Fable、Mythos 或 GPT 5.6，甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下：
(责任编辑：热点)
周星驰，恰烂饭
昆卡告别巴萨：能够为巴萨而战，是一段无比精彩的时光
大模型降价之后，HPC路线怎么打Token成本战？
5月份曾说英格兰没机会夺冠，麦卡利斯特：那只是个玩笑推荐文章
-
来源：海外网7月15日，苏宁易购与中国联通江苏省分公司以下简称“江苏联通”）正式签署战略合作协议。双方将聚焦智慧零售、终端运营及数智化政企采购三大核心领域，展开全方位深度协同。此次合作以“AI+算力”
...[详细]
-
谁能想到，前一秒还在国际红毯上气场全开、艳压群芳的顶级女星，下一秒竟戴着棒球帽，孤身潜入香港充满烟火气的市井茶餐厅，对着一碗平价面条认真自拍？最逗趣的是，她拍美食拍得正投入，猛然回头发现被路人镜头捕捉
...[详细]
-
在2026年美加墨世界杯半决赛的舞台上，法国队遭遇了职业生涯中最黑暗的时刻之一。面对西班牙，这支此前保持六连胜、被视为最大夺冠热门的球队，不仅以0比2落败，更在战术执行、球员表现及心理层面全面崩盘。这
...[详细]
-
国民级AI应用正悄然破局，市场格局迎来微妙变化。近期，蚂蚁集团旗下的健康AI应用“阿福”崭露头角。作为全球最大的健康AI应用，阿福通过发起“科学减重1亿斤”活动，不仅展示了其庞大的用户影响力，更凸显了
...[详细]
-
自即日起，医药反腐的穿透式监管力度显著增强。商业贿赂被正式明确界定为“严重破坏公平竞争秩序的不正当竞争行为”。对于情节严重者，不仅将被列入严重违法失信名单，更将面临“一处失信，处处受限”的跨部门联合惩 ...[详细]
-
今年休赛期的东部联盟经历了剧烈的震荡，球星流动的频率远超西部。随着字母哥转投迈阿密热火，波士顿凯尔特人随后送别了自主培养的核心杰伦-布朗，这一系列操作令外界大跌眼镜。回顾过去，无论是2024年夺冠赛季
...[详细]
-
正能量！阿根廷队给广西的3批物资已发出 仅1天便兑现承诺 网友盛赞
北京时间7月15日晚，阿根廷国家足球队官方社交媒体账号发布动态，正式宣布向广西洪灾地区捐赠的三批物资已全部发出。这一行动不仅展现了球队的社会责任感，更以惊人的效率兑现了此前的公益承诺。阿根廷队官方在配
...[详细]
-
阿尔法·罗密欧近日正式揭晓了旗下全新跨界车型的预告图。这款新车依托Stellantis集团先进的STLA中型平台打造，明确锁定C级SUV细分市场，旨在填补现有Stelvio与Tonale之间的产品空白 ...[详细]
-
7月以来，A股市场虽维持震荡格局，但资金借道ETF入场的步伐显著提速。与上半年资金高度集中于科技板块不同，当前资金正以肉眼可见的速度进行“再平衡”。截至7月14日，仅11个交易日内，全市场股票型ETF
...[详细]
-
新华社阿塞拜疆舒沙7月14日电记者 刘书辰 陈俊锋）阿塞拜疆总统阿利耶夫13日指出，自阿中关系去年升级为全面战略伙伴关系以来，双边在政治、经贸及交通等领域的互动显著增强，越来越多的中国企业选择在阿塞拜 ...[详细]
热点阅读
随机内容
