Bonsai 27B：270亿参数AI模型在手机本地免费运行完全攻略 - 基于Qwen3.6，Apache 2.0开源

Bonsai 27B是基于Qwen3.6 27B的低比特量化版本，可在手机和笔记本上本地运行，Apache 2.0开源免费。

什么是Bonsai 27B

PrismML发布的Bonsai 27B是Qwen3.6-27B的低比特量化版本，不是重新训练的模型。

核心特点：

• 基于Qwen3.6 — 架构不变，仅量化
• 5.9GB — 模型文件极小
• Apache 2.0 — 完全免费商用
• 手机端运行 — 可在智能手机上运行27B模型

怎么运行

方式1：手机运行

• 下载PrismML提供的手机端推理引擎
• 安装Bonsai 27B模型
• 直接运行

方式2：笔记本运行

• 需要8GB+内存
• 使用llama.cpp或类似推理引擎
• 模型文件仅5.9GB

方式3：服务器部署

• 需要14GB+显存GPU
• 可获得更好性能

和原版Qwen3.6对比

Bonsai 27B在保持Qwen3.6大部分能力的同时，将模型体积缩小了9倍。

适合谁用

• 手机AI爱好者 — 在手机上运行27B模型
• 笔记本开发者 — 无需服务器，本地运行
• 隐私敏感用户 — 完全离线
• 预算有限的 — Apache 2.0免费商用

总结

Bonsai 27B是Qwen3.6的量化版本，仅5.9GB，可在手机和笔记本上本地运行，Apache 2.0开源免费。

项目地址：prismml.com

数据截至2026年7月14日。Bonsai是开源项目，持续更新中。