Junie本地版推出:完全在Mac上运行的编程智能体,无需云服务或积分
我们迈向设备端编码代理的第一步
Junie 已经能够连接本地模型运行时有一段时间了。将其指向 Ollama 或 LM Studio,加载本地模型,代理就会针对它运行。很多人已经在这样做。但这意味着你必须自己选择模型、调整设置,并处理大量手动设置——而且小型模型只能帮助处理有限的一组简单任务。
所以我们为你完成了所有这些工作。隆重推出 Junie Local:它附带一个我们针对自己的代理循环选择和调优的模型,通过单条命令安装,并且完全在你的机器上运行。无令牌、无配额,代码永远不会离开你的机器。而且它是免费的。
安装 Junie Local
一条命令,无需配置
在 Junie 内部运行 /local。模型下载,本地服务器启动,Junie 切换过去。无需编写 JSON 配置文件,无需先安装运行时,也无需指向任何端点。
模型是 Qwen3.6-27B 4-bit 版本,需要下载约 20 GB,并且你需要一台配备 64 GB 内存的 M5 Mac。下载之后的一切都在你的硬件上进行,因此你的提示、源代码和差异都会保留原位。
你现有的设置会延续。计划模式、实时提示、指南、技能以及你的 /commands 行为方式相同。引擎变了,代理没有变。
关于让它更快,我们学到的东西
每个人都在基准测试生成速度。对于编码代理来说,这实际上并不是应该追求的数字,因为大部分时间花在了预填充上,而模型需要读取文件来弄清楚情况。优化预填充才是真正获得收益的地方,这也是 Junie Local 从 Apple M5 起步的原因:M5 神经加速器拥有 M4 所缺少的 8 位算术指令,使用它们使我们的预填充吞吐量提升了约 40%。我们将把这个补丁作为 PR 提交给 MLX-VLM。
我们还刻意选择了 Qwen3.6 而不是更新的 3.8。Qwen3.8 需要开启推理才能可靠工作,而开启后任务运行速度大约慢四倍。在当今的 Mac 上,3.6 胜出。
还有更多内容,包括跨任务复用 KV 缓存,以及使生成速度大约翻倍的推测解码设置。请在此阅读深入文章:我们如何为 Junie 代理优化 Qwen 3.6 模型。
它有多好?
我们在每个模型进入 Junie 之前,都会在 JetBrains 自己的私有测试集上进行评估,Junie Local 也不例外。Qwen3.6-27B 得分与 Sonnet 4.5(10,000 token 推理限制)持平。GPT-5 在中等努力程度下得分略高。
值得注意的是这些分数包含什么:我们交付的本地模型完全禁用了推理,因为我们的测试发现它几乎没有增加质量,却消耗了两到三倍的 token。所以,这些结果是模型在不启用推理的情况下取得的,而对比的云模型是开启推理的。
对于日常工作,你很可能不会注意到差距。在复杂的架构推理上,你一定会注意到。
当不再按用量计费时会发生什么
基准测试告诉你一个模型能否胜任工作。它们不会告诉你当工作免费完成时会发生什么。
成本效率一直是你在 Junie 中掌握的一个调节选项:在强模型上做计划,在便宜模型上实现。Junie Local 将这个调节旋钮转到了零。当多一次迭代是免费的,那些你通常不愿花费积分的工作就变得值得交给它。Junie Local 非常适合:
- 不值得花钱的多文件重构和重命名。
- 过去两个季度你一直忽略的测试覆盖缺口。
- 依赖升级和框架迁移。
- 熟悉你接手的代码仓库。
冗长、重复、机械的工作正是代理的用武之地,也正是在你关注余额时不再会去请求的事情。
对某些团队来说,Junie Local 带来的隐私保障是阅读这篇文章的全部理由。不需要审查供应商数据政策,因为流程中没有供应商。如果你在客户 NDA 下工作,这会将会话从“我们评估了供应商”转变为“没有涉及供应商”。
它也可以在没有网络的情况下工作。一旦权重文件在磁盘上,Junie Local 在飞机上和你办公桌上的行为完全一样。
是的,硬件要求很高
我们知道 M5 Mac 配 64 GB 内存是一个很高的要求。我们不打算否认这一点,我们也知道这会让许多阅读这篇文章的人无法使用 Junie Local。
这就是如今运行一个 27B 模型所需要的成本,也是我们正在努力降低的数字。目标是降低内存门槛、支持更广泛的硬件、并优化更多技术栈。如果这些高要求是你无法尝试 Junie Local 的原因,请放心,我们正在努力降低它们。
这只是第一步
一个模型,一个芯片家族,一个平台。我们从小处入手,因为在整个技术栈上调优一个模型,要胜过糟糕地支持每一个模型。
Mac 是起点,而不是计划。我们已经有了 DGX Spark 和 RTX 5090 的工作原型,并且正在关注 24 GB 显卡。预填充在独立 GPU 上的表现非常不同,因此大量优化工作将转向这类硬件。
如果你对下一个应该登陆哪个平台有想法,现在是告诉我们的好时机。
快速开始
Junie Local 完全免费——无需注册、无需订阅、无需积分,也无需银行卡。
打开 Junie,运行 /local,然后把一个你一直拖延的任务交给它。然后告诉我们哪里出了问题、什么让你惊讶、以及你接下来想要什么。Junie 的每一个部分都来自这个反馈循环,这次也不例外。
试试 Junie Local