Junie Local 正式支持 NVIDIA RTX Spark 平台,Windows 版本转为稳定
Junie Local 从第一天起就支持 NVIDIA RTX Spark,Windows 支持也从实验性转为稳定。
[LOADING...] Junie Local 与 LLM 训练在同一台 RTX Spark 笔记本电脑上并行运行
NVIDIA 的 RTX Spark 平台将 Blackwell RTX GPU 与 Grace CPU 配对,以便在轻薄笔记本电脑和紧凑型台式机中运行更大的本地 AI 模型。Junie Local 利用这一硬件,将本地 AI 编码带入你的日常工作流程。
安装 Junie 并运行 /local,你就能在 RTX Spark 上拥有一个完整的编码智能体。它会读取你的代码、编辑文件并运行测试。没有 token 费用,没有配额,而且你的代码永远不会离开本机。
感谢 NVIDIA 让我们提前获得 RTX Spark,并与我们合作让 Junie Local 为发布做好准备。
RTX Spark 给 Junie Local 带来了哪些变化
我们在 RTX Spark 上的测试中,Junie Local 的生成速度最高达到每秒 55 个 token。这是我们在该平台上的初始性能基线,更多推理优化已在开发中。
将 Junie Local 引入 RTX Spark 意味着要让安装设置和推理都适配该硬件。Junie Local 会自动调整上下文窗口大小,以适配你的配置中可供 GPU 使用的内存。可用内存越多,它就能在运行上下文中保留更多代码、工具输出和对话历史。
在推理方面,Junie Local 使用 Blackwell 的张量核心进行高效的 FP8 计算,帮助它更快地处理该上下文。它还使用推测解码,通过预先草拟多个 token 并将它们一起验证来加速生成。
Junie Local 现已在 Windows 上稳定可用
我们在 8 月发布 Junie Local 时,它需要一台配备 64 GB 内存的 M5 Mac。当时我们说过,降低这一门槛是我们努力的重点,并且我们正在研究让它能在 24 GB 显卡上运行。
9 月,我们发布了实验性 Windows 支持,面向具有 24 GB 显存的 NVIDIA RTX 显卡。如今,该支持已稳定。如果你拥有一张 Ampere 或更新架构的 24 GB RTX 显卡,例如 RTX 3090、4090 或 32 GB 的 5090,就可以运行 Junie Local。
自 9 月预览版以来,我们重建了安装程序和本地引擎。Junie Local 现在已准备好用于日常场景:
- NVIDIA RTX Spark PC,在 Windows on Arm 上原生运行。
- 配备 NVIDIA RTX 显卡的 Windows PC,具有至少 24 GB 显存,运行 x64 Windows。
具体变化:
- 简单设置。 安装程序会识别你的 PC,检查 GPU 和驱动程序,并安装优化后的推理引擎、模型和 Junie 集成。
- 根据你的 GPU 调整上下文大小。 Junie Local 会选择你的 GPU 内存所能容纳的最大上下文窗口。
- 自由选择模型。 可选择 Qwen3.6-27B 或 Qwen3.8-3.6-27B-blend,这是我们的合并模型。后者保留了 Qwen3.8 的大部分编码能力和 Qwen3.6 更短的推理。更多模型支持即将推出。
- 日常使用更可靠。 本地引擎的启动、停止和更新都不再麻烦,长时间编码会话也更稳定。
要求
你还需要 NVIDIA 581 或更新版本的驱动程序,以及约 20 GB 的可用磁盘空间来支持该模型。
开始使用
在 PowerShell 中运行:
然后启动 Junie,运行 /model,并选择模型。Junie 会下载所需内容,启动本地引擎,并将你的会话切换过去。
接下来
我们正在努力为你提供更多本地模型选择,并让它们更适合与 Junie 一起编码。这包括提升编码性能,同时减少完成任务所需的时间和内存。
针对 RTX Spark,我们正在探索更高效的模型格式,并改进推测解码,以更好地利用 GPU 的计算能力。随着这些改进进入 Junie Local,我们将分享基准测试结果和我们的发现。
试用
Junie Local 免费。无需注册、无需订阅、无需积分、无需信用卡。在受支持的硬件上试用,并告诉我们哪些有效、哪些无效,以及你希望接下来看到什么。