Ohhnews

分类导航

$ cd ..
Jetbrains Blog原文

Junie Local 正式支持 NVIDIA RTX Spark 平台,Windows 版本转为稳定

#junie local#nvidia rtx spark#本地ai编程#windows#jetbrains

Junie Local 从第一天起就支持 NVIDIA RTX Spark,Windows 支持也从实验性转为稳定。

[LOADING...] Junie Local 与 LLM 训练在同一台 RTX Spark 笔记本电脑上并行运行

NVIDIA 的 RTX Spark 平台将 Blackwell RTX GPU 与 Grace CPU 配对,以便在轻薄笔记本电脑和紧凑型台式机中运行更大的本地 AI 模型。Junie Local 利用这一硬件,将本地 AI 编码带入你的日常工作流程。

安装 Junie 并运行 /local,你就能在 RTX Spark 上拥有一个完整的编码智能体。它会读取你的代码、编辑文件并运行测试。没有 token 费用,没有配额,而且你的代码永远不会离开本机。

感谢 NVIDIA 让我们提前获得 RTX Spark,并与我们合作让 Junie Local 为发布做好准备。

RTX Spark 给 Junie Local 带来了哪些变化

我们在 RTX Spark 上的测试中,Junie Local 的生成速度最高达到每秒 55 个 token。这是我们在该平台上的初始性能基线,更多推理优化已在开发中。

将 Junie Local 引入 RTX Spark 意味着要让安装设置和推理都适配该硬件。Junie Local 会自动调整上下文窗口大小,以适配你的配置中可供 GPU 使用的内存。可用内存越多,它就能在运行上下文中保留更多代码、工具输出和对话历史。

在推理方面,Junie Local 使用 Blackwell 的张量核心进行高效的 FP8 计算,帮助它更快地处理该上下文。它还使用推测解码,通过预先草拟多个 token 并将它们一起验证来加速生成。

Junie Local 现已在 Windows 上稳定可用

我们在 8 月发布 Junie Local 时,它需要一台配备 64 GB 内存的 M5 Mac。当时我们说过,降低这一门槛是我们努力的重点,并且我们正在研究让它能在 24 GB 显卡上运行。

9 月,我们发布了实验性 Windows 支持,面向具有 24 GB 显存的 NVIDIA RTX 显卡。如今,该支持已稳定。如果你拥有一张 Ampere 或更新架构的 24 GB RTX 显卡,例如 RTX 3090、4090 或 32 GB 的 5090,就可以运行 Junie Local。

自 9 月预览版以来,我们重建了安装程序和本地引擎。Junie Local 现在已准备好用于日常场景:

  • NVIDIA RTX Spark PC,在 Windows on Arm 上原生运行。
  • 配备 NVIDIA RTX 显卡的 Windows PC,具有至少 24 GB 显存,运行 x64 Windows。

具体变化:

  • 简单设置。 安装程序会识别你的 PC,检查 GPU 和驱动程序,并安装优化后的推理引擎、模型和 Junie 集成。
  • 根据你的 GPU 调整上下文大小。 Junie Local 会选择你的 GPU 内存所能容纳的最大上下文窗口。
  • 自由选择模型。 可选择 Qwen3.6-27B 或 Qwen3.8-3.6-27B-blend,这是我们的合并模型。后者保留了 Qwen3.8 的大部分编码能力和 Qwen3.6 更短的推理。更多模型支持即将推出。
  • 日常使用更可靠。 本地引擎的启动、停止和更新都不再麻烦,长时间编码会话也更稳定。

要求

PC你需要什么
NVIDIA RTX SparkWindows 11 on Arm,且至少有 24 GB 内存可供 GPU 使用
配备 NVIDIA RTX 显卡的 Windows PCWindows 11 x64,以及至少具有 24 GB 显存的 NVIDIA RTX GPU

你还需要 NVIDIA 581 或更新版本的驱动程序,以及约 20 GB 的可用磁盘空间来支持该模型。

开始使用

在 PowerShell 中运行:

$ powershell
powershell -NoProfile -ExecutionPolicy Bypass -Command "[Environment]::SetEnvironmentVariable('JUNIE_LOCAL_MODEL', '1', 'Process'); iex (irm 'https://junie.jetbrains.com/install.ps1')"

然后启动 Junie,运行 /model,并选择模型。Junie 会下载所需内容,启动本地引擎,并将你的会话切换过去。

接下来

我们正在努力为你提供更多本地模型选择,并让它们更适合与 Junie 一起编码。这包括提升编码性能,同时减少完成任务所需的时间和内存。

针对 RTX Spark,我们正在探索更高效的模型格式,并改进推测解码,以更好地利用 GPU 的计算能力。随着这些改进进入 Junie Local,我们将分享基准测试结果和我们的发现。

试用

Junie Local 免费。无需注册、无需订阅、无需积分、无需信用卡。在受支持的硬件上试用,并告诉我们哪些有效、哪些无效,以及你希望接下来看到什么。

试用 Junie Local →