JetBrains联合DeepLearning.AI推出混合与本地AI编码课程
开放权重模型正迎来高光时刻,背后的驱动力是控制权、选择空间和成本。混合 AI 和本地 AI 如今正受到越来越多的重视,因此 JetBrains 与 DeepLearning.AI 合作,推出了免费的 AI 编码工作流:混合到本地 课程,涵盖相关理念与可选方案。
这门课程现已上线,使用 PyCharm 及其 AI Chat。下面让我们一窥课程内容。
Claude Code:子代理与更便宜的模型
课程开始时,我们首先讲的,嗯,并不是本地。相反,我们使用你已有的工具——Claude Code 及其 Anthropic 模型——来介绍一些有助于实现选择、控制乃至降低成本的技术和“杠杆”。(是的,我用了破折号。)
我们之前开设过关于规范驱动开发(SDD)的课程,所以自然想从这里讲起。较小的模型在处理大规模、开放式的“vibe coding”时会有困难。对工作进行划分和约束,能让小模型保持在正轨上。
重要提示:本课程的示例应用确实非常基础。你可能会说“这也太简单了”。但这正是本课要传达的要点之一:大模型可以完成前期工作,为小模型规划出大小合适的步骤。
接着,我们用 Claude Code 的子代理来演示这种分工。主聊天提示会在全新的子代理中执行路线图的每个阶段,以便更好地管理上下文。这样带来的好处是:实现者可以使用更便宜的模型。用“大模型”(Opus)负责任务的主对话思考,用“小模型”(Haiku)负责实现。
每一节课都会以 token 数、轮次、成本和预计耗时等指标的变化作为收尾。这引出了本课程的核心目标:学习思路,而不是那些每周都在变化的具体实现细节。
[LOADING...]
新的代理、推理与模型
以上就是四个杠杆:
- 针对模型规模调整任务规格
- 使用专家子代理拆分工作
- 对常规工作使用更便宜的模型
- 收集指标作为指导思考的证据
然后,课程引入了选择与控制:
- 新代理:OpenCode
- 新推理路由器:OpenRouter
- 新模型与推理托管:DeepSeek(通过 OpenRouter)
也就是说,从 Claude Code 切换到新代理 OpenCode,再通过推理路由 OpenRouter,接入 DeepSeek 的推理托管与模型。
我们首先切换到在 PyCharm 中运行的 OpenCode。JetBrains 希望我们的 IDE 成为代理和模型的开放平台。这使得从 Claude Code 迁移到 OpenCode 变得很直接:界面是一样的。我们添加 OpenRouter(这一步需要付费),将其连接到 OpenCode,并选择 DeepSeek 作为模型。
接着我们重复之前的流程:先全部放在一个聊天中,再使用子代理进行上下文隔离。但这一次,使用的是不同的代理和模型。
最后,我们用 Markdown 创建一个专用的实现者子代理。这提供了相当多的控制杠杆:在 frontmatter 中设置强制控制,在子代理正文中设置“说服式”引导。最重要的是,我们让实现者使用较小的 DeepSeek v4 Flash 模型作为“小模型”。
与 Claude Code 版本相比,这些指标毫不意外地便宜了许多。
[LOADING...]
混合与本地
接下来是重头戏:在日常开发中,我们能否在本地完成部分——甚至全部——工作?
我们先学习如何设置本地 AI:使用 LM Studio 作为推理服务器,Gemma 4 12B 作为本地模型,目标是一台 32GB 内存的笔记本电脑。
然后,我们将实现者子代理配置为使用本地的 Gemma 4 模型,把上一课中的“小模型”DeepSeek v4 Flash 提升为“大模型”。结果呢?事实证明相当不错。
然后是大考验:完全本地运行,以 Qwen 3.5 27B 作为“大模型”。结果:比预期更好,说明护栏能起作用。
混合和本地模式表现如何?这两节课都以指标回顾收尾。这是本课程的一大要点:用证据说话。你可以看到小模型如何费力应对,也能看到帮助它们成功所带来的效果。
[LOADING...]
混合与本地 AI 正在升温
非常感谢 DeepLearning.AI 再次与我们合作,并推动这门课程快速上线。这个话题在新闻中已经非常火热:主权 AI、隐私和安全,当然还有成本。创新来得非常快,因此提供一个循序渐进的基础入门是很重要的。
我们会在本地 AI 方面带来更多更新,关注控制、选择与成本。最重要的是,我们 PyCharm 团队相信“人在回路”的价值。敬请期待更多内容。