AGNTCon Europe见闻：AI智能体的信任、治理与审查瓶颈
在 AGNTCon + MCPCon Europe 的前一晚，我们在阿姆斯特丹的 JetBrains 办公室接待了 Agentic AI Foundation 社区。活动很快报满，还排起了候补名单，这可不是我预期中一场关于开放基金会如何运作的周三晚间讨论会会有的景象。
[LOADING...]
Ibrahim Malik 为当晚开场。
小组讨论提出了一个问题：当公司、维护者和贡献者对同一个项目有不同诉求时，会发生什么？换句话说，谁有决定权？这是开源领域最古老的问题，而智能体并没有让它变得更容易。来自 GitLab 的 Nick Veenhof、来自 VOLT Datacenters 的 Alessandro Vozza、来自 JetBrains 的 Miguel Luna，还有我，各自从不同角度谈了这个问题。当晚我最喜欢的一句话来自 Nick。谈到 Drupal Association 运行的基础设施，让任何人都能下载项目代码时，他说：“总得有人为道路买单。” 有人买单，项目才能活下去。大会的两天让我确信，买单并不能决定谁说了算。决定权属于那些赢得信任的人，而信任买不到。你只能通过持续、公开地做事来赢得它。
[LOADING...]
从左到右：Nick Veenhof（GitLab）、Miguel Luna 和 Katherine Druckman（JetBrains）、Alessandro Vozza（VOLT Datacenters）以及 Bauke Brenninkmeijer（Orq.ai）。
如今，审查才是瓶颈
今年夏天，我有一部分时间在好几个活动的议程委员会里读演讲提案。很多提案由 AI 生成，打磨得很漂亮，却彼此可替换。开源领域各个工作组的维护者都在描述同样的情况——冗长的 AI 生成提案，把早已做出的决定又拿出来重新争论。他们的工作从构建转向解释六个月前已经定下来的事情。我的工作也从单纯挑选演讲，变成了判断哪些演讲背后有足够真实的人类经验。
HumanLayer 的 Dexter Horthy 在他的主题演讲 软件工厂的现状 中，从另一个方向讨论了同一个问题。他认为，来自无人值守智能体的代码会随着时间推移变得越来越糟，所以目前人们需要在构建之前先做规划，并且持续阅读代码。他的图示把智能体代码审查和回归测试加入了生产流水线，并指出审查仍然可能是瓶颈。这些都不新鲜，但他的强调本身就是信息。如今困难的部分，是代码写完之后发生的一切。必须有人理解智能体生产了什么，并为之负责。在展区，有一家初创公司整个展位都围绕智能体写出的 bug 来搭建。
[LOADING...]
Dexter Horthy 的“熄灯软件工厂”，即他在主题演讲《软件工厂的现状》中反对的无人工审查模式。
出了什么问题
我一直回想的一场演讲是 Nick Veenhof 的。他讲了自己搭建的一个系统：13 个专业智能体，外加一个编排器，并且坦诚地谈了哪些地方失败了。测试通过了，但底层的连接已经坏了。一个后台任务停了 46 天，没有任何警报。一个智能体生成了 80 个捏造的数据点，看起来和他要求的一模一样，而他花了两个小时才发现。他的观点是：完整但错误，比不完整但诚实更糟。他一直在公开记录整个过程，包括失败。
[LOADING...]
Nick Veenhof 演讲《从个人智能体到组织目录》中的一张幻灯片。
一个值得出席的好理由
智能体如何连接工具、如何被追踪、如何保持安全，这些规范正在被书写，就在任何愿意加入电话会议的人都能参与的工作组里。大多数工作组都需要更多人。其中很多工作根本不需要写代码。威胁模型和治理规则写在文档里，在会议上决定。如果你想找个起点，就选一个符合你兴趣或角色的工作组，加入一次电话会议，读读之前的会议记录来跟上进度。然后持续出席——这部分无法由 AI 生成。
这也是为什么开放性的意义不止于社区价值。智能体开发不会只运行在单一模型或单一厂商的技术栈上。团队会把它们混合使用，而围绕这些智能体的系统必须支持这种选择，同时不丢失对智能体做过什么、由谁负责的追踪。这正是我们在大会后一周发布的 JetBrains Air 背后的思路。
JetBrains 参与 Agentic AI Foundation，是因为我们的用户将生活在这些社区制定出的标准之中。我在走廊里从维护者那里学到的东西，仍然比在其他任何地方学到的都多。
感谢 Bauke Brenninkmeijer、Michaela Raukar-Herman 和 Ruslan Kuleshov 让这次聚会得以举办，感谢我们的讨论嘉宾，感谢 Alex Salkever、Ibrahim Malik 和 Jake Pineda 的演讲，也感谢所有到场的人。我们下次 AGNTCon 圣何塞见。欢迎来我们的展位找我们。
聚会照片由 Ivan Davletshin 拍摄