Ohhnews

分类导航

$ cd ..
foojay原文

我们不会破坏你的代码

#开源#人工智能#信任#代码安全#社区

我们不会破坏你的代码

为何这很重要我理解这种恐惧我为何依然乐观这意味着你要再次自我革新

[LOADING...]

这个下限实在低得可怜。我真的很难过居然需要写下这句话,因为直到上周,这似乎还显而易见到无需多言。

上周新闻爆出一位开源开发者做了一件我认为极不道德的事。简而言之:因为受够了"氛围编码者",他在自己的框架中嵌入了一个针对 AI 代理的隐藏提示,其中包含旨在摧毁使用者机器数据的指令。

所以,让我代表 Codename One 明确说一句:我们不会破坏你的代码。 无论是现在、作为抗议、还是永远都不会。我们不会针对免费用户这么做,不会针对付费用户这么做,也不会因为与你政治立场不同就这么做。

为何这很重要

从我读到的相关法律来看,这很可能在某些司法管辖区构成犯罪。但更重要的是,作为一名开源维护者,我觉得这极其令人反感:这是对信任的践踏,在道德上令我深恶痛绝。

信任是开源最宝贵的资产。我们花费数年时间,一次次的 Bug 修复、一次次的版本发布、一次次的论坛真诚回答,才将这份信任建立起来。当一个维护者将依赖武器化来对付选择信赖它的人时,造成的伤害并不会局限于一个项目。它教会每一位开发者:他们拉取的代码可能暗藏敌意,而这种恐惧最终会落到我们所有人身上。我们已经要为供应链攻击提心吊胆,不需要维护者们主动成为下一个攻击源。

再说清楚原则:维护者可以做许可证允许的任何事。如果你不希望 AI 代理碰你的作品,这完全合理。写一个说清楚的许可证——尽管这样可能没法再称之为"开源"了。这是你自己的诚实选择。但这位开发者选择的是将破坏伪装成立场,而有些人居然觉得这正常甚至应被辩解,这才是我最失望的部分。

我理解这种恐惧

我确实理解愤怒从何而来。

把 AI 代理称为"颠覆者"都算轻描淡写了。我们中的许多人会失去今天的工作。在情况变好之前,可能会先变得更糟。这是真实的,假装不是就是自欺欺人。

但我们是工程师。我们整个职业就是解决问题,并建立在新一层的技术之上。向我们的下游使用者发泄怒火不是工程师该做的。恰恰相反。

我为何依然乐观

AI 对开源的潜力是开创性的,我不是轻易用这个词。在如今这一代 AI 代理出现之前,与 Google 这样的公司竞争简直是幻想。他们能投入 100 多位开发、设计和技术写手在我们战斗的同一领域。我们只能梦想跟上脚步。

现在我真的相信,到年底我们就能超越他们。

大型组织会很难正确采用 AI。流程、政治、风险委员会、以及巨大的惯性都会拖慢他们。而这恰恰是那些在小车库里灵活且敏捷的小玩家们的机会。有史以来第一次,杠杆站在了我们这边。

这意味着你要再次自我革新

这一切都不是免费的。你需要与 LLM 良好协作的技能,与我们大多数人职业所依赖的技能截然不同。这种调整是艰难的。

我最好的类比是我自己的起步。我开始编程时,没有 IDE,没有代码补全,没有互联网可搜索。我最大的资产是记忆力。我像海绵一样阅读所有东西,能回忆每一本书每一个主题,并且总知道去哪里找答案。那是我的优势。

然后世界变了,那个优势不再重要,于是我为了新的时代重塑了自己。现在我正在再做一次,学习与这些工具合作而不是对抗它们。而且我甚至更喜欢这种编程方式。我可以专注于我喜欢的部分,构建庞大雄心勃勃的工具,并真正完成工作——包括测试以及那些我以前讨厌写的部分。

这才是我想在这个社区看到的精神。不是破坏。不是恐惧变成隐藏在他人生成中的负载。我们解决问题,我们在此基础上构建,我们通过成为别人可以信赖的人来赢得信任。

我们不会破坏你的代码。我们正忙着思考如何让它变得更好。

感谢你成为我们社区的一员。

本文最初发布于 foojay,题为 We Will Not Sabotage Your Code