据《金融时报》周四报道，Anthropic 已在国家安全局内部安置了约 6 名工程师，帮助部署 Mythos（其最强大的人工智能模型）以进行进攻性网络行动。
工程师是前沿部署人员，针对特定应用定制模型。一位消息人士告诉英国《金融时报》，它可能有助于渗透中国和伊朗等国家的网络。
这些工程师是否参与了主动运营尚未得到证实。是什么：Mythos 与 Anthropic 拒绝公开发布的模型相同，理由是存在滥用风险。该公司通过 Project Glasswing（一个包括微软、苹果和亚马逊的受限联盟）将其仅限于经过审查的合作伙伴。
Anthropic 还起诉五角大楼。 2月底，在一份价值2亿美元的合同破裂后，国防部长皮特·赫格斯将该公司指定为供应链风险企业——这个标签历来是为华为等外国对手保留的。症结所在：人类拒绝让国防部将克劳德用于全自动武器或国内大规模监视。美国国家安全局的合同不受该禁令的约束。
加州法官阻止了黑名单作为明显的第一修正案报复。华盛顿特区的一家上诉法院驳回了 Anthropic 在诉讼进行期间停止该项目的请求。据英国《金融时报》报道，美国国家安全局一直在使用 Mythos。
如何阻止构建人工智能的人工智能
在 NSA 故事曝光的同一天，Anthropic 的内部研究所发布了“当 AI 自我构建时”，看看 Claude 在自动化其自身开发方面已经走了多远。在其中，该公司主张在全球范围内暂停人工智能军备竞赛，甚至将其比作冷战时期美国和俄罗斯签订的核条约。
为了理解原因，该公司提供了一些背景信息：
现在，80% 以上的代码都是由 Claude 编写并合并到 Anthropic 的生产代码库中，而在 2025 年初 Claude Code 推出之前，这一数字仅为个位数。工程师每天发送的代码量大约是 2024 年的八倍。
该报告的作者——人类研究所负责人玛丽娜·法瓦罗（Marina Favaro）和联合创始人杰克·克拉克（Jack Clark）认为，这一轨迹正朝着他们所谓的递归自我完善的方向发展：人工智能系统能够自主设计、构建和训练自己的继任者，而人类在每一步中扮演的角色都在减弱。
在视觉表现中，研究人员展示了一个时间线，其中在工作中使用人工智能的第一种方式是人类提示计算机获得结果，随着自动化程度的增加，人工智能代理提示子代理，直到实现结果，无需人类参与。
他们引用的最尖锐的数据点：四月份，克劳德特工面临一个开放的人工智能安全问题——较弱的模型是否能够可靠地监督更强的模型——并让其运行。两名人类研究人员在大约一周的时间内弥补了模型之间 23% 的性能差距。代理恢复了 97%，累计计算时间超过 800 个小时。人类提出了这个问题。特工们设计了每一个实验。这是克劳德运用研究判断力而不仅仅是执行其他人指定的任务的第一个公开案例。
这就是 Anthropic 担心跨越的界限。一旦人工智能选择了哪些实验值得运行——而不仅仅是运行它们——人类就失去了开发循环中最后一个有意义的角色。当今模型中可见的小偏差可能会在自我完善的几代人中加剧，直到没有人能够纠正它们。
他们提出的解决方案是可验证的全球暂停——多个前沿实验室同时停止，并独立验证每个人实际上都停止了。 Anthropic表示将加入其中之一。他们承认，单方面放缓只会将领先地位拱手让给继续前进的人。
我们以前看过这部电影。构建人工智能的实验室也警告人工智能有多么危险。然而，人工智能是这十年来最赚钱的行业，所以没有人愿意停止——即使是那些警告人工智能的人也是如此。
早在 2023 年，人工智能研究界的一百多个知名人士签署了一封公开信，要求全球共同努力，减轻人工智能发展固有的灭绝风险。在此之前的几个月，另一封公开信要求 OpenAI 由于 ChatGPT 的危险性而暂停其进展。
2023 年公开信发出后，没有人停下来。 OpenAI 没有。人择没有。五角大楼将克劳德从系统中剔除的最后期限是 8 月份，大约在同一时间，Anthropic 的 IPO 预计将使其财务状况进入公众视野。