当“合法使用”与安全相抵触:谁掌控军事人工智能的争论

当“合法使用”与安全相抵触:谁掌控军事人工智能的争论

五角大楼希望Claude能在机密环境中用于“所有合法目的”;Anthropic拒绝撤销针对大规模监控和自主致命武器的限制。

Elena CostaElena Costa2026年2月27日6 分钟
分享

当“合法使用”与安全相抵触:谁掌控军事人工智能的争论

在桌面上有高达2亿美元的合同时,科技供应商说“不”是很少见的,而客户更是全球预算最高的国防机构。然而,Anthropic做到了。

2026年2月26日,首席执行官达里奥·阿莫迪(Dario Amodei)发表声明,表示公司“无法在良心上接受”美国国防部关于撤销Claude的保障措施的要求。争议的核心在于两个界限:禁止在国内大规模监控完全自主致命武器中使用该模型。根据《卫报》的报道,五角大楼在国防部长皮特·赫格塞斯(Pete Hegseth)的领导下,发出最后通牒:如果Anthropic不允许Claude用于机密环境中的“所有合法目的”,合同可能会在2月27日下午五点一刻被取消,该公司可能会被标记为“供应链风险”。这样标签通常与外部威胁相关,而不是美国公司。

新闻的表面看似是价值观的冲突。实际情况更为复杂:政府试图将模型的治理转变为合同条款,而公司则试图将其安全政策转变为服务条件。在中间的是需要能力的操作者和需要保证的纳税人。

合同作为模型控制权的战场

重要的不是仅仅是存在一份高达2亿美元的合同。更关乎的是正在购买的资产的性质。一个基础模型并不是一个交付后就“封闭”的传统软件。它是一个会随着时间更新、调整、与数据流集成并获得新能力的系统。在实践中,今天购买人工智能更像是在雇佣一个关键基础设施,而不是许可证一个产品。

这就是为什么五角大楼推动“所有合法目的”这一公式。从他们的逻辑来看,任何对法律的额外限制都相当于一个私人供应商对国家施加了操作限制。副部长埃米尔·迈克尔(Emil Michael)在《卫报》的报道中将问题框定为捍卫公民自由与“大科技”的决策之间的斗争,并质疑一家企业为何要设定超出民主批准的界限。

然而,Anthropic则认为,所提议的语言将允许其保障措施被肆意无视。一位匿名发言人表示,国防部最新的草案几乎“没有任何进展”,而“妥协”主要是法律化。该公司并不反对军事使用;阿莫迪曾写道他相信使用人工智能捍卫美国的“生存重要性”。他讨论了两个应用场景,根据他的论点,该模型可能会“削弱民主价值观”。

这给市场发出了一个战略信号:谈判不再是关于价格、性能或支持的问题。它关乎于谁拥有旁路钥匙。如果客户可以“随时”禁用控制措施,那么保障措施就成了装饰品。如果供应商可以在机密环境中阻止使用类别,国家则感觉在外包其操作主权。

将Anthropic标签为“供应链风险”的威胁放大了这场对抗:它不仅惩罚特定合同,还影响未来对政府销售的能力,以及被波音或洛克希德·马丁等承包商接受的能力,正如报道所提到的,他们被要求评估风险。这是一种权力工具,重新排列了整个行业的动机。

安全不再是原则,而变成了产品架构

从外部来看,“保障措施”听起来像是一项公司政策。实际上,这是产品设计,并且借此延伸出权力的设计。当一个模型禁止大规模监控或自主武器时,其实是限制了某些用途的可扩展性。这就是摩擦所在:人工智能降低了边际成本,使以前昂贵的事情具备可复制性。

在监控过程中,变化是显著的。人工手动分析分散的信息与自动化分类、优先排序和关联的区别在于资金从昂贵的经营转变为潜在的无处不在的能力。相同的逻辑适用于致命系统:自动化减少摩擦,加快决策周期,如果没有明确的人类监督设计则模糊了责任。

五角大楼坚持认为其经营遵循第四修正案等法律,根据报道,这是他们的论点,因此不应接受额外的私有限制。这一点在机构层面上是合理的。问题在于,“合法”和“审慎”在那些扩大能力的系统中并不是同义词。使用能是合法的,但仍然会创建一个难以拆解的操作先例。

我认为这是人工智能政治经济的核心:讨论转移到“模型能做什么”转向“周围系统能做什么”。一个在机密环境中的模型,通过如亚马逊和Palantir等平台集成,不是一个聊天机器人。它是一条决策链中的组成部分。在这个上下文中,保障措施不再是道德立场,而是管理系统风险的一个方式。

Anthropic所捍卫的,至少在其公共框架中,是一种人工智能作为增强智能的理念,而非替代判断。如果一个系统被用于大规模监控或委派致命性,人类不再是监督者,而在最佳情况下,成为事后的签署者。这是公司试图在合同中设定的界限。

一个重新排序的防御人工智能供应商市场的先例

市场已经开始巩固一个论点:国防部希望的不是一个供应商,而是一个目录。去年夏天,首席数字与人工智能办公室向Anthropic、谷歌、xAI和OpenAI发放了高达2亿美元的合同,以定制用于军事的生成性人工智能,根据《卫报》的报道。显而易见的想法是避免依赖单一的参与者并加快能力。

但改变谈判的细节在于,Anthropic根据同一来源,目前是唯一一个在机密环境中使用的模型,这使其在经验上具有优势,因此也拥有更强的谈判能力。正是这一权力,五角大楼试图通过标准化“所有合法目的”这一条款作为合同基础来抵消。

如果这一条款成为常态,其消息对其它供应商来说是明确的:谁希望进入机密领域,必须接受其内部政策不再作为限制。政府无需承诺使用这些模型进行大规模监控或自主武器。只需要确保在法律允许的情况下,得到这样做的权利。

与此同时,竞争的道路正在打开。报道提到xAI接受了“所有合法目的”的标准,供机密工作。这为Anthropic带来了直接的财务风险:失去合同不仅意味着失去潜在收入,还意味着在一个通过实际部署建立信誉而非承诺的细分市场上失去立足点。

如果国防部执行那个威胁,肯定也会有成本。发言人肖恩·帕内尔(Sean Parnell)在X上警告称,停止允许该用途将危及操作和“战斗人员”,他表示他们不会让“任何公司规定条款”。这一立场加强了谈判,但也提升了与现有供应商断绝关系的声誉成本。在国防采购中,更换供应商几乎从来不是一次干净的转型,尽管阿莫迪曾表示愿意与其他供应商进行“平稳过渡”。

较少提及的角度是工业治理:如果美国在合同争议中将当地公司标记为“供应链风险”,整个行业就会内化不合规要作为威胁处理。这加速了市场的“纪律”,但可能使那些因设计而构建安全障碍的人失去动力。

生产防御因素与国家对模型的权力扩展

报道还提到,五角大楼考虑调用国防生产法(Defense Production Act,DPA)以强制获取没有障碍的访问权,尽管在人工智能政策专家看来存在法律疑虑。即使这未必会被执行,其可能性重要,表明国家愿意将先进模型视为战略资源,并向数字经济推动战争时期的工具。

从企业角度来看,DPA改变了风险的计算。如果政府可以宣布一个系统“至关重要”并强制执行条件,那么“向公共部门销售以稳定收入”的策略就不再简单。合同看起来更像是一份带有强制力的协议。而这也迫使董事会思考他们到底在购买什么:销售还是暴露。

阿莫迪强调整个问题中存在一个矛盾,这在操作上是相关的:在威胁将Anthropic标记为供应链风险的同时,也在评估强制获取,因为模型将对国家安全至关重要。这样的紧张关系不仅仅是修辞;它揭示出一个希望在“无依赖”情况下保持依赖的国家,也就是在不承认供应商同样有权力的情况下获取和控制。

可能的解决方案并非一方的绝对胜利。而是一个创建灰色地带的合同重设计:纸面上的保障措施,某些过程中存在的例外,内部审计,以及为国防部保留操作余地的语言。灰色地带的问题在于,在扩展的系统中,技术上未得到保障的东西会随着时间的推移而侵蚀。

显然的是模式:国防中的人工智能已进入一个阶段,其中关键资产不再是模型,而是其使用的治理。谁控制这根杠杆,谁就控制了价值。

毫无疑问的方向是技术治理,而不仅仅是条款

作为专注于影响的未来学家,我看到这场争论是成熟的一个症状。人工智能不再是“创新”的购买,而是基础设施。对于基础设施而言,实际的讨论就是谁定义了界限,谁审核了例外,以及当“合法”使用造成操作、政治或社会伤害时,谁承担成本。

C层管理者应该把这个案例视为关于在受监管行业中购买人工智能的教训:未集成于架构和流程中的安全原则最终会被作为合同附录来谈判,而在压力下附录可能会被打破。如果安全依赖善意,根本无法扩展。

这也是数字融合作为一种如何侵蚀决策垄断的提醒。既无法假设政府掌控私营部门所构建的模型的绝对控制权,也无法期待企业认为内部政策能够替代民主框架。唯一稳定的解决方案是设计系统,让增强智能保留可验证的人类监督和追溯性。

这个市场正在从数字化过渡到治理破坏:价值将转移到那些将保障措施变为可审计工程的公司身上,降低履行成本而不降低能力。技术必须赋能人类判断,并民主化保障,而不仅仅是加速操作。

分享

你可能还感兴趣