在五角大楼发出的最后通牒期限前不到24小时,Anthropic拒绝了美国国防部要求无限制访问其AI的要求。这一决定标志着AI公司与军方合作中伦理界限的重要讨论。

事件背景

国防部长Pete Hegseth希望重新谈判所有AI实验室与军方的现有合同。据报道,OpenAI和xAI已经同意了新条款,而Anthropic的拒绝导致CEO Dario Amodei被传唤到白宫与Hegseth会面,后者发出了最后通牒:在周五下班前让步,否则后果自负。

Anthropic的两条红线

Anthropic坚持两条底线:不进行美国人大规模监控,不开发致命自主武器(无需人类监督即可杀伤目标的武器)。CEO Amodei在声明中表示,他深信使用AI保卫美国和其他民主国家的重要性,但在某些狭义情况下,AI可能削弱而非捍卫民主价值观。

部分自主vs完全自主

Amodei区分了部分自主武器和完全自主武器。他认为部分自主武器对民主防御至关重要,但当前前沿AI系统还不够可靠,无法支持完全自主武器。他没有排除未来Anthropic可能同意军方使用完全自主武器的可能性。

五角大楼的威胁

五角大楼已要求主要国防承包商评估对Anthropic Claude的依赖程度,这可能是将公司列为供应链风险的第一步。五角大楼还考虑动用《国防生产法》迫使Anthropic合规。Amodei表示,威胁不会改变公司立场。

总结

Anthropic的立场引发了对AI军事应用边界的广泛讨论。在国家安全与伦理责任之间,AI公司正在寻找平衡点。这一事件也凸显了AI技术在地缘政治中日益重要的地位。