在Anthropic与五角大楼对峙之际,OpenAI CEO Sam Altman宣布公司已与国防部成功达成新协议。他在社交媒体上表示,协议保留了公司关于禁止国内大规模监控和人类对武力使用负责的两项核心安全原则。然而,多方分析质疑这一说法。
Altman的声明
“我们最重要的两项安全原则是禁止国内大规模监控和人类对武力使用的责任,包括自主武器系统,”Altman写道,”国防部同意这些原则,将其反映在法律和政策中,我们将其纳入了协议。”
然而,业内人士立即开始质疑Altman的说法。为什么五角大楼会突然同意这些红线,而它明确表示永远不会这样做?
“任何合法使用”的含义
据知情人士透露,OpenAI的协议比Anthropic推动的要温和得多,关键在于三个字:”任何合法使用”。五角大楼在谈判中不会在收集和分析美国人大规模数据的需求上让步。
如果逐行查看OpenAI的条款,每一项都可以归结为:如果是技术合法的,美国军方就可以使用OpenAI的技术来执行。而在过去几十年里,美国政府已经将”技术合法”的定义扩展到了大规模监控项目。
历史先例的警示
OpenAI的协议声称情报活动将遵守第四修正案、1947年国家安全法、1978年外国情报监视法、第12333号行政命令以及适用的国防部指令。但这一保证并不令人安心。
9/11后,美国情报机构建立了一个监控系统,他们确定其落在OpenAI引用的法律限制内,包括多项大规模国内间谍行动。2013年,爱德华·斯诺登揭示了这些项目的规模,如每日收集Verizon客户电话记录,以及通过PRISM项目从微软、谷歌、苹果等科技公司大规模收集个人数据。尽管情报机构承诺改革,但几乎没有对这些权力实施重大限制。
专家质疑
OpenAI前政策研究主管Miles Brundage在社交媒体上表示:”考虑到外部律师和五角大楼的说法,OpenAI员工的默认假设应该是OpenAI妥协了并把它包装成没有妥协,同时坑了Anthropic还声称在帮助他们。”
加州大学伯克利分校高级研究学者、OpenAI前地缘政治团队负责人Sarah Shoker指出,声明中使用了大量修饰词。”无约束”、”概括性”、”开放式”等词汇的使用,并不是完全禁止。这种语言设计是为了给领导层留出选择空间。
对用户意味着什么
根据OpenAI现有合同和五角大楼当前的法律限制,军方可能合法使用OpenAI技术大规模搜索外国情报数据库中的美国人信息,购买位置数据并绘制美国人的典型行为模式,或从公开数据快速构建大量美国公民档案。
OpenAI发言人在声明中表示:”系统不能用于以批量、开放式或概括性的方式收集或分析美国人的数据。”但”批量”和”大规模”之间的区别,可能成为未来争议的核心。
发表回复