拒绝配合监控与武器化：AI公司Anthropic起诉美国政府

live

美国人工智能公司Anthropic因其AI技术在军事领域的使用问题，与五角大楼发生激烈冲突，并将争议诉诸法院。该公司起诉美国政府将其列为“国家安全供应链风险”的决定，这一认定几乎使Anthropic被排除在所有政府合同之外。



Anthropic坚持认为，其人工智能模型不应被用于对美国公民进行大规模监控，也不应被用于自主武器系统。然而，美国国防部则要求获得“任何合法用途”的使用权。

Anthropic在诉讼中指出，美国政府的做法侵犯了公司的言论自由权，因为企业正因坚持自身原则而受到惩罚。在美国企业中，被认定为“国家安全供应链风险”极为罕见。美国总统唐纳德·特朗普还下令所有联邦机构停止使用Anthropic的技术。

此前，Anthropic曾是唯一一家其软件被允许在美国军方“机密级别”环境中使用的人工智能公司。

在与Anthropic发生争议之后，ChatGPT的开发公司OpenAI则与五角大楼达成了一项协议。OpenAI首席执行官Sam Altman虽然接受了国防部的条件，但随后表示，将会设置技术障碍，以避免AI被用于在美国境内进行大规模监控。不过，这一合作也引发内部争议，OpenAI机器人平台主管Caitlin Kalinowski在周末因抗议该协议而辞职。

Anthropic的AI产品Claude目前是ChatGPT在企业应用领域的重要竞争对手之一。

Anthropic首席执行官Dario Amodei警告称，人工智能能够把互联网上分散的个人数据自动整合，从而在大规模范围内拼凑出一个人的详细生活画像。同时，他指出，目前AI技术仍然不够可靠，不适合被用于完全自主的武器系统。

“我们不会明知故犯地提供一种可能让美国士兵和普通民众陷入危险的产品。”Amodei在一篇博客文章中写道。