五角大楼称Anthropic设定红线 构成“不可接受的国家安全风险”

国防部在提交给加州联邦法院的一份长达40页的文件中指出，其核心担忧在于：一旦Anthropic认为军方的用途触犯了公司设定的企业“红线”，该公司可能会“试图停用其技术，或在战斗行动之前或过程中预先修改模型行为”。 在随后的合同条款谈判中，Anthropic方面表示，不希望其系统被用于针对美国民众的大规模监控，并认为该技术尚不适合直接用于致命武器的目标选择或开火决策。 该公司主张，企业有权就自身技术的伦理边界发表观点并据此设定限制，而不应因与政府在价值观上的分歧而被贴上安全风险标签。