研究领袖敦促科技行业监控AI的“思维链条”

人工智能推理模型（例如OpenAI 的 o3和DeepSeek 的 R1）的一个关键特性是其思维链（CoT），即人工智能模型解决问题的外部化过程，类似于人类使用便笺簿解决难题的方式。 推理模型是驱动人工智能代理的核心技术，本文作者认为，随着人工智能代理的普及和能力的提升，CoT 监控可能成为控制人工智能代理的核心方法。 研究人员在立场文件中指出：“CoT监控为前沿人工智能的安全措施提供了宝贵的补充，让我们得以难得地了解人工智能代理的决策方式。