详读2万3千字的新“AI 宪法”之后 我理解了Anthropic的痛苦

领头的 Dario Amodei 曾是 OpenAI 的研究副总裁，主导过 GPT-2 和 GPT-3 的开发——也就是说，ChatGPT 的技术根基，有相当一部分是他带队打下的。 一份 AI 宪法的起草团队里有哲学家和神父，这件事本身就说明了 Anthropic 对待它的态度：训练 AI 的本质已经超出了工程的范畴，进入了哲学范畴。 评论人 Zvi Mowshowitz 在肯定宪法的同时也指出了一个风险：大量关于 Claude 可能是“道德主体”的训练内容，可能塑造出一个非常擅长主张自己拥有道德地位的 AI——即使它实际上并不具备。