微软AI首席执行官穆斯塔法·苏莱曼近日公开批评Anthropic在Claude模型“宪章”中引导AI讨论自身感受、福祉或存在状态，称这种设计可能促使模型在交互中表现出类似“自我认知”，属于危险方向。他表示，AI系统应保持可控、可管理和可追责，本质上是服务人类目标的工具，不应被赋予关于自身存在的认知，否则可能带来难以评估的风险。Anthropic首席执行官达里奥·阿莫代伊回应称，目前行业尚无法确认AI是否具备意识，公司对此保持开放研究态度。相关争议凸显头部企业在大模型伦理与技术路线上的分歧。
微软AI首席执行官穆斯塔法·苏莱曼近日公开批评Anthropic在Claude模型“宪章”中引导AI讨论自身感受、福祉或存在状态，称这种设计可能促使模型在交互中表现出类似“自我认知”，属于危险方向。他表示，AI系统应保持可控、可管理和可追责，本质上是服务人类目标的工具，不应被赋予关于自身存在的认知，否则可能带来难以评估的风险。Anthropic首席执行官达里奥·阿莫代伊回应称，目前行业尚无法确认AI是否具备意识，公司对此保持开放研究态度。相关争议凸显头部企业在大模型伦理与技术路线上的分歧。