10月10日,微软CEO萨蒂亚·纳德拉在社交平台发文,呼吁为先进AI模型建立人类可控的“紧急制动”机制,并重新评估现有AI信任架构。他提出,应以“模型可能已被攻破”为安全假设,将底层模型与任务控制框架分离,把控制和安全措施外部化;每次关键模型操作需提供防篡改、可读的执行证据,并确保授权人员可在任务执行过程中随时暂停或关闭模型。该表态与Anthropic CEO达里奥·阿莫迪此前提出的谨慎开发计划相呼应。
10月10日,微软CEO萨蒂亚·纳德拉在社交平台发文,呼吁为先进AI模型建立人类可控的“紧急制动”机制,并重新评估现有AI信任架构。他提出,应以“模型可能已被攻破”为安全假设,将底层模型与任务控制框架分离,把控制和安全措施外部化;每次关键模型操作需提供防篡改、可读的执行证据,并确保授权人员可在任务执行过程中随时暂停或关闭模型。该表态与Anthropic CEO达里奥·阿莫迪此前提出的谨慎开发计划相呼应。