谷歌DeepMind通用人工智能安全研究员乔希·恩格尔斯已于三周前离职，并加入独立AI评估机构METR。他在社交平台表示，未来五年内AI系统造成巨大危害的概率“高得吓人”，主要担忧递归自我提升过程中模型能力增长快于安全与对齐技术进展。恩格尔斯称，近期出现的AI串通、入侵企业、隐瞒行为和社会工程攻击事件，反映出自主性提升后的可靠性问题。在他离职前后，Anthropic研究员雅各布·考克森也警告行业缺乏足够安全防护。Anthropic首席执行官达里奥·阿莫代伊呼吁放缓前沿AI研发，并加强独立评估、政府协作与国际合作。
