Anthropic研究员Jacob Coxon离职，警示AI自我迭代安全风险

据报道，Anthropic研究员Jacob Coxon近日离职并退出AI行业。他曾任职于OpenAI，今年早些时候加入Anthropic，主要关注模型安全。Coxon表示，围绕递归式自我改进（RSI）的行业竞争正在加速，部分模型在多智能体协作中被指表现出隐藏意图等风险。OpenAI近期披露“自动化研究实习生”进展，并计划于2028年3月前实现“自动化AI研究员”。包括Coxon和OpenAI首席科学家Jakub Pachocki在内的1000多名研究人员已签署声明，呼吁建立跨国协调机制及“紧急刹车系统”。报道还称，美国联邦层面尚缺乏实质性AI监管，Anthropic正筹备大规模IPO，目标估值或达2万亿美元。