Anthropic披露AI研发或接近递归式自我改进阈值

Anthropic在修订版S-1A文件中更新风险披露称，公司正更多利用AI系统加速模型研发，未来模型可能很快达到其《负责任规模化政策》中关于AI显著加速自身发展的递归式自我改进（RSI）相关阈值。目前，公司尚未认定任何现有模型达到该标准，仍在评估相关数据。文件指出，AI辅助研发可能使模型能力提升快于安全验证和保障措施的完善；公司过去曾未及时发现由此带来的能力跃升。Anthropic表示，预计即便技术可行，也不会在缺乏实质性人类监督和理解的情况下，让Claude自主设计、构建下一代前沿模型，并正考虑更新相关政策。