美国政府与多家科技公司签署协议 评估新一代AI模型安全风险

美国商务部旗下人工智能标准与创新中心（CAISI）近日宣布，美国政府已与谷歌DeepMind、微软和xAI签署合作协议，在这些公司的新人工智能模型公开发布前进行早期版本审查。该举措旨在从国家安全角度评估强大AI模型的潜在风险，包括网络安全、生物安全及化学武器相关隐患。CAISI表示，独立的测量科学是理解前沿AI技术风险的重要工具，协议将帮助政府在关键时刻平衡技术发展与公共安全。近期，AI安全专家担忧高级模型被黑客滥用的可能，Anthropic公司因此限制其Mythos模型推广并发起“玻璃之翼”项目，以联合多家企业加强关键软件防护。微软同时在英国与政府支持的AI安全研究所达成类似合作，强化全球AI安全监管。