谷歌前安全负责人呼吁放缓AI发展并强化未成年人保护

据路透社报道，谷歌信任与安全团队创始人、前副总裁汤姆·西格尔警告，AI对儿童的潜在伤害或超过社交媒体，行业正重蹈过去缺乏外部约束的覆辙。他已加入儿童网络安全组织Common Sense Media，出任其青少年AI安全研究所首任执行主任，推动制定AI儿童安全标准并追责企业。西格尔建议Anthropic、OpenAI加强年龄验证，并建议谷歌为搜索中的AI概览和AI模式提供关闭选项。谷歌和OpenAI回应称，已提供家长控制及未成年人识别机制，并将持续改进相关保护措施。