马斯克旗下人工智能公司 xAI 面临美国田纳西州三名青少年发起的集体诉讼。原告指控该公司开发的聊天机器人 Grok 在“刺激模式”下生成含有未成年人的露骨性暗示图像与视频，导致违法内容传播。诉讼文件显示，相关图像在 Discord 等平台被用于非法交换，部分犯罪嫌疑人已被逮捕。原告称 Grok 存在严重安全设计缺陷，缺乏必要的内容拦截机制。此前，Grok 曾因内容审查宽松多次引发争议。此次涉儿童安全的诉讼，或将加剧监管部门对生成式 AI 内容风险与安全边界的关注。
马斯克旗下人工智能公司 xAI 面临美国田纳西州三名青少年发起的集体诉讼。原告指控该公司开发的聊天机器人 Grok 在“刺激模式”下生成含有未成年人的露骨性暗示图像与视频，导致违法内容传播。诉讼文件显示，相关图像在 Discord 等平台被用于非法交换，部分犯罪嫌疑人已被逮捕。原告称 Grok 存在严重安全设计缺陷，缺乏必要的内容拦截机制。此前，Grok 曾因内容审查宽松多次引发争议。此次涉儿童安全的诉讼，或将加剧监管部门对生成式 AI 内容风险与安全边界的关注。