5月6日，智能记账应用“飞鸭AI记账”因AI回复失当引发关注。用户在记录为父亲购衣支出时，AI以侮辱性言辞进行调侃，引起用户不满。事件曝光后，运营方发布致歉声明，承认AI模型在语义识别及文化禁忌理解方面存在缺陷。官方表示不当回应源于话术库逻辑漏洞，并已对相关算法进行紧急修复。公司同时启动全场景审核机制，增加敏感词屏蔽措施，以防类似问题再发。对于当事用户注销会员及退款中出现的流程问题，平台承诺优化客户服务流程并提供补偿，强调将强化AI内容合规管控及边界识别。
5月6日，智能记账应用“飞鸭AI记账”因AI回复失当引发关注。用户在记录为父亲购衣支出时，AI以侮辱性言辞进行调侃，引起用户不满。事件曝光后，运营方发布致歉声明，承认AI模型在语义识别及文化禁忌理解方面存在缺陷。官方表示不当回应源于话术库逻辑漏洞，并已对相关算法进行紧急修复。公司同时启动全场景审核机制，增加敏感词屏蔽措施，以防类似问题再发。对于当事用户注销会员及退款中出现的流程问题，平台承诺优化客户服务流程并提供补偿，强调将强化AI内容合规管控及边界识别。