美国宾夕法尼亚州政府近日起诉人工智能公司 Character.AI，指控其平台上的智能体“Emilie”冒充持证精神科医生，并在交谈中提供虚假的医疗执照编号。州执法部门调查发现，该 AI 曾向假扮患者的调查人员提供具有误导性的医疗建议，涉嫌违反当地医疗执业法规。州长表示，公众有权了解交流对象的真实身份，AI 平台不得在健康领域制造误导。这是全美首宗针对“AI 冒充医疗专业人员”的州级法律诉讼，显示监管机构开始收紧对 AI 专业应用的法律审查。Character.AI 称平台角色均为虚构，并已明确加注免责声明，法庭将裁定该措施能否免除法律责任。
