上海市网信办在「亮剑浦江・2025」个人信息权益保护专项执法行动中，发现部分企业提供生成式人工智能服务存在安全风险，未按要求进行安全评估和采取必要措施，导致生成内容侵犯个人信息权益、涉及违法信息。经督促整改后，仍有企业违规重新上线相关功能，被依法查处。主要问题包括生成侵害他人信息权益、侵犯名誉权隐私权及制作色情暴力内容。相关部门将持续整治AI滥用行为，打击违法违规应用。