AI（人工智能）迅猛发展也逐渐带来乱象，「AI张文宏」、「AI靳东」、「AI雷军」等AI生成的假冒视频屡屡出现在社交网络，让不少人被骗。对此，全国人大代表雷军、陈达建议，应探索推出人工智能单行法，提高立法位阶及其效力，加强对AI技术的立法监管，防止其被用于违法犯罪活动。全国政协委员靳东也说，AI换脸性质非常恶劣，希望能创建更好的规则。
据时代财经报导，全国人大代表、小米集团董事长雷军在14届全国人大三次会议上提交了5份建议，其中「关于加强『AI换脸拟声』违法侵权重灾区治理的建议」引发了广泛关注。
「AI换脸拟声」的滥用带来了严重的法律和社会问题，雷军本人曾深受其害。2024年十一期间网上流传大量未经授权「雷军语音包」，内容从吐槽假期到恶意辱骂，严重损害了其个人形象和声誉。知名艺人刘德华、医学专家张文宏、演员靳东等公众人物也是「AI换脸拟声」技术受害者，张文宏被AI造假直播带货，还有诈骗团伙利用「AI靳东」诈骗老年人钱财。
对此，雷军建议，一是针对「AI换脸拟声」等某一代表性问题，探索推出人工智能单行法，提高立法位阶及其效力，分级分类的基础上进行务实治理，明确「AI换脸拟声」应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度；二是强化行业自律共治，压实平台等各方的责任；三是建议加强人工智能方面的法制宣传教育。
另据新民晚报，全国人大代表陈达也表示，AI技术给人类生活带来翻天覆地的变化，但也为一些心怀恶意之人提供了违法机会。尽管国家已经多次组织治理行动，但仍须在立法层面上进一步完善监管措施。陈达认为应该加强对AI技术的立法监管，防止其被用于违法犯罪活动，特别是针对老年人和未成年人的网络诈骗。
她认为，通过立法明确AI技术的使用范围和条件，可以引导企业和社会各界在合法合规的框架内发展AI技术，推动「科技向善」，让技术更好地服务社会。
据人民日报报导，在5日的政协小组讨论上，全国政协委员靳东也回应了AI换脸导致的诈骗问题。他说：「一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣，希望能创建更好的规则。」