4月12日，公安部公布10起打击整治网络谣言违法犯罪典型案例。其中，广东公安机关查处#广州限制外卖配送谣言系AI生成#，该案中四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，使用人工智能工具批量生成不实文章进行引流牟利。
广东警方称，叶某英为吸引眼球编造发布上述谣言，扰乱社会正常秩序，已对杨某、叶某英等6名人员采取刑事强制措施。公安部此次公布的10起典型案例中，湖南、江西、重庆三地警方也查处了使用人工智能工具造谣案件。
近年来，在互联网技术和产业快速发展的背景下，受“流量经济”刺激，网络谣言的内容广度、传播速度、更新频率、影响范围及社会危害性等显著增强。公安部党委决定将2024年作为打击整治网络谣言专项行动年，部署全国公安机关开展为期一年的专项行动，打防管控一体推进，持续加大全链条、全平台、全领域打击力度。据悉，去年12月公安部部署全国公安机关统一开展打击整治网络谣言专项行动以来，截至目前，累计侦办网络谣言类案件1万余起，抓获犯罪嫌疑人1500余名，行政处罚10700余人，打击整治网络谣言专项行动取得阶段性成效。
与此同时，人工智能AI等新技术降低造谣成本，一些不法分子利用新技术一键生成虚假信息，也增加了治理难度。2023年， 人民法院、 人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定，对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形，依法从重处罚。
中国政法大学传播法研究中心副主任朱巍对南方+记者表示，随着人工智能工具日渐普及，用“AI”降低造谣成本、引流牟利的不法现象日趋增多。公安机关加大对相关案件的打击力度，体现了对“AI造谣”的坚决整治态度。此次广东警方对“广州限制外卖配送”谣言案中涉案人采取刑事强制措施，或将成为打击治理“AI造谣”的样板案例，将对不法分子起到有力震慑作用。
