6月24日，南都记者从公安部网安局获悉，一男子利用AI炮制“政府工作人员因买方便面被通报”的网络谣言，已被依法采取刑事强制措施。南都此前调查报道AI造谣乱象，发现给出相应指令后，一些AI工具就能快速批量扩写出不同的故事文案，有的每个月会员费只要99元，充值一年还能打五折。
南都此前报道。
据通报，近日，网上流传一份通报，称“泰州姜堰顾高镇政府办公室两名干部张某某、李某某在三令五申严禁违规吃喝、厉行节约反对浪费的纪律要求下，未能严于律己、以身作则，在镇政府周边一便利店消费方便面2份，行为逾越了公职人员的廉洁规范，造成了不良影响，予以通报批评”，引发大量网民关注和讨论。
经属地核查，相关内容完全虚假，顾高镇政府从未发布类似通报，镇政府工作人员也无文中提到的“张某某（男，31岁）、李某某（女，29岁）”，也不存在相关便利店。
公安网安部门查明，曹某林（男，28岁）在看到有关新闻后，为蹭热点、博眼球、吸引流量，利用AI工具炮制了相关谣言，引发大范围传播扩散，严重扰乱公共秩序。目前，曹某林已被属地公安机关依法采取刑事强制措施。
南都此前报道，6月18日，南都记者从顾高镇人民政府获悉，该镇从未发布相关通报，通报中提到的人物、商店均不实，目前已经报警。
南都此前调查发现，随着AI技术的发展，不法分子为了牟利、引流，利用“AI生成图文”等工具作案愈演愈烈。南都记者通过关键词搜索，在网络上发现许多“AI洗稿”“伪原创生成器”“AI写作”等网站、小程序，其功能多样，能满足创作公众号文章、视频脚本、小红书文案、文章标题等需求，还有文章续写、内容改写润色、图片生成文字等功能。
南都记者随机点进一个小程序中，在对话框内输入创作有关“抢劫”“霸凌”“火灾”3个主题内容的详细指令，就快速得到3段被扩写至100字左右不同故事情节的文案，其中还有一些生动的细节。
值得注意的是，也有平台对敏感内容创作，设置了提示。一款小程序在接到写有关霸凌事件文案的指令时提示“不能提供可能宣传暴力或不当行为的内容”。
采写：南都记者 敖银雪
