明明在作品上标注了“AI生成”，为什么还要刑拘我？！
公安部今年8月公布的14起涉企网络谣言典型案例中，多起都是利用AI工具生成“品牌汽车车祸现场”视频博取流量。据公安部同期披露的数据，今年以来公安机关累计侦办网络违法犯罪案件3.6万余起，其中涉虚构事实、移花接木、AI生成的网络谣言案件达1.1万余起。
假车祸的“量产车间”
造假有多容易？媒体此前的调查披露，目前网民常用的AI生成视频软件，均可免费生成事故类视频，长度一般在5秒到10秒之间。一个提示词、几分钟等待、近乎为零的成本——一段“以假乱真”的车祸视频就诞生了。
个体造谣之外，更值得警惕的是产业化运作。今年4月，上海警方披露一起案件：犯罪嫌疑人梁某、郭某操控4000余个自媒体账号，借助AI工具“洗稿”，专门针对沃尔沃、理想等多家车企批量炮制虚假内容，5分钟即可生成百余篇伪原创文章。为规避平台审核，团伙专选凌晨1点至6点集中推送。截至案发，累计发布不实文章70余万篇次，全网阅读量超过8000万次，非法获利8万余元。两人已被依法采取刑事强制措施。
车祸之外，AI谣言的场景还在不断“翻新”：有网民用AI编造“张家界大峡谷玻璃桥坍塌”，画面中桥头断裂、人群四散奔逃，配上“没事就别想着出去玩了”的煽动性标题，被采取刑事强制措施；有企业员工用AI生成“车间爆炸、伤者面部烧伤100%”的虚假视频，被行政警告；还有网民炮制“顶流明星境外豪赌输光十亿身价”的假文章冲上热搜，被行政拘留8日。
就在9月19日，一段“汽车倒挂卡在高速路牌上”的视频又在社交平台流传。经核查，画面中指示牌拼音错乱——“四川路”标注为“Xian Shgna”——AI生成痕迹明显，平台也已作出“疑似使用AI生成技术”的提示。这条视频传播量不算大，却像一面镜子：AI假事故已经多到让“惊险瞬间”本身都变得可疑。
从罚款到判刑，法律到底是怎么算账的？
行政罚款、行政拘留7日、刑事强制措施、有期徒刑六个月——梳理这些案例，一条清晰的责任阶梯已经浮现。
依据《治安管理处罚法》，故意散布谣言、扰乱公共秩序的，可处行政拘留并处罚款；情节再进一步，《刑法》第二百九十一条之一规定了编造、故意传播虚假信息罪——编造虚假的险情、灾情、警情在网络传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。
刑罚的判例已经出现。湖南耒阳男子阳某利用AI编造“化工厂重大事故”“持刀抢劫珠宝店”等虚假信息，相关视频浏览量超过20万次，最终因寻衅滋事罪被判处有期徒刑六个月。
对企业商誉的侵害，同样有法可依。利用AI生成内容损害企业名誉、商誉的，需承担停止侵害、赔礼道歉、消除影响等民事责任；以营利为目的、明知虚假仍通过网络有偿发布的，还可能构成非法经营罪——上海那对操控4000个账号的嫌疑人，撞上的正是这条红线。
“标注AI生成”，为什么刑拘我
一个流传甚广的误区是：只要标了“AI生成”，就不算造谣。
今年3月8日，重庆一网友上传了一段“南岸立交桥倒塌”的10秒视频，上线约12小时即获得点赞超5700、转发超1100。经当地网信部门向消防、应急部门核实，南岸区近期并未发生此类事故。值得注意的是，发布者在发布时特意打上了“作者声明：内容由AI生成”的标注——但警方仍依法对其作出行政拘留6日的处罚。
“标注AI生成不等于免责，这只是内容标识的合规要求，绝不是造谣传谣的免责条款。”重庆市互联网违法和不良信息举报中心处置科负责人的这句话，说破了关键：标识解决的是“让人知道这是AI做的”，法律追究的是“你编造并传播了虚假事实”。这是两回事。
制度层面，2025年9月1日，《人工智能生成合成内容标识办法》与配套强制性国家标准同步施行，明确要求AI生成内容添加显式与隐式标识，传播平台须核验元数据并作出提示。到今年9月1日，这套制度刚满一年，标识要求还在向微短剧等细分场景延伸。监管的思路很清楚：让每一段AI内容都能被识别、被追溯、被定位到责任人。
中国政法大学人工智能法研究院院长张凌寒指出，在AI内容治理中，更多义务压到了传播端，平台需要花更大力气进行鉴别、打标甚至下架。换句话说，“上传即免责”的侥幸，在制度设计上已经被堵死。
造假几块钱，辟谣千万元
对造谣者而言，成本几乎可以忽略：一个提示词、几块钱算力、几分钟时间。对被造谣的企业而言，代价却是发声明、报警、配合调查、面对消费者质疑、承受品牌受损——从视频发酵到警方查证，周期以周计、成本以百万计。这个“造假成本低、辟谣成本高”的剪刀差不消除，AI谣言就永远有人铤而走险。
正因如此，执法机关每一次“精确到人”的处罚，都是在给这个剪刀差做矫正。行政拘留7日，拘留的不是一段视频，而是“AI造谣无成本”的幻觉。
编辑：曼曼
