报道称，一名网民马某利用AI合成视频，将其十年前在张家界大峡谷拍的照片制作成“玻璃桥断裂垮塌”假视频并配以坍塌声和尖叫，短时间内获得大量点赞和转发。平台已下架相关内容，警方以编造、故意传播虚假信息罪对其采取刑事强制措施，案件在侦办中。文章提醒不要利用AI造谣以免触犯法律。
这段 13 秒的视频里有坍塌声和尖叫声，配文是“没事就别总想着出去玩了，还是家里安全”，并加上了有关张家界的话题词。而据央视新闻报道，发布这则视频的马某某并不在张家界，他是用 AI 生成的虚假视频，而原始图片竟是他十年前在张家界大峡谷景区拍摄的。
IT之家注意到，目前相关虚假视频已全部下架清理，嫌疑人马某某因涉嫌编造、故意传播虚假信息罪，被公安机关依法采取刑事强制措施，案件还在进一步侦办中。
而据马某某自己坦白，他刷到了一条玻璃索道坍塌的视频，上面写是用 AI 来制作，自己就点它来拍同款，图片是 10 年前张家界大峡谷拍的照片。因为自己看了平台那个短视频，它原视频的流量热度比较高，自己就想，发的视频会不会也一样火。
截至 4 月 29 日，该视频发布仅 4 天，点赞量达 1.5 万次，转发量超 1.1 万次。警方调查发现，4 月 30 日该视频被举报下架后，5 月 1 日马某某又截取视频中的图片再次发布。
IT之家提醒：AI 是方便大家生活的技术工具，但绝不是我们随意造谣、博眼球、赚流量的工具，网络更不是法外之地，千万不要为了流量触碰法律底线。