无障碍
x

全部频道

评论> 正文

不能让AI助长“邪典视频”野蛮生长

2025-11-19 02:25 新京报

来源标题:不能让AI助长“邪典视频”野蛮生长

AI技术的大规模应用,显著降低了“邪典视频”的制作成本。

“有些内容成年人看了都觉得不适,更何况3岁的孩子。”据《法治日报》报道,广东的梁先生发现3岁女儿观看的视频中,存在残害肢体、角色从高处坠落等血腥场景,甚至有“把自己的眼珠子挖出吃掉”的可怕画面。

这些AI魔改动漫,本质就是换汤不换药的“邪典视频”。它们往往顶着孩子熟悉的角色IP,塞满暴力冲突、低俗恋爱情节,专门盯着未成年人下手。部分“邪典视频”还被制作成商品,在电商平台销量不俗。

近年来,有关部门通过关停违规账号、下架非法应用程序等举措,相关治理工作取得显著成效,把“邪典视频”这类“精神垃圾”压了下去。然而,AI技术的大规模应用,显著降低了“邪典视频”的制作成本。使用生成式AI,制作者可以很快根据人物原型生成自己想要的画面,甚至不需要掌握太多动画制作基础。

令人忧心的,还有平台算法的推波助澜。这类视频因节奏快、刺激强、认知负荷低,成为流量“黑马”。一旦孩子偶然点击这些视频,算法便会构建“信息茧房”,推送更多同类内容,把未成年人困在“精准喂毒”的循环里。

“邪典视频”无疑对未成年人健康成长构成多重威胁。

其一是宣传色情、暴力,让未成年人在价值观成型期接触危险信息。有家长发现,AI生成的图片和视频不乏“杀死”“烧死”等暴力词汇,以及“用刀砍人”等危险动作描述。

其二是歪曲经典历史人物言行,让未成年人形成扭曲的历史观与文化认知。有孩子接触AI魔改的“外国山海经”以后,竟认定“山海经就是国外的,中国的山海经一点儿也不好看”。

“邪典视频”更深层的伤害,还是针对未成年人的思维与价值观的“投毒”。低龄儿童缺乏辨别能力,长期接触暴力画面可能会导致儿童变得冷漠麻木,对其健康成长带来不利影响。

面对AI技术催生的“邪典视频”回潮,有关部门应跟上技术迭代的速度,加快完善内容监管规则,明确生成式AI的责任边界,严厉打击“邪典视频”的制作、传播及相关衍生品销售产业链。

平台作为内容传播的关键环节,必须摒弃“流量至上”思维,升级算法审核机制,将“儿童利益最大化”作为核心原则,强化“青少年模式”的过滤功能,从源头阻断传播渠道。

AI技术本应是赋能成长的工具,而非炮制有害内容的帮凶。遏制“邪典视频”卷土重来,需要全社会协同发力,既堵住技术滥用的漏洞,又用优质内容填充未成年人的网络空间,让他们在清朗的网络环境中汲取成长力量。

责任编辑:张驰(QN0009)作者:南木

北京千龙新闻网络传播有限责任公司版权所有 未经千龙新闻网书面特别授权,请勿转载或建立镜像,违者依法必究新出网证(京)字013号 增值电信业务经营许可证 2-2-1-2004139 跨地区增值电信业务许可证

信息网络传播视听节目许可证0104056号 互联网新闻信息服务许可证11120180003号 京公网安备 11000002000007号

分享到:
QQ空间 新浪微博 微信 腾讯微博 QQ好友 百度首页 腾讯朋友 有道云笔记