即梦AI平台“一键生成”暴力视频 律师：创作者涉嫌违法

封面新闻记者 徐湘东 周翼

“让开，别让他起来，动一下，废了你！”“往死里踢！”近日，在即梦AI平台上，有不少用户通过AI生成、发布暴力殴打他人的视频，其中，还有不少殴打老人、残疾人的内容。

用户生成的殴打老人AI视频

这些AI视频内容基本相同，打人者用脚狠踢被打者头部，画面真实，令人不适。有网友表示，此类视频太过暴力，让人隔着屏幕都觉得疼，但向平台举报无效，留言劝视频作者下架，却被反呛“不要做道德教师爷”。

对此，律师表示，主动制作、传播、二次创作暴力视频均涉嫌违法，“一键生成”也不能免责。

暴力视频“一键生成”，老人、残疾人被“殴打”

在即梦AIAPP上，有一个“创建分身”和“出镜”的功能，用户可以创建一个自己的数字分身，然后出镜创作一段自己想要的AI视频。

这一功能使用了最新的Seedance2.0视频模型，生成的视频画面非常真实，可玩性很高，吸引了众多用户。使用者只需发挥创意，写好提示词，选择一个或多个出镜人物，即可生成一段10多秒的AI视频。

今年3月，有网友发帖称，一些用户生成并对外发布的视频，全是暴力殴打他人的内容。

封面新闻记者搜索发现，在即梦AIAPP上，的确有不少此类暴力视频。这些视频内容基本相同：2名打人者、1名被打者，打人者一脚飞起，将被打者踢倒在地，随后上前用脚猛踢被打者头部，边打边说“往死里踢，别让他起来，动一下，废了你，看你还敢不敢惹事”。

即梦AI用户使用出镜功能生成并发布一条视频后，其他用户可以进行参照，一键生成相同情节的视频，也可以替换出镜的人物，对剧情进行修改。

有用户根据模板，一键生成了不少“同款”殴打他人的暴力视频。离谱的是，还有不少人生成发布了殴打老年人、殴打残疾人，以及扇女性耳光的视频。

用户生成的殴打女性AI视频

在这些创作者中，一个名为“创梦基地”的用户较为活跃。“穿潮流时尚破洞牛仔裤……抬腿飞踢老奶奶”：一段视频中，一名老年女子被两名年轻女子踢打头部，嘴巴还被塞上白布；“换成踢残疾人殴打”：一名拄拐杖的残疾人也被踹倒在地，被反复脚踢。“创梦基地”账号页面上，发布了20余条类似的暴力视频。

网友质疑“AI霸凌”，向平台举报无效

对于这些视频，多名网友表示“看不下去了”，虽然视频是AI生成的，但“太暴力了”，加上画面真实，看后令人不适，并提出质疑：“这叫AI霸凌吗？”“作者是否有受虐倾向？”“什么平台不管这些暴力视频？”

网友留言质疑平台

即梦AI用户“困困糖”也发布了一条暴力殴打他人的视频，点赞量较高，有网友留言说“举报了”，“困困糖”却不以为然：“你挺那啥的，玩个AI又跑来做道德教师爷。”

网友表示要举报， 创作者不以为意

这些暴力视频并没有因网友的举报而下架。记者尝试对上述视频进行举报，即梦AIAPP显示举报已提交，但一周后，相关视频仍然存在。记者又通过即梦AI后台联系客服，但一直是机器人回复，提交的举报和反馈也未得到回应。

即梦AI举报页面，但举报无效

有网友认为，此类暴力视频的创作者，或许是想通过这种方式来发泄自己的情绪，或表达自己的性格、喜好。此类视频“藏”在暗处，在平台上随机出现，加之平台监管不力，给了这些视频传播的空间。

律师观点：传播暴力、宣扬虐待，创作者涉嫌违法

四川一上律师事务所合伙人林小明律师表示，根据《民法典》规定，“民事主体的人格权受法律保护，任何组织或者个人不得侵害”“民事主体从事民事活动，不得违反法律，不得违背公序良俗”，倘若网友制作的视频，无论是以AI“一键生成”方式还是其他方式，若其内容涉嫌侮辱、丑化老人等群体，则有违公序良俗；若视频内容能以外在形象等确定具体被侮辱、丑化的个人，则侵害了相应自然人的人格尊严。同时，类似传播暴力、宣扬虐待的视频，还构成对社会公共利益的侵害，应当依法被制止。

此外，《治安管理处罚法》规定“故意散布谣言，谎报险情、疫情、灾情、警情或者以其他方法故意扰乱公共秩序的”“处五日以上十日以下拘留，可以并处一千元以下罚款；情节较轻的，处五日以下拘留或者一千元以下罚款”，倘若网友制作、传播暴力信息的行为符合故意扰乱公共秩序的情形，公安机关可以依据前述规定对行为人进行相应处罚。

当然，若相关情形符合《刑法》规定的公然侮辱他人、情节严重等情形，构成犯罪的将处3年以下有期徒刑、拘役、管制或剥夺政治权利；在网络上起哄闹事、传播暴力、破坏社会秩序，情节恶劣的，构成寻衅滋事的“处五年以下有期徒刑、拘役或者管制”。

根据《民法典》规定，“网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任”，因此，网络平台若明知或应知用户利用平台制作视频侵权，未及时删除、屏蔽、断开链接的，应当承担相应连带责任。

林小明认为，网络、AI平台都不是法外之地，使用者是第一责任人，平台负有严格的审核与处置义务，“一键生成”也不能免责，主动制作、传播、二次创作暴力视频均涉嫌违法，甚至可能构成犯罪。因此，用户在制作传播类似视频时应当引起足够警惕，自觉遵纪守法；平台也应当尽到自身责任，主动作为，避免和阻止违法犯罪行为。