利用AI编造、传播网络谣言 这两起典型案例值得关注

2024-01-12 10:16 公安部网安局阅读 (138970) 扫描到手机

原标题:四川查处两起利用AI编造、传播网络谣言案件

AI,模拟人类智能以解决复杂问题和实现人类类似的任务,强大之处,如今早已超乎想象。

通过海量数据的学习和用户行为、兴趣的分析,从而发现隐藏在其中的模式和规律,进而提供准确的决策支持和更好的用户体验,是它的拿手好戏之一。

改变生活的同时,也滋生了新型犯罪。

案例一

2023年11月,薛某以营利为目的,利用AI文章生成软件一键生成《一旦要打仗,启动一级战备,专家建议老百姓冲在最前线,报效祖国》的文章,并发布在某平台上,吸引网民阅读赚取流量获取收益。

该谣言文章引发大量网民阅读浏览,阅读量达11万余人次,造成了恶劣的社会影响。

四川宜宾公安已依据《中华人民共和国治安管理处罚法》第二十五条对薛某进行行政处罚,并对其造谣网络账号采取关停措施。

案例二

2023年12月20日,刘某群为博取流量,获得平台浏览奖励,将2023年12月实际发生在江西某地已被处理的“校园霸凌事件”截取相关事件图片后,利用AI小程序自动编辑功能,嫁接为发生在德阳某学校的“校园霸凌”虚假信息。

他制作了标题为《12岁女生被8人轮流扇耳光3小时,致耳膜穿孔》的文章在某平台发布,引发大量网民关注,对社会秩序、校园治理造成严重的负面影响。

目前四川德阳公安已依据《中华人民共和国治安管理处罚法》第二十五条对刘某群进行行政处罚,并对其造谣网络账号采取关停措施。

2023年12月以来,四川公安机关聚焦扰乱网络公共秩序等突出问题,积极开展打击整治网络谣言专项行动,截止目前,依法查处造谣传谣网民33人,清理网络谣言信息743条,关停违法违规账号20个。

为进一步强化警示教育作用,坚决维护网络公共秩序和群众合法权益,四川公安公布以上2起利用AI文章生成软件编造、传播网络谣言的典型案例。

网警提示:

网络空间是亿万民众共同的精神家园。

营造一个风清气正、和谐美好的网络环境,与每一位网民息息相关,也关乎每一位网民的切身利益。

对于编造、故意传播网络谣言者,公安机关将坚决依法查处。