有图就是真相?不一定!警方查处利用AI编造网络谣言案

2024-08-22 14:56 北京日报阅读 (36973) 扫描到手机

AI技术发展迅速,现已成为全球科技领域的热点,一些别有用心之人也趁机将其变为造谣、敛财的工具。8月21日记者从公安部网安局获悉,公安机关依法查处此类网络谣言案,目前已对利用AI编造“大风袭击致人死亡”等网络谣言的相关人员进行了处罚,并发布提示。

本月,一则令人震惊的消息在网络上迅速传播:“(福建)南平松溪县遭遇严重大风袭击,造成枣岭街一人死亡。”这则消息图文并茂,甚至还有逼真的视频片段,一时间引得大量网民关注和转发。但经公安机关核查发现,这竟然是用AI编造而成的网络谣言视频。

经查,该谣言系发布者周某为博取关注、获取流量,通过AI软件生成的。周某对图片和视频剪辑拼凑后,制造出“有图片”“有文字”“有声音”的虚假信息,发布至网络平台上,造成社会不良影响。目前,当地公安机关已依法对周某给予行政处罚。

据网警介绍,造谣者利用AI低成本、高效率、操作简单的特点,通过提供关键字,AI软件便会自动在网络上抓取相关信息,以热点新闻和随机网络音视频为素材,批量化生产网络谣言,投放到各大网络平台上,实现吸引眼球或流量变现的目的。谣言的传播率和影响力成倍增加。

当谣言披上AI的外衣时,不但能自动生成文本,还能生成逼真的图片、音频和视频,让不存在的场景变得栩栩如生,让虚构的人物仿佛真实存在一般。这就完全颠覆了我们常规认知里的“有图就有真相”,使人们对网络谣言本身难辨其真假。

那么在日常生活中,我们该怎样识别并抵制AI谣言呢?

网警提示公众:一是好奇之心要适度,面对新奇夸张的信息,先别急着一探究竟,AI就是选择、抓取大家关注话题来制造网络谣言,利用网民好奇心进行传播;二是切不可盲目相信和传播未经证实的信息,在社交媒体或网络上看到可疑信息时,可以先进行核实或等待官方消息发布后再判断;三是在上网浏览信息时要保持对信息来源的警惕性,多订阅官方媒体、政府部门的账号,尽量选择权威、可信赖的媒体或机构作为信息来源;四是注意网络信息的逻辑性,如果发现一条信息在逻辑上存在明显的漏洞或矛盾,它很可能是经过篡改或杜撰的。