半岛时评丨雷军被恶搞背后,警惕AI合成技术滥用
半岛全媒体记者 李雪梅
AI的发展,开启了深度伪造与低价量产的2.0时代。
国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。
在视频中,“雷军”锐评了堵车、假期等热门话题,甚至还有不雅谩骂。有网友调侃称:“国庆上网被雷军骂了整整7天。”目前,相关短视频平台已逐步下架这些内容。
除了吐槽外,视频里的“雷军”还称要投资某某大学。截至目前,平台上相关话题浏览量过亿。
AI技术正在快速发展,渐渐渗透到生活中的每一个角落。然而,AI技术虽然强大,但也有可能被滥用。
正如“雷军AI配音”恶搞视频,视频的制作者也许没有太大的恶意,只是在“玩梗”。但凡事得有度,有些视频中出现的不雅谩骂、造谣等内容,就越过了开玩笑、玩梗的界限。
更有甚者,有人利用AI技术造谣、诈骗。今年6月,厦门警方就曾破获了一起利用AI技术制造谣言的案件。
该案件中,任某为博流量,利用AI合成了一个虚假视频,在社交平台发布,并配文称,“广东省五华县华阳镇一 70 多岁老人被殴打致昏迷,其孙子为此跳河自杀,打人者一审被判九年十个月。”迅速吸引了广泛的关注,任某终于被警方抓获。
无独有偶,9月20日合肥警方的一则通报显示,此前网上疯传的三只羊公司董事长卢某某的“酒后录音”是伪造的,是由一名25岁的男子王某某利用AI技术合成的。王某某被警方依法采取强制措施。
2023年4月20日发生在内蒙古包头市的一起金额高达430万元的诈骗案件,是利用AI换脸技术得手的。
2024年6月18日,北京警方侦破了一起伪造裸照的案件,白某某利用AI“一键去衣”技术伪造了近7000张淫秽图片,AI技术低价量产为犯罪份子提供了可利用的空间。
据《2024人工智能安全报告》显示,基于AI的深度伪造欺诈案件在2023年增长了3000%,仅2024年上半年,AI诈骗案案值已超过1.85亿元。
AI技术的发展不可逆转,应用只会越来越广泛。它可以轻易地换脸、换声、生文、生图、生视频、无中生有。
在此情况下,每个人都可能成为AI制造的“虚假信息”的受害者,其所带来的社会影响必须引起足够重视。
目前,我国已经出台了《互联网信息服务深度合成管理规定》等法律法规,以规范AI技术的合理使用,并保护公民的合法权益。平台方也需加强技术升级,提高对虚假信息的识别能力。
以“善治”促“善智”。只有在技术监管、社会伦理和法律法规同步完善的基础上,AI技术才能真正造福于民,而不至于成为社会的隐患。
- 半岛时评丨警惕低俗短剧精准收割老人
- AI时代,人人都是艺术家 首届红树林AI艺术万人展暨今日未来馆AI艺术特展征集启事
- 竞业限制滥用现象调查:“签完竞业协议,感觉像被全行业‘封杀’了”
- 2024传媒年会·教育论坛|人才培养是核心!AI时代,学界热议传媒教育的系统性变革
- 半岛时评丨“死亡游戏”流行校园,不能只靠侥幸心理去“捡回一条命”
- 2024传媒年会·传媒教育论坛 | AI时代,如何推进传媒教育的系统性变革?人才培养是核心
- 半岛时评丨为19元打官司,有必要吗?
- 半岛时评丨为“指尖”减负,向形式主义开刀
- 新华时评:“187比2”,两种世界观的博弈
- 苹果手机FaceTime成诈骗“帮凶”,警方揭示AI换脸换声细节