半岛时评丨雷军被恶搞背后，警惕AI合成技术滥用

半岛全媒体记者 李雪梅

AI的发展，开启了深度伪造与低价量产的2.0时代。

国庆假期期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频。

在视频中，“雷军”锐评了堵车、假期等热门话题，甚至还有不雅谩骂。有网友调侃称：“国庆上网被雷军骂了整整7天。”目前，相关短视频平台已逐步下架这些内容。

除了吐槽外，视频里的“雷军”还称要投资某某大学。截至目前，平台上相关话题浏览量过亿。

AI技术正在快速发展，渐渐渗透到生活中的每一个角落。然而，AI技术虽然强大，但也有可能被滥用。

正如“雷军AI配音”恶搞视频，视频的制作者也许没有太大的恶意，只是在“玩梗”。但凡事得有度，有些视频中出现的不雅谩骂、造谣等内容，就越过了开玩笑、玩梗的界限。

更有甚者，有人利用AI技术造谣、诈骗。今年6月，厦门警方就曾破获了一起利用AI技术制造谣言的案件。

该案件中，任某为博流量，利用AI合成了一个虚假视频，在社交平台发布，并配文称，“广东省五华县华阳镇一 70 多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月。”迅速吸引了广泛的关注，任某终于被警方抓获。

无独有偶，9月20日合肥警方的一则通报显示，此前网上疯传的三只羊公司董事长卢某某的“酒后录音”是伪造的，是由一名25岁的男子王某某利用AI技术合成的。王某某被警方依法采取强制措施。

2023年4月20日发生在内蒙古包头市的一起金额高达430万元的诈骗案件，是利用AI换脸技术得手的。

2024年6月18日，北京警方侦破了一起伪造裸照的案件，白某某利用AI“一键去衣”技术伪造了近7000张淫秽图片，AI技术低价量产为犯罪份子提供了可利用的空间。

据《2024人工智能安全报告》显示，基于AI的深度伪造欺诈案件在2023年增长了3000%，仅2024年上半年，AI诈骗案案值已超过1.85亿元。

AI技术的发展不可逆转，应用只会越来越广泛。它可以轻易地换脸、换声、生文、生图、生视频、无中生有。

在此情况下，每个人都可能成为AI制造的“虚假信息”的受害者，其所带来的社会影响必须引起足够重视。

目前，我国已经出台了《互联网信息服务深度合成管理规定》等法律法规，以规范AI技术的合理使用，并保护公民的合法权益。平台方也需加强技术升级，提高对虚假信息的识别能力。

以“善治”促“善智”。只有在技术监管、社会伦理和法律法规同步完善的基础上，AI技术才能真正造福于民，而不至于成为社会的隐患。