2017年,YouTube儿童频道上,突然出现大量以“艾莎公主”形象呈现,却包含大量色情、血腥暴力等儿童不宜情节的视频。(资料图片)
1月22日,迪士尼经典卡通人物“米妮”在好莱坞星光大道印上属于自己的那颗星。然而,在某一个阴暗的角落,有一些人正用充满暴力、血腥和色情的改编“动画”荼毒着电子设备前的孩童。腾讯视频23日回应新华社记者证实,截至当天,腾讯下架涉儿童“邪典”原视频1464条,对23万条存疑视频作批量下架处理,对53万余条视频撤回复审,封禁恶意账号621个。相关视频的清理工作还会持续进行。
技术难以完全鉴别 同样来自迪士尼的“艾莎公主”是“儿童邪典视频”里出现频率最高的人物之一。近两年,国外知名视频网站“优兔”(YouTube)曝出“邪典视频”,被媒体称为“艾莎门”。
这些视频情节简单粗暴,多在手机和平板电脑客户端上播放。美国媒体认定,视频由成人制作,目标瞄准不太识字、极易受画面影响的学龄前儿童。试想,一个三四岁的孩子看到艾莎公主做开颅手术,会对心理造成什么影响?
颇具迷惑性的是,这些动画大多配以欢快音乐和儿童笑声,上传者把视频标签定为“卡通”“教育”等,与正常动画视频混杂在儿童频道中。除非家长“一陪到底”,否则粗看之下难以发现异样,防不胜防。
“优兔每分钟上传的内容达到300小时,一秒一秒地审查每部视频不可能,”美国技术伦理学者波尔格接受记者采访时说。
“为简化流程,优兔等主要平台结合使用人工智能工具、用户报告和版主。然而,不少家长可能会想当然地认为,优兔儿童频道等完全由人工挑选并审查。坏人正是利用这个漏洞,故意把不良内容标记为看似适合儿童的内容。”长期从事儿童发展心理学和早期教育研究的心理咨询师高璇告诉记者,在画面、声音和文字三种传播途径中,低幼儿童是最易受画面影响的,因为从儿童发展心理学来看,孩子一直到八九岁,都是“画面处理信息优先”。
高璇说,画面带来的影响,在孩子记忆中储存的时间比文字和声音都要长。孩子因为无法理解和处理看完恐怖画面后产生的害怕、焦虑情绪,常常出现睡眠障碍。
更让人心惊胆战的是,在“算法”推波助澜下,只要不慎点开类似视频一次,后续视频就会源源不断推送至用户。“艾莎门”曝光后,“优兔”迫于各方压力,去年11月宣布删除超过15万个视频。
国内视频网站纷纷中招 这些“精神垃圾”早已大规模流入国内,优酷、爱奇艺等国内高流量视频网站的儿童频道纷纷中招。更有甚者,包括动画及真人的“本土”视频已然出现,部分视频甚至有儿童出镜,一些视频点击量颇高。
有网友在社交网站上写道,这些视频饱含来自成人世界的“恶意”。网络平台行业人士认为,恐怕不止“恶意”这么简单。“儿童邪典视频”的背后,潜藏一条外人难见的利益链条。
国内外视频网站通行规则是,只要视频点击达到一定数量,网站就会自动在视频开头或中间插入“贴片广告”。只要用户打开视频,广告就会自动播放,视频上传者由此获得广告收入分成。
全国“扫黄打非”办公室22日说,已部署开展深入监测和清查。多个网站也开始自查和清理相关内容。腾讯视频表示,已第一时间成立了集运营、安全、技术等在内的专项清理小组,北京、成都、深圳三地联合,投入超过100人,24小时不间断处理有害视频,并且与其他视频网站保持紧密联络,共享关键字和有害样本。
腾讯视频认为,此次“儿童邪典视频”在国内呈现总量大、分布广、密集上线、变种类型多等特点,大部分上传账号多为个人账号和搬运类账号,一些搬运账号有上传热点以吸引点击的动机。不过,如此大规模的集中爆发,涉及账号较多,还需要进一步分析和调查。目前,腾讯已采用音视频指纹、ES搜索等技术,以快速处置有害视频。“针对少儿内容,我们将重新制定审核标准和尺度,运用人工智能(AI)学习有害的视频样本,打击后续有害内容的上传和传播。” 据新华社
全国“扫黄打非”办:
制作传播邪典视频必严惩 据新华社北京1月24日电 针对网络制作传播涉儿童“邪典”视频相关情况,全国“扫黄打非”办公室24日通报,已紧急部署约谈相关互联网企业要求深入开展清查,同时追根溯源严查制作传播源头。
根据相关线索,全国“扫黄打非”办公室部署广东省“扫黄打非”办公室对广州胤钧贸易有限公司制作传播涉儿童有害视频一案依法进行调查。1月22日,在广东省及广州市“扫黄打非”办公室的协调下,广州市公安、文化执法等部门对该公司进行了执法检查并调取相关证据。经查,该公司未经许可,擅自从事网络文化经营活动,且产品内容涉嫌违反相关法律规定。根据调查取证情况,执法部门已要求该公司将其所有相关视频下线,并依法查封两处生产经营场所,扣押用于生产经营的专用工具和设备,责令当事人停止生产经营活动。目前,该案正在进一步调查处理中。
广州胤钧贸易有限公司22日晚间在其官方微博上称,是“为了冲视频流量做了一个错误的示范——制作可怕视频”,“创作了一些带有恐怖题材的视频带给小朋友伤害和影响”,并向“小朋友还有家长们”“深深道歉”。
广州市文化市场综合行政执法总队副总队长江南表示,据执法总队掌握的情况,广州目前尚未发现别的企业涉及儿童“邪典”视频,而被查封的广州胤钧是网络儿童“邪典”视频的一个制作部门。他表示,视频网站对此类视频的传播,在节目内容的把关上也存在很大的责任,需要进一步进行整治。
全国“扫黄打非”办公室有关负责人表示,针对利用经典卡通形象制作传播涉暴力、恐怖、残酷、色情等妨碍未成人健康成长的有害视频情况,全国“扫黄打非”办公室已部署约谈相关互联网企业开展深入监测和清查。“扫黄打非”部门将持续关注,对不履行企业主体责任,造成有害视频及信息传播的企业,一经查实,必予严惩。
据了解,广大网民可通过全国“扫黄打非”办公室举报电话12390,或通过中国扫黄打非网、“扫黄打非”微信公众号在线举报。今年全国“扫黄打非”办公室将继续开展“护苗2018”专项行动,重点清理涉未成人有害出版物及信息,严厉打击相关违法犯罪活动。
[编辑: 张珍珍]
