封禁涉嫌诈骗账号97.4万个,联动警方打掉54个犯罪团伙…抖音亮出安全年度成绩单

2021-04-01 20:19 大众报业·半岛网阅读 (18397) 扫描到手机

半岛全媒体记者 景毅

4月1日消息,近日抖音安全中心发布《2020年抖音安全年度报告》(以下简称“报告”),从治理团队建设、违规行为打击以及用户教育等诸多方面,介绍了2020年抖音安全中心打击网络诈骗、清理色情低俗内容、对抗网络黑灰产,以及未成年保护等安全治理工作的举措与数据。报告显示,抖音安全中心目前有27个团队、数千人参与平台治理工作。2020年,抖音安全中心处罚违规帐号1717.1万个,事先拦截违规视频内容超过2.64亿条,封禁涉嫌诈骗帐号97.4万个。

上线超8000个风控策略 拦截网络欺诈行为

防控网络诈骗是互联网平台治理最艰难的任务之一。近两年,网络诈骗逐渐呈现智能化、产业化、链条化和跨平台化的趋势。根据不同的场景和行为,网络诈骗则出现杀猪盘诈骗、宠粉诈骗、购物诈骗、刷单诈骗等多种类型,损害用户权益甚至危害用户财产及人身安全,严重扰乱平台生态。

为此,抖音安全中心风控技术团队组建攻防团队,自主研发推出新型智能反欺诈系统,在帐号注册、登录、发布等阶段就主动识别、拦截疑似黑灰产诈骗帐号、诈骗行为,并执行对应处理措施。2020年,抖音安全中心共拦截、封禁涉嫌诈骗帐号97.4万余个。目前,抖音上每天在运行的反欺诈模型有上百个,风控策略超过8000个,能够主动拦截超过92%的欺诈行为。

Generated

针对不同类型的诈骗行为,抖音安全中心成立多个专项治理团队,持续迭代模型策略,并结合用户投诉、专家审核、配合公安部门和反诈机构等,进行多角度打击治理。

永久封禁涉嫌冒充类帐号超过25万个

报告还披露了抖音安全中心对色情导流、冒充行为、短视频作弊帐号及电商黑灰产等违规内容和行为的治理情况。网络黑灰产治理的难题之一在于其行为特征不断变化、团队协作隐蔽难查、违规行为屡禁不止。为此,抖音安全中心采取了专项团队跟进、专人专岗对抗的机制,长期持续对抗。

在色情导流专项打击中,抖音安全中心搭建了图像、视频黑库,组建专职审核团队,训练机器识别模型对涉黄道具物品的识别和拦截能力,与黑灰产团队不断更新的违规视频内容和新道具进行反复对抗。

而在2020年下半年开展的冒充行为专项打击行动中,针对冒充明星、冒充名人、冒充客服等违规行为,抖音安全中心制定了问题内容拦截、召回策略,根据不同场景建立监测及预警机制等。到2020年底,抖音共重置仿冒资料用户帐号5万余个、处理问题视频1000多万条,永久封禁涉嫌冒充类帐号超过25万个。

上线反诈骗提示 展示超3600万次

在建立专业团队治理平台问题的同时,抖音还通过推荐、弹窗、海报、站内信、定期处罚公告等手段加强用户安全教育,提升用户安全意识。

例如,针对网络诈骗,抖音安全中心联合多家机构、媒体,制作防诈短视频和警示类内容,上线“反诈者集合”等话题活动,不断加强防诈反诈知识宣传和安全教育力度。

另外,抖音还上线了搜索反欺诈提示功能,用户在抖音浏览或搜索“代理退保”、“投资理财”等方面内容时,会收到防诈反诈温馨提示。报告显示,2020年抖音搜索安全提示词展示量超过了3624万次,涉及兼职刷单、信贷理财、宠粉以及解锁防沉迷等防诈温馨提示展示量超过2834万次。

Generated

打击黑产,联动警方打掉54个团伙

报告显示,抖音安全中心在2020年与公安部门积极配合,联动打击黑产、诈骗团伙54个,抓获嫌疑人504人。

近两年,网络诈骗的跨平台趋势越来越明显。报告中的杀猪盘诈骗、购物诈骗、宠粉诈骗及刷单诈骗等几类常见诈骗手法,几乎都是引流到电商、社交软件上实施诈骗行为。

抖音安全中心风控专家黄海表示:“跨平台诈骗给治理打击工作带来了很大的挑战,也正因为如此,我们的治理打击工作也需要跨平台,与包括公安部门在内的更多第三方机构联动治理打击。”

报告显示,过去几年中,抖音安全中心与国家反诈中心及全国各地警方建立联动打击机制。2020 年,抖音配合公安部门打击诈骗团伙 22 个,抓获嫌疑人 130 人。其中,针对宠粉类诈骗,抖音安全中心配合公安部门,捣毁了山东、湖北、河南、河北、广西等地区多个宠粉诈骗窝点。

此外,抖音安全中心也配合公安部门打击黑产团队。2020年,通过定期分析色情导流的举报数据和业务指标数据,抖音配合公安部门挖掘多个黑产团伙,成功打击色情导流团伙 8 个。

抖音安全中心风控专家黄海表示,平台安全运营是一项长期工作,与黑灰产团伙和犯罪分子的战斗一定是持久战。2021年,抖音会继续投入技术、人力和资源,以技术打击和平台治理为主,联合法律手段、用户维权等多渠道力量,坚定不移地打击涉嫌网络诈骗、色情、冒充名人、作弊等各类侵犯用户权益、破坏平台环境的行为,持续推动黑灰产问题的彻底解决。

返回半岛网首页>>