每天拦截10亿条违规内容 抖音半年捣毁25个黑产团伙

2020年12月01日 21:10  

本文1401字,约2分钟

随着技术的日益升级,杀猪盘、兼职刷单、小额贷款等诈骗行为渐成规模化、体系化,阻击黑灰产成为互联网平台企业的重任。12月1日,抖音安全中心团队公布了其打击黑产的战绩:每天拦截处理违规注册、刷量、刷粉、点赞、等违法违规内容超过10亿条,今年封禁色情导流和色情招嫖帐号超100万个,半年捣毁25个黑产团伙。

根据国家互联网应急中心发布的《2019年中国互联网网络安全报告》显示,目前中国网络黑产从业人员已超过150万,市场规模已超千亿级别。网络黑产泛滥,对黑产内容及行为监管的难度不断加大。

为有效拦截违规信息并保证平台稳定运营,专业的团队必不可少。抖音安全中心负责人帅帅介绍称,抖音从成立之时就组建了安全运营团队,后升级成为抖音安全中心,目前分设安全运营、安全风控以及治理打击等多个团队,专门负责抖音平台违法违规内容与行为的治理工作。

有关违规内容的拦截措施,帅帅表示,抖音安全中心通过内部组建审核团队,建立了完善的审核标准、审核流程,可提前对平台上的违规内容、行为进行拦截处理。同时中心还建立日常巡检机制和专项巡检制度,通过客户端实际检测、后台技术检测等手段进行常规巡检,配合审核团队多渠道发现违规内容、行为。

不容忽视的是,专业化的黑产活动为网络诈骗等网络犯罪活动提供了帮助和支持,加速了网络犯罪的蔓延趋势。目前,网络黑产活动专业化、自动化程度不断提升,技术对抗越发激烈。

那么,面对黑灰产快速迭代的技术更新,抖音安全中心是如何识别用高科技伪装起来的黑灰产,并与其进行对抗?

“黑灰产团队利用新技术、新手段对平台的攻击渗透行为,效率要超过传统攻击的100倍,甚至更高。”抖音安全风控专家张曦盛分享到,抖音在与黑灰产的对抗过程中,不断升级自身技术与策略,从初期利用词表、名单及频控策略进行对抗,升级到决策引擎和工具平台。目前,抖音安全中心团队已经将数据安全、人工智能等技术应用到了黑灰产打击中,构建立体防御体系。

针对目前黑灰产流行的使用群控软件自动增删好友、收发信息等技术应用,抖音已于今年在9月开启了对“群控软件”的专项打击工作。截至目前,抖音公司法务已针对4家涉及在抖音平台应用“群控软件”的运营公司提起诉讼,并获得了杭州、广州等地法院的支持,相关“群控软件”已被勒令停止运营。

“抖音安全中心一直坚持‘提前发现、事先拦截、事中提醒、事后追击’的平台治理原则,通过技术手段、产品手段、运营手段治理平台违法违规行为。同时,我们也会关注和研究学习黑灰产行业动态,不断提升治理打击技术能力,保障抖音用户的权益。”帅帅说。

打击网络黑灰产一场持续战,需要多方共同合作。抖音方面介绍,除了内部治理,在外部抖音邀请了专业人士参与到平台审核流程中,同时为用户提供多种举报渠道,包括站内举报、邮箱举报、违法和不良信息举报电话、“啄木鸟举报平台”小程序等。截至今年11月,“啄木鸟举报平台”小程序已经累计处理用户反馈的违法违规帐号159.5万个。

抖音抖音安全中心总监周冉对外发出呼吁,希望社会各界联动起来,企业与公安、企业与企业、企业与用户之间进行联合联动,共同打击违法违规行为,建设美好、正向、健康且有价值的行业生态。

(《财经》新媒体综编)