中国网科技4月16日讯 小红书今日公布2020年第一季度社区生态治理报告,报告显示,小红书当季处理涉嫌刷量笔记52万篇,拦截和清理黑产刷量行为逾1.4亿次。
此外,小红书对外宣布,将于第二季度启动为期90天的生态专项治理行动,对社区内诈骗引流、网络谣言、伪科学标题党、低俗媚俗等高频举报的内容进行重点治理。
“伪科学标题党,某些以炫富为噱头的恶意营销笔记严重损害社区生态,即让用户产生反感,也容易让外界对小红书用户产生负面误解,我们在这方面的治理已经初见成效,接下来一个季度还将继续加大治理力度。”小红书生态治理专项组负责人表示。
谣言伪科学将纳入重点治理范畴
今年3月1日,《网络信息内容生态治理规定》正式施行,旨在通过打击网络暴力、人肉搜索、深度伪造、流量造假、操纵账号等违规行为,建立健全网络综合治理体系,全面提高网络治理能力,营造清朗的网络空间。
基于此,小红书在已有的常规化治理措施基础上,针对社区内经常受到举报的诈骗引流、网络谣言、伪科学标题党、恶意营销、低俗媚俗、传播不良生活方式和不良流行文化以及违规广告等内容和账号进行全面治理。
此次专项治理行动中,除了持续的迭代策略对抗、加强内容模型识别外,小红书还开发、升级清理不良内容、打击虚假数据策略模型和治理策略,有效提升基于行为特征、内容特征等方面的算法模型和策略识别能力,针对搜索结果等方面进行深度阻断灰黑产容易侵入的各领域。
打击“黑灰产”成为平台运营新常态
随着互联网新平台崛起,网络灰黑产原本重点攻击的目标从电商行业延伸至多家社区类互联网平台。对用户和消费影响越大的平台,越容易被黑灰产盯上,从淘宝、抖音到小红书,都是如此,且黑灰产整体呈现数量庞大、手段多变、极难根治的特点。
为了维护平台的健康运转,营造清朗的网络空间,打击黑灰产已经成为互联网新平台运营的新常态。
“我们的反作弊系统已经进行了3次重大迭代,从应对机器刷量到识别模拟全真人刷量行为,再到分辨组织水军刷量,现在我们能对99%的黑灰产行为在线识别和拦截。”小红书生态治理专项组负责人介绍。
自2019年起,小红书开始对外公布平台反作弊数据。目前,每季实时拦截黑产刷量请求和封禁涉嫌刷量笔记数量已现下降。
此外,小红书自2018年开始通过推送平台违规线索,积极配合执法机关打击网络违法违规行为。2019年全年,小红书协助执法部门抓获网络犯罪分子19人,涉案金额超1100万,主动移交调取证据线索逾60条。2019年底,实现向监管部门自动推送线索的新机制,大幅提高推送效率。
“平台生态治理是一场‘持久战’,黑灰产在技术、反侦察等方面也在不断升级。”小红书生态治理专项组负责人表示,在打击黑灰产方面,小红书会坚持到底,绝不放松。