从小红书下架风波探讨网络运营者内容审核管理义务
自2019年7月29日开始，小红书APP（以下简称“小红书”）在各大安卓手机应用市场陆续下架。8月1日凌晨，小红书发表声明称，公司已对站内内容启动全面排查、整改，进行自查自纠。8月3日，小红书在App Store亦无法搜索下载。在此次下架风波之前，小红书即被多次曝出代发代写虚假“种草笔记”、涉嫌销售违禁药品与烟草等多种负面新闻。目前小红书的下架原因还没有得到官方的明确回应，但主要的猜测集中在小红书平台的内容管控之上。
小红书是一个主打UGC模式的电子商务平台，平台治理和内容安全是小红书进行合规风险控制的重点。如何建立健全并落实内容审核管理机制，是包括小红书在内的每一个网络运营者所无法回避的问题。
?
一、与内容审核管理义务相关的法律法规及行业规定
发布主体
实施时间
《网络安全法》
全国人民代表大会常务委员会
2017.06.01
《广告法》
2018.10.26?
《电子商务法》
2019.01.01
《互联网信息服务管理办法》
国务院
2011.01.08
《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》
国家互联网信息办公室
公安部
2018.11.30
《微博客信息服务管理规定》
国家互联网信息办公室
2018.03.20
《互联网用户公众账号信息服务管理规定》
2017.10.08
《互联网群组信息服务管理规定》
2017.10.08
《互联网论坛社区服务管理规定》
2017.10.01
《互联网跟帖评论服务管理规定》
2017.10.01
《互联网论坛社区服务管理规定》
2017.10.01
《互联网信息内容管理行政执法程序规定》
2017.06.01?
《互联网新闻信息服务管理规定》
2017.06.01
《互联网直播服务管理规定》
2016.12.01
《移动互联网应用程序信息服务管理规定》
2016.08.01
《互联网信息搜索服务管理规定》
2016.08.01
《即时通信工具公众信息服务发展管理暂行规定》
2014.08.07
《互联网广告管理暂行办法》
国家工商行政管理总局（已撤销）
2016.09.01
《互联网视听节目服务管理规定》
国家新闻出版广电总局（已撤销）
2015.08.28
《网络短视频平台管理规范》
中国网络视听节目服务协会
2019.01
《网络短视频内容审核标准细则》
中国网络视听节目服务协会
2019.01
《网络视听节目内容审核通则》
中国网络视听节目服务协会
2017.06.30
?
二、网络运营者的内容审核管理义务
网络运营者的内容审核管理义务主要包括以下四个方面：
（1）账号管理义务
网络运营者应当加强对其注册用户账号的管理，同时落实实名制要求。《互联网用户公众账号信息服务管理规定》要求互联网用户公众账号信息服务提供者对互联网用户公众账号实行分级分类管理，建立互联网用户公众账号信息服务使用者信用等级管理体系，根据信用等级提供相应服务。同时还应当按照“后台实名、前台自愿”的原则，对使用者进行基于组织机构代码、身份证件号码、移动电话号码等真实身份信息认证。
《网络安全法》第二十四条亦规定，为用户提供信息发布、即时通讯等服务的网络运营者，在与用户签订协议或者确认提供服务时，应当要求用户提供真实身份信息。用户不提供真实身份信息的，网络运营者不得为其提供相关服务。
（2）内容审核标准
网络运营者需要对其用户在该平台上发布的信息内容进行审核，不得出现《互联网信息服务管理办法》第十五条所规定的九种情形。
《互联网跟帖评论服务管理规定》对两类提供跟帖评论服务的平台提出更高要求：①提供新闻信息跟帖评论服务的，应当建立先审后发制度；②以“弹幕”方式提供跟帖评论服务的，应当在同一平台和页面同时提供与之对应的静态版信息内容。《网络短视频内容审核标准细则》将各类违法违规内容细化成21部分共100条的审核标准，这对包括网络短视频运营者在内的所有网络运营者皆提供了可参考的内容审核标准。网络运营者还需关注平台内容是否遵循知识产权保护相关规定，不得制作、发布侵犯他人知识产权的信息。
（3）人员配置要求
网络运营者应当设立专门的内容审核岗位并配备相应人员。《互联网跟帖评论服务管理规定》第五条第七项要求，有关平台应配备与服务规模相适应的审核编辑队伍，提高审核编辑人员专业素养。《网络短视频平台管理规范》第五条提出，审核员应当经过省级以上广电管理部门组织的培训，并将“与服务规模相适应”进行量化，要求“审核员人数应当在本平台每天新增播出短视频条数的千分之一以上”。
（4）及时阻止义务
《网络安全法》第四十七条规定，网络运营者应当加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。《互联网用户公众账号信息服务管理规定》第十一条要求互联网用户公众账号信息服务提供者应加强对本平台公众账号的监测管理，发现有发布、传播违法信息的，应当立即采取消除等处置措施，防止传播扩散，保存有关记录，并向有关主管部门报告。
当网络运营者发现存在违法违规信息时，需要及时阻止信息传播，保存记录并向有关部门报告，同时视情对发布和传播该信息的主体作出相应的处理。
因此，网络运营者需要建立并根据实际情况持续健全内容审核管理机制。如网络运营者未及时采取上述措施，将由有关主管部门责令改正，给予警告，没收违法所得。若网络运营者拒不改正或者情节严重的，有关主管部门将处以十万元以上五十万元以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照，对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。
?
三、信息内容涉及广告时的内容审核管理义务
网络运营者可能通过网络平台自行发布信息，比如与广告主合作在其平台上发布互联网广告。此时，网络运营者作为广告发布者，需要遵循《广告法》与《互联网广告管理暂行办法》对广告发布者发布信息所规定的相关要求。
在UGC模式下，若网络运营者未直接参与互联网广告经营活动，可视为仅为互联网广告提供信息服务的互联网信息服务提供者，其对于明知或者应知利用其信息服务发布违法广告的情形，负有及时阻止义务。若未履行该义务，将面临《广告法》第六十四条所规定的行政处罚：由市场监督管理部门没收违法所得，违法所得五万元以上的，并处违法所得一倍以上三倍以下的罚款，违法所得不足五万元的，并处一万元以上五万元以下的罚款；情节严重的，由有关部门依法停止相关业务。
网络平台用户通过平台发布内容也需受到相应法律规制。以小红书为例，该平台上所发布的许多“种草笔记”实际上是一种与商家合作的有偿行为，应在法律上被认定为“广告”，而根据控制该账号的主体为商业机构或自然人可以将用户认定为“广告主”或“广告代言人”。发布具有广告性质的“种草笔记”的用户需要遵守《广告法》与《互联网广告管理暂行办法》等法律法规的规定。此前小红书曾被曝其平台上存在大量涉嫌销售烟草、违禁药品或保健品的“种草笔记”。这实际上是一种违反《广告法》第五十七条、第六十二条与《互联网广告管理暂行办法》第五条的违法行为，这些用户应受到《广告法》与《互联网广告管理暂行办法》的相应规制。
?
四、目前内容审核管理机制的落实困境
2019年4月，由于新浪网未落实内容审核管理义务，网信办对“新浪新闻”、“新浪博客”等APP处以下架一个月的处罚。6月，网易云音乐、喜马拉雅、soul、陪我、吱呀、语玩、空耳等近30个音频平台，因传播历史虚无主义、淫秽色情内容，被相关部门约谈、下架、关停。
《网络安全法》第四十七条明确以法律的方式规定网络运营者的内容审核管理义务，在此之前，亦有多部法律文件从各个方面对网络运营者的内容审核管理义务提出要求。为何网络运营者仍然无法有效落实这一义务，而导致下架事件频频发生呢？
网络运营者内容审核管理的难点主要集中在技术、成本和利益三个方面。
一是技术问题。平台用户数量巨大，内容纷繁复杂，如何在其中准确地过滤违法违规信息是一个艰巨的技术难题。以小红书为例，该平台以内容分享为特色，违法违规信息往往与正常用户的分享内容混同，难以进行区分，过滤难度大。
二是成本问题。加强平台的审核力度需要不断提高审核技术和培养大量具备审核能力的审核员，无论是技术的升级还是人员的培训均需要投入巨大而持续的成本，比如今日头条将审核人员队伍逐步扩充到了10000人之多。
三是利益问题。如果过于重视审核力度，可能会误伤正常用户，甚至会导致平台的活跃度降低，这将直接影响到网络运营者的经济收入，如何在内容和活跃度之间进行权衡，是网络运营者所要应对的困境。
?
五、落实内容审核管理机制的法律改进建议
针对网络平台内容审核管理机制，目前我国法律法规中主要存在两点问题：
一是现有规定比较笼统，缺乏可操作性。
虽然《互联网信息服务管理办法》第十五条规定了九种不得制作、复制、发布、传播的信息，但是各种类型的违法违规信息的具体违法性边界仍然界定不清，没有相应的执行标准，不仅导致平台在过滤相应信息时缺乏具有可操作性的审核标准，亦可能使有关部门在进行监管时缺乏客观稳定的标准。
二是目前的监管模式对网络用户的威慑力较低。当下我国监管部门的整治重点集中在网络运营者，而将追究发布违法违规信息的网络用户的“权力”主要交给网络运营者。比如《移动互联网应用程序信息服务管理规定》第七条规定，用户通过平台发布违法违规信息内容的，移动互联网应用程序提供者需视情采取警示、限制功能、暂停更新、关闭账号等处置措施，保存记录并向有关主管部门报告。在这种模式下，发布违法违规信息的用户很难直接承担法律责任，即使被关闭账号，也可以通过其他账号继续实施违法行为，不利于真正落实对于互联网内容的监管。
因此，除了平台内部应建立更好的内容审核机制外，外部法律制度的构建也需不断地完善。例如出台实施细则为平台和有关部门提供界定和清除违法违规信息的实践指引。同时，由于当前我国监管部门难以直接惩治存在违法违规行为的平台用户，建议有关部门加强与网络运营者的联动，通过社会信用机制约束在使用互联网信息服务中存在严重失信行为的相关主体，以从根源上控制违法违规信息的发布与传播。
?
结语
内容审核管理机制的建立健全是所有网络运营者的网络安全合规义务，对于小红书一类对内容生产依赖度高的网络运营者而言尤为如此。打内容擦边球或许能在短期内获取流量和经济效益，却终究不是长久之计。平台内充斥大量违法违规信息不仅增加合规风险，更会导致市场信任度的下降与品牌价值的贬损。因此，网络运营者需要定期进行自查，确定其业务模式与内容生产之间的关联性以及内容生产失控的潜在风险性，由此建立相应的内容审核管理机制，以更好地应对合规风险与市场竞争压力。
本文仅为我们对相关法律、法规及政策的一般解读，不能作为正式的法律意见和建议，如果您有特定的问题，请与观韬中茂律师事务所联系咨询事宜。
?
作者简介：吴丹君律师，观韬中茂上海办公室合伙人，首席数据官联盟专家组成员及法律顾问、深圳市大数据研究与应用协会法律专家。吴律师专注于互联网、数据信息领域的法律服务，包括网络安全、数据信息管理保护、隐私保护体系建设、数据公开等，为多家国有企业、跨国企业以及互联网大数据企业提供网络安全、数据合规法律服务。吴律师的执业领域为互联网|数据信息、兼并收购、外商直接投资、酒店等，曾多次就互联网法院、共享单车等互联网热点事件接受《中国青年报》《中国企业报》等媒体采访报道，其撰写的四十余篇数据合规专业法律文章被知名互联网媒体广泛转载。?
?
吴丹君
合伙人
观韬中茂上海办公室
电话：（86-21）3135 9919?
传真：（86-21）3135 9929
电子邮箱：wudj@guantao.com
