比如广告和特型内容频控。像问答卡片就是比较特殊的内容形式，其推荐的目标不完全是让用户浏览，还要考虑吸引用户回答为社区贡献内容。这些内容和普通内容如何混排，怎样控制频控都需要考虑。
此外，平台出于内容生态和社会责任的考量，像低俗内容的打压，标题党、低质内容的打压，重要新闻的置顶、加权、强插，低级别账号内容降权都是算法本身无法完成，需要进一步对内容进行干预。
下面我将简单介绍在上述算法目标的基础上如何对其实现。
前面提到的公式y=F(Xi ,Xu ,Xc)，是一个很经典的监督学习问题。可实现的方法有很多，比如传统的协同过滤模型，监督学习算法Logistic Regression模型，基于深度学习的模型，Factorization Machine和GBDT等。
一个优秀的工业级推荐系统需要非常灵活的算法实验平台，可以支持多种算法组合，包括模型结构调整。因为很难有一套通用的模型架构适用于所有的推荐场景。现在很流行将LR和DNN结合，前几年Facebook也将LR和GBDT算法做结合。今日头条旗下几款产品都在沿用同一套强大的算法推荐系统，但根据业务场景不同，模型架构会有所调整。
模型之后再看一下典型的推荐特征，主要有四类特征会对推荐起到比较重要的作用。
第一类是相关性特征，就是评估内容的属性和与用户是否匹配。显性的匹配包括关键词匹配、分类匹配、来源匹配、主题匹配等。像FM模型中也有一些隐性匹配，从用户向量与内容向量的距离可以得出。
第二类是环境特征，包括地理位置、时间。这些既是bias特征，也能以此构建一些匹配特征。
第三类是热度特征。包括全局热度、分类热度，主题热度，以及关键词热度等。内容热度信息在大的推荐系统特别在用户冷启动的时候非常有效。
第四类是协同特征，它可以在部分程度上帮助解决所谓算法越推越窄的问题。协同特征并非考虑用户已有历史。而是通过用户行为分析不同用户间相似性，比如点击相似、兴趣分类相似、主题相似、兴趣词相似，甚至向量相似，从而扩展模型的探索能力。
模型的训练上，头条系大部分推荐产品采用实时训练。实时训练省资源并且反馈快，这对信息流产品非常重要。用户需要行为信息可以被模型快速捕捉并反馈至下一刷的推荐效果。我们线上目前基于storm集群实时处理样本数据，包括点击、展现、收藏、分享等动作类型。模型参数服务器是内部开发的一套高性能的系统，因为头条数据规模增长太快，类似的开源系统稳定性和性能无法满足，而我们自研的系统底层做了很多针对性的优化，提供了完善运维工具，更适配现有的业务场景。
目前，头条的推荐算法模型在世界范围内也是比较大的，包含几百亿原始特征和数十亿向量特征。整体的训练过程是线上服务器记录实时特征，导入到Kafka文件队列中，然后进一步导入Storm集群消费Kafka数据，客户端回传推荐的label构造训练样本，随后根据最新样本进行在线训练更新模型参数，最终线上模型得到更新。这个过程中主要的延迟在用户的动作反馈延时，因为文章推荐后用户不一定马上看，不考虑这部分时间，整个系统是几乎实时的。
但因为头条目前的内容量非常大，加上小视频内容有千万级别，推荐系统不可能所有内容全部由模型预估。所以需要设计一些召回策略，每次推荐时从海量内容中筛选出千级别的内容库。召回策略最重要的要求是性能要极致，一般超时不能超过50毫秒。
召回策略种类有很多，我们主要用的是倒排的思路。离线维护一个倒排，这个倒排的key可以是分类，topic，实体，来源等，排序考虑热度、新鲜度、动作等。线上召回可以迅速从倒排中根据用户兴趣标签对内容做截断，高效的从很大的内容库中筛选比较靠谱的一小部分内容。
二、内容分析
内容分析包括文本分析，图片分析和视频分析。头条一开始主要做资讯，今天我们主要讲一下文本分析。文本分析在推荐系统中一个很重要的作用是用户兴趣建模。没有内容及文本标签，无法得到用户兴趣标签。举个例子，只有知道文章标签是互联网，用户看了互联网标签的文章，才能知道用户有互联网标签，其他关键词也一样。
另一方面，文本内容的标签可以直接帮助推荐特征，比如魅族的内容可以推荐给关注魅族的用户，这是用户标签的匹配。如果某段时间推荐主频道效果不理想，出现推荐窄化，用户会发现到具体的频道推荐(如科技、体育、娱乐、军事等)中阅读后，再回主feed,推荐效果会更好。因为整个模型是打通的，子频道探索空间较小，更容易满足用户需求。只通过单一信道反馈提高推荐准确率难度会比较大，子频道做的好很重要。而这也需要好的内容分析。
上图是今日头条的一个实际文本case。可以看到，这篇文章有分类、关键词、topic、实体词等文本特征。当然不是没有文本特征，推荐系统就不能工作，推荐系统最早期应用在Amazon,甚至沃尔玛时代就有，包括Netfilx做视频推荐也没有文本特征直接协同过滤推荐。但对资讯类产品而言，大部分是消费当天内容，没有文本特征新内容冷启动非常困难，协同类特征无法解决文章冷启动问题。
今日头条推荐系统主要抽取的文本特征包括以下几类。首先是语义标签类特征，显式为文章打上语义标签。这部分标签是由人定义的特征，每个标签有明确的意义，标签体系是预定义的。此外还有隐式语义特征，主要是topic特征和关键词特征，其中topic特征是对于词概率分布的描述，无明确意义;而关键词特征会基于一些统一特征描述，无明确集合。
另外文本相似度特征也非常重要。在头条，曾经用户反馈最大的问题之一就是为什么总推荐重复的内容。这个问题的难点在于，每个人对重复的定义不一样。举个例子，有人觉得这篇讲皇马和巴萨的文章，昨天已经看过类似内容，今天还说这两个队那就是重复。但对于一个重度球迷而言，尤其是巴萨的球迷，恨不得所有报道都看一遍。解决这一问题需要根据判断相似文章的主题、行文、主体等内容，根据这些特征做线上策略。
同样，还有时空特征，分析内容的发生地点以及时效性。比如武汉限行的事情推给北京用户可能就没有意义。最后还要考虑质量相关特征，判断内容是否低俗，色情，是否是软文，鸡汤?
上图是头条语义标签的特征和使用场景。他们之间层级不同，要求不同。
分类的目标是覆盖全面，希望每篇内容每段视频都有分类;而实体体系要求精准，相同名字或内容要能明确区分究竟指代哪一个人或物，但不用覆盖很全。概念体系则负责解决比较精确又属于抽象概念的语义。这是我们最初的分类，实践中发现分类和概念在技术上能互用，后来统一用了一套技术架构。
目前，隐式语义特征已经可以很好的帮助推荐，而语义标签需要持续标注，新名词新概念不断出现，标注也要不断迭代。其做好的难度和资源投入要远大于隐式语义特征，那为什么还需要语义标签?有一些产品上的需要，比如频道需要有明确定义的分类内容和容易理解的文本标签体系。语义标签的效果是检查一个公司NLP技术水平的试金石。
今日头条推荐系统的线上分类采用典型的层次化文本分类算法。最上面Root，下面第一层的分类是像科技、体育、财经、娱乐，体育这样的大类，再下面细分足球、篮球、乒乓球、网球、田径、游泳...，足球再细分国际足球、中国足球，中国足球又细分中甲、中超、国家队...，相比单独的分类器，利用层次化文本分类算法能更好地解决数据倾斜的问题。有一些例外是，如果要提高召回，可以看到我们连接了一些飞线。这套架构通用，但根据不同的问题难度，每个元分类器可以异构，像有些分类SVM效果很好，有些要结合CNN，有些要结合RNN再处理一下。
上图是一个实体词识别算法的case。基于分词结果和词性标注选取候选，期间可能需要根据知识库做一些拼接，有些实体是几个词的组合，要确定哪几个词结合在一起能映射实体的描述。如果结果映射多个实体还要通过词向量、topic分布甚至词频本身等去歧，最后计算一个相关性模型。
三、用户标签
内容分析和用户标签是推荐系统的两大基石。内容分析涉及到机器学习的内容多一些，相比而言，用户标签工程挑战更大。
今日头条常用的用户标签包括用户感兴趣的类别和主题、关键词、来源、基于兴趣的用户聚类以及各种垂直兴趣特征(车型，体育球队，股票等)。还有性别、年龄、地点等信息。性别信息通过用户第三方社交账号登录得到。年龄信息通常由模型预测，通过机型、阅读时间分布等预估。常驻地点来自用户授权访问位置信息，在位置信息的基础上通过传统聚类的方法拿到常驻点。常驻点结合其他信息，可以推测用户的工作地点、出差地点、旅游地点。这些用户标签非常有助于推荐。
当然最简单的用户标签是浏览过的内容标签。但这里涉及到一些数据处理策略。主要包括：一、过滤噪声。通过停留时间短的点击，过滤标题党。二、热点惩罚。对用户在一些热门文章(如前段时间PG One的新闻)上的动作做降权处理。理论上，传播范围较大的内容，置信度会下降。三、时间衰减。用户兴趣会发生偏移，因此策略更偏向新的用户行为。因此，随着用户动作的增加，老的特征权重会随时间衰减，新动作贡献的特征权重会更大。四、惩罚展现。如果一篇推荐给用户的文章没有被点击，相关特征(类别，关键词，来源)权重会被惩罚。当然同时，也要考虑全局背景，是不是相关内容推送比较多，以及相关的关闭和dislike信号等。
用户标签挖掘总体比较简单，主要还是刚刚提到的工程挑战。头条用户标签第一版是批量计算框架，流程比较简单，每天抽取昨天的日活用户过去两个月的动作数据，在Hadoop集群上批量计算结果。
但问题在于，随着用户高速增长，兴趣模型种类和其他批量处理任务都在增加，涉及到的计算量太大。2014年，批量处理任务几百万用户标签更新的Hadoop任务，当天完成已经开始勉强。集群计算资源紧张很容易影响其它工作，集中写入分布式存储系统的压力也开始增大，并且用户兴趣标签更新延迟越来越高。
面对这些挑战。2014年底今日头条上线了用户标签Storm集群流式计算系统。改成流式之后，只要有用户动作更新就更新标签，CPU代价比较小，可以节省80%的CPU时间，大大降低了计算资源开销。同时，只需几十台机器就可以支撑每天数千万用户的兴趣模型更新，并且特征更新速度非常快，基本可以做到准实时。这套系统从上线一直使用至今。
当然，我们也发现并非所有用户标签都需要流式系统。像用户的性别、年龄、常驻地点这些信息，不需要实时重复计算，就仍然保留daily更新。
四、评估分析
上面介绍了推荐系统的整体架构，那么如何评估推荐效果好不好?
有一句我认为非常有智慧的话，“一个事情没法评估就没法优化”。对推荐系统也是一样。
事实上，很多因素都会影响推荐效果。比如侯选集合变化，召回模块的改进或增加，推荐特征的增加，模型架构的改进在，算法参数的优化等等，不一一举例。评估的意义就在于，很多优化最终可能是负向效果，并不是优化上线后效果就会改进。
全面的评估推荐系统，需要完备的评估体系、强大的实验平台以及易用的经验分析工具。所谓完备的体系就是并非单一指标衡量，不能只看点击率或者停留时长等，需要综合评估。过去几年我们一直在尝试，能不能综合尽可能多的指标合成唯一的评估指标，但仍在探索中。目前，我们上线还是要由各业务比较资深的同学组成评审委员会深入讨论后决定。
很多公司算法做的不好，并非是工程师能力不够，而是需要一个强大的实验平台，还有便捷的实验分析工具，可以智能分析数据指标的置信度。
一个良好的评估体系建立需要遵循几个原则，首先是兼顾短期指标与长期指标。我在之前公司负责电商方向的时候观察到，很多策略调整短期内用户觉得新鲜，但是长期看其实没有任何助益。
其次，要兼顾用户指标和生态指标。今日头条作为内容分创作平台，既要为内容创作者提供价值，让他更有尊严的创作，也有义务满足用户，这两者要平衡。还有广告主利益也要考虑，这是多方博弈和平衡的过程。
另外，要注意协同效应的影响。实验中严格的流量隔离很难做到，要注意外部效应。
强大的实验平台非常直接的优点是，当同时在线的实验比较多时，可以由平台自动分配流量，无需人工沟通，并且实验结束流量立即回收，提高管理效率。这能帮助公司降低分析成本，加快算法迭代效应，使整个系统的算法优化工作能够快速往前推进。
这是头条A/B Test实验系统的基本原理。首先我们会做在离线状态下做好用户分桶，然后线上分配实验流量，将桶里用户打上标签，分给实验组。举个例子，开一个10%流量的实验，两个实验组各5%，一个5%是基线，策略和线上大盘一样，另外一个是新的策略。
实验过程中用户动作会被搜集，基本上是准实时，每小时都可以看到。但因为小时数据有波动，通常是以天为时间节点来看。动作搜集后会有日志处理、分布式统计、写入数据库，非常便捷。
在这个系统下工程师只需要设置流量需求、实验时间、定义特殊过滤条件，自定义实验组ID。系统可以自动生成：实验数据对比、实验数据置信度、实验结论总结以及实验优化建议。
当然，只有实验平台是远远不够的。线上实验平台只能通过数据指标变化推测用户体验的变化，但数据指标和用户体验存在差异，很多指标不能完全量化。很多改进仍然要通过人工分析，重大改进需要人工评估二次确认。
五、内容安全
最后要介绍今日头条在内容安全上的一些举措。头条现在已经是国内最大的内容创作与分发凭条，必须越来越重视社会责任和行业领导者的责任。如果1%的推荐内容出现问题，就会产生较大的影响。
因此头条从创立伊始就把内容安全放在公司最高优先级队列。成立之初，已经专门设有审核团队负责内容安全。当时研发所有客户端、后端、算法的同学一共才不到40人，头条非常重视内容审核。
现在，今日头条的内容主要来源于两部分，一是具有成熟内容生产能力的PGC平台
一是UGC用户内容，如问答、用户评论、微头条。这两部分内容需要通过统一的审核机制。如果是数量相对少的PGC内容，会直接进行风险审核，没有问题会大范围推荐。UGC内容需要经过一个风险模型的过滤，有问题的会进入二次风险审核。审核通过后，内容会被真正进行推荐。这时如果收到一定量以上的评论或者举报负向反馈，还会再回到复审环节，有问题直接下架。整个机制相对而言比较健全，作为行业领先者，在内容安全上，今日头条一直用最高的标准要求自己。
分享内容识别技术主要鉴黄模型，谩骂模型以及低俗模型。今日头条的低俗模型通过深度学习算法训练，样本库非常大，图片、文本同时分析。这部分模型更注重召回率，准确率甚至可以牺牲一些。谩骂模型的样本库同样超过百万，召回率高达95%+，准确率80%+。如果用户经常出言不讳或者不当的评论，我们有一些惩罚机制。
泛低质识别涉及的情况非常多，像假新闻、黑稿、题文不符、标题党、内容质量低等等，这部分内容由机器理解是非常难的，需要大量反馈信息，包括其他样本信息比对。目前低质模型的准确率和召回率都不是特别高，还需要结合人工复审，将阈值提高。目前最终的召回已达到95%，这部分其实还有非常多的工作可以做。头条人工智能实验室李航老师目前也在和密歇根大学共建科研项目，设立谣言识别平台。
以上是头条推荐系统的原理分享，希望未来得到更多的建议，帮助我们更好改进工作。
作者：高小倩 来源：36氪
顶: 29踩: 1
来源：卢松松博客，欢迎分享，（QQ/微信：13340454）
名 称 必填
邮 箱 选填
网 址 选填
◎已有 42 人跟帖，微信：QQ13340454
热门跟帖 最新跟帖 合法化的时刻 2019-08-19 10:34:43 个人没怎么使用过今日头条，但是感觉今日头条的这款软件推荐的内容还不如抖音来的更加有正能量，虽说一个是资讯，一个是视频，但是感觉后台推荐算法与原理还是很像，希望头条加强内容审核机制，还是很低俗，说实话整个布局排版也很乱，中间插播的无用广告太多，已经使用户无法达到一个自己想要的本质内容 跟帖来自电脑端 · 中国重庆 顶: 0踩: 0 回复
嘻嘻嘻 2019-07-22 15:19:03 写得真好啊，不知道能不能多写一些啊 跟帖来自电脑端 · 中国山东青岛 顶: 0踩: 0 回复
嘻嘻嘻 2019-07-22 15:18:46 写得真好 跟帖来自电脑端 · 中国山东青岛 顶: 0踩: 0 回复
lucking 2019-06-26 16:16:16 如何来监控召唤策略呢？如何判断是否召唤策略是否把最优topN召回？ 跟帖来自电脑端 · 中国北京 顶: 0踩: 0 回复
辉哥二类电商 2019-06-01 09:48:36 学习了，在我运营生涯中所有的信息流账户当属今日头条的巨量引擎最智能。 跟帖来自电脑端 · 中国湖北武汉 顶: 0踩: 0 回复
头条号莫名涨粉 2019-01-08 11:43:37 两个月前注册了一个头条号，也没打算玩。但是突然有一天出现了这么件事，粉丝无缘无故在涨，开始2000人一天，一直涨到现在每天维持在800-2000人左右。现在有5万多了。是什么原因？ 跟帖来自电脑端 · 中国贵州贵阳 顶: 1踩: 0 回复
项目资源网 2018-04-24 11:09:21 今日头条的文章，按照关键词进行搜索，都是很久很久以前发布的，不知道怎么让它直接按照发布时间进行排序？ 跟帖来自电脑端 顶: 0踩: 0 回复
原装进口轴承 2018-01-22 15:21:15 今日头条也是真正做内容的好媒体啊 跟帖来自电脑端 顶: 0踩: 2 回复
全能网赚系统上线 2018-01-22 10:00:19 专注某平台的话就该了解得细致。 跟帖来自电脑端 顶: 1踩: 0 回复
数显韦氏硬度计 2018-01-20 15:26:52 分享内容识别技术主要鉴黄模型，谩骂模型以及低俗模型 跟帖来自电脑端 顶: 0踩: 0 回复
淄博大集网 2018-01-19 22:27:15 真正算法能让你看到见鬼了 跟帖来自电脑端 顶: 2踩: 0 回复
深圳隔离网 2018-01-19 14:31:58 不看不知道 ，每日都来看一篇 跟帖来自电脑端 顶: 0踩: 0 回复
吾优领券网 2018-01-19 13:51:34 我看到好多只蜘蛛爬过去 跟帖来自电脑端 顶: 0踩: 0 回复
thornbird 2018-01-19 13:00:25 真正算法能让你看到见鬼了 跟帖来自电脑端 顶: 0踩: 0 回复
松松小哥 2018-01-19 16:24:10 肯定不会让你知道内部是怎么搞的 跟帖来自电脑端 顶: 0踩: 0 回复
松松小哥 2018-01-19 16:23:15 它发布的这个算法看着真是多 跟帖来自电脑端 顶: 0踩: 0 回复
拼多多空包 2018-01-19 11:26:53 写得好长呢 跟帖来自电脑端 顶: 0踩: 0 回复
十大品牌美缝剂 2018-01-19 11:13:47 机器学习未来主流啊 跟帖来自电脑端 顶: 0踩: 0 回复
在线看小说 2018-01-19 11:09:38 基于大数据的推荐，今日头条挺厉害的，尤其是机器深度学习！！！ 跟帖来自电脑端 顶: 0踩: 0 回复
趣知识 2018-01-19 11:08:48 收藏，值得细度的一片文章，今日头条饱含技术含量 跟帖来自电脑端 顶: 0踩: 0 回复
适合新手操作的网赚系统 2018-01-19 10:40:25 专注平台的研究。 跟帖来自电脑端 顶: 1踩: 0 回复
p2p投资理财平台 2018-01-19 10:38:25 头条的算法虽然公布了，但是能看懂的站长又有几人，不管以后人工智能如何改变，人为的控制也会是必不可少的，算法也是人为操作，因此还需要进一步的研究 跟帖来自电脑端 顶: 0踩: 0 回复
名表回收 2018-01-19 10:11:37 今日头条这两年发展的不错，看着挺复杂的算法啊！好高深的样子！ 跟帖来自电脑端 顶: 0踩: 0 回复
松松小哥 2018-01-19 16:24:52 算法是挺全面，有深度的 跟帖来自电脑端 顶: 0踩: 0 回复
快客杯是什么 2018-01-19 09:32:30 今日头条的推荐体制还是挺牛，不过花在上面的时间也越来越多，有点浪费 跟帖来自电脑端 顶: 1踩: 0 回复
素材火 2018-01-19 09:11:36 也就那样吧 跟帖来自电脑端 顶: 1踩: 0 回复
书瑶引流工作室 2018-01-19 09:02:00 这类算法对于自媒体文章发布可能有用，但是对于只想引流的人来说就是对牛谈琴。今日头条，如何精准引流，且看！！ 跟帖来自电脑端 顶: 0踩: 0 回复
我有文档网 2018-01-19 06:38:08 所以这个算法让庸俗人更加庸俗。 跟帖来自电脑端 顶: 4踩: 1 回复
异宇宙动漫 2018-01-18 23:37:26 是我想的简单还是你们想的困难，这种算法对应文章，额，数量多有没有搜索功能，全库排序，人为可操作性太强，还有人主动点比较好，不然跟不上时代，就比如这推荐系统，不动手，久了不好！深爱国家喜爱好和谐！ 跟帖来自电脑端 顶: 0踩: 0 回复
懒大咖博客 2018-01-18 21:39:12 不光是头条，其他平台内容都一样 跟帖来自电脑端 顶: 0踩: 0 回复
淘宝优惠券 2018-01-18 20:32:46 有点复杂 跟帖来自电脑端 顶: 0踩: 0 回复
SEO外链蜘蛛池 2018-01-18 20:31:13 今日头条的内容越来越垃圾了 跟帖来自电脑端 顶: 0踩: 0 回复
运营推广资源整理 2018-01-18 20:09:21 思路如此强大，牛，支持头条号 跟帖来自电脑端 顶: 0踩: 0 回复
松松小哥 2018-01-19 16:26:20 总之头条发展趋势来看还是挺好的 跟帖来自电脑端 顶: 0踩: 0 回复
香港服务器 2018-01-18 17:50:30 很好很强大 跟帖来自电脑端 顶: 0踩: 0 回复
seo笔记本 2018-01-18 16:33:47 好的系统都是要投资的，而且还不是一般般的投资。 跟帖来自电脑端 顶: 0踩: 0 回复
dede织梦模板 2018-01-18 16:31:27 今日头条 太多花边新闻 看了就是浪费时间啊 没有实质的 跟帖来自电脑端 顶: 0踩: 0 回复
松松小哥 2018-01-19 16:27:45 低俗的越来越被打压了，总体还是控制的还算可以，其实用户花在上面的时间还是算多的 跟帖来自电脑端 顶: 0踩: 0 回复
梦见女人 2018-01-18 16:21:05 今日头条是垃圾的。 跟帖来自电脑端 顶: 3踩: 1 回复
云南消防公司挂靠 2018-01-18 15:52:06 感觉每次来这边都能学到很多东西啊！！！ 跟帖来自电脑端 顶: 0踩: 0 回复
香港金银业贸易场 2018-01-18 15:11:35 学习一下 跟帖来自电脑端 顶: 0踩: 0 回复
2019-11-20 地产大佬潘石屹宣布要学习Python 2019-09-16 大量做大数据的公司被查封 2019-08-01 中国有900多万人从事刷流量产业 2019-05-25 小心！搜索记录暴露你的内心 2019-03-23 百度智能小程序资源数据统计上线 2019-03-19 Wordpress在排名前1000W网站中占有率达33.4% 2020-01-02已有16万用户注册了松松云上推广平台，你还等什么？
