配套PPT下载，请识别底部二维码关注社区公众号，后台回复【 智能技术 】

分享嘉宾： 钱丁丁** ** 腾讯 高级研究员

编辑整理： 刘一全

内容来源： DataFun AI Talk**《 Yoo视频底层页推荐系统-从0到1的实践》**

出品社区： DataFun

注：欢迎转载，转载请注明出处。

本次分享主要包括以下几个部分：

1. 业务背景；

2. 召回相关技术与实践；

3. 排序相关技术与实践；

4. 思考及未来规划。

1. 业务背景

底层页指在点击左侧双列feed流中点击一个视频（1号）后继续滑动出现的视频（234号）

在底层页推荐场景中除了需要考虑和主视频的相关性以外，还需要考虑上下文（用户对视频234的行为）。

底层页的整体框架如上图所示，当客户端发起推荐列表请求，服务端会依次做以下事情：

1. 请求画像服务，得到描述用户兴趣的特征；

2. 请求Trigger，由若干个不同机制的Trigger分别得到不同的召回集；

3. 合并召回结果，输入rank层做排序；

4. 经过一些产品/业务策略的规则组成的曝光策略服务得到最终的视频list，发给用户。

服务的底层，直接和线上服务打交道的，包括做向量相似度计算的faiss，做缓存的redis，做消息队列的Hippo，还有一些数据分发服务。

再下面一层则是大数据计算平台Hadoop，Spark，SparkStreaming，以及机器学习计算平台Angel和Tensorflow。

2. 召回相关技术与实践

召回策略主要分为以下4个方向：

1. 基于热门：在冷启动阶段，缺少用户行为的时候，用高质量视频做推荐；

2. 基于属性：根据年龄，性别，地域等用户属性，不同属性的用户有不同的兴趣偏好；

3. 基于内容： 根据视频的标题，标签，图片等等，找相似的视频；

4. 基于行为：根据用户的点击/播放行为序列，建模计算相关的视频。

ICF方法（基于物品的协同过滤）原理是比较两个视频观看过的用户列表，重合度越高则越相似。在计算协同过滤相似度时对原始公式做了以下优化：

1. 考虑用户看两个视频相隔的时间，在分子上乘一个衰减系数，时间越长相关性越低；

2. 考虑用户看视频的数量，在分母乘以衰减系数，对看大量视频的用户做降权；

3. 不同的主item对应的其他item的list中分数的最大值可能差异很大，可以对每个主item做归一化处理。

SwingCF方法把共现的两两用户看过的视频交集的数量放在分母，减少播放列表共现量大的用户对相关性的贡献，比传统CF更容易召回新的item。

表示学习的思路是类似word2vec，为每个样本（通过embedding）生成一个向量，再计算向量的相似度找到相似的样本。可以利用的数据例如视频封面，视频标题，视频标签和行为序列。

ImageEmbedding召回因为样本比较少，做分类模型困难，所以采用预训练的方法。加载Inception模型，输入图像做前向计算，将softmax前的输出层取出来即可得到一个embedding向量，最后使用faiss找到最相似的向量，也就找到了最相似的图片。评估目前采用人工的方法，人工评估召回的topN图片中有几个是相似的。

Title/Tag Embedding有两种方法：第一种是标准的word2vec模式，用自己的标题/标签数据训练一个词向量模型。这种方法的召回结果不太好，分析原因是数据量小。第二种是采用了公开词向量数据，这种用海量数据训练得到的预训练词向量模型，效果比第一种更好。

Network Embedding召回也叫Graph Embedding，有三种方式： 1. 矩阵分解： 效果不太好，用的比较少 2. 随机游走： 利用随机游走构造一些序列做embedding 3.具体使用中最直接的方法是：把用户的播放列表当作nlp中的一个句子（每个视频作为一个单词）训练word2vec。直接用word2vec会有一些问题，可以优化的方式包括：1. 对高低频的item（视频）做过滤和降采样 2. 合理的划分session（取多少天的数据）。

Network Embedding常见的做法并不是先将样本直接构造成skip-gram的形式，而是先把行为序列构造成图的形式，然后针对每个节点进行随机游走，生成一些候选序列，再去做Embedding学习。这样做存在的问题1：新的item缺少行为数据导致图稀疏，解决方案是将最近几个小时看的视频两两做全连接。问题2是热门视频：解决方案是对视频做聚类。

推荐系统的常规做法是分召回，排序两个阶段。原因是如果对全量数据（用户数*物品数）做排序，计算量可能太大，所以先用召回层减少候选集的大小。除非在某些特殊情况下，对全库做排序也许是可行的，如果物品的数量不是很大，比如只有几十/几百万，再把模型的特征减少。当候选池达到上亿甚至更多的时候就不可行了，尽管使用embedding方法可以近似选择全局最优，但是计算距离的方法比较单一。

高阶的方法是采用阿里提出的一种tree-based deep match的方法，核心的思想是要从全部候选池中找到用户感兴趣的item，为了减少问题的规模，将候选集构建成树结构，只有叶子节点才是单个的item，每个非叶子节点潜在表达了子孙items。

第一步：将视频按照二级分类排序，使得相同二级类目的视频处在相邻的位置，所有视频组成一个list。第二步：递归的将list一分为二得到左右子树，直到每个list只剩下一个或两个视频。这样就构建出了一个有层级结构的树。

将用户的历史行为序列和树中的目标节点做点积，经过深度神经网络之后得到用户对每个候选节点感兴趣的概率。

训练时正样本选择有播放行为的叶子结点和它的祖先。负样本有两种选择：(a)每层随机选择节点作为负样本，这样做的好处是结果的多样性好 (b)每层选择兄弟节点作为负样本，这样做的好处是和历史行为更匹配。完整的召回过程是自顶向下的依次对每个节点打分，选择topk，遇到叶子节点就放入召回池，遇到非叶子节点就继续向下寻找。

树形结构的好处除了可以做全库检索，还会有更好的多样性。这样做更符合人脑的特点，人通常不会只对某一种类别的内容感兴趣，而是对不同的内容都或多或少的有兴趣。

最后总结一下：最初级的方法是基于统计的协同过滤系列，之后演化出进阶的Embedding系列之所以应用比较广很大程度上受益于faiss提高了向量相似度计算的效率，目前最前沿的是TDM这种全库查询的方式。

3. 排序相关技术与实践

接下来介绍排序模块，大致经历了LR，Deep，Wide&Deep三个阶段，其中LR模型暂时不做介绍。

深度模型目前采用了一种比较基础的架构。底层是sparse feature id。接下来embedding，每一列是一个field，比如画像信息、上下文等等。然后concat，经过全联接的隐藏层之后输出。DNN模型的效果与LR相比没有很大提升，原因是低阶特征组合能力不足，但好处在对稀疏特征的表达能力有提升。

Wide&Deep模型的Wide部分和LR的做法相同，所以克服了DNN模型的缺点，auc相对LR/DNN有1%的提升，不过依然依赖于人工做一些交叉特征。

Wide&DCN模型是2017年谷歌提出来的，它的特点是加入了一个cross层做特征交叉，具体的交叉方式如公式所示：每一层的Embedding由上一层和第0层交叉，每一层中的每个元素的交叉由阶数确定，最终形成了多阶交叉的效果。离线auc和W&D相比提高1%，而DeepFM和W&D相比提升不大。

最后在介绍一下工程方面的实践经验。排序的难点是要求实时，并且特征和样本的数量都很大。下面将会从样本数据，特征结构，离线训练，线上推断和模型调试五个方面分别介绍。

Tensorflow有两种处理特征的方式：明文vs二进制（TFRecord）。明文的特点是可读性好，但是速度慢。二进制虽然速度快，但也存在一些问题，只支持三种格式的数据，而且String结构比较占用空间，解析速度也慢。

特征结构尝试过三种方式。第一种是明文形式，FeatureColumn的速度非常慢，特征ID化方式比FeatureColumn快十倍，不论离线训练还是线上推断都是如此。后两种是特征ID的形式。

第一种是开放的特征id，使用方便，只需要把特征做hash，但缺点是Tensorflow底层dense结构无法支持。第二种是序列化特征id，这种做法的缺点是序列化速度慢，好处是可以做特征预处理。

离线训练使用的是数据分布式模式，数据并行计算梯度。模型是集中式的，非分布式存储，每片数据计算的梯度使用同步方式更新模型。

线上推断有两种方式。一种是TFServing，这种方式存在一些问题。因为加载模型和模型推断是采用同一个线程，所以在加载模型的时候会出现推断服务短暂阻塞，造成超时。TFServing还会定时自动加载目录中的模型文件，如果模型有问题也会自动加载模型，这是我们不希望发生的。另外在模型加载初期会出现响应慢的现象，通常称为WarmUp问题。不过可以通过BatchThread提升计算效率。

还有一种方式是用TensorflowAPI进行推断，可以自行设置触发条件控制模型的加载，而不限制于一定要固定的时间间隔加载一次。另外还可以自行调用session函数进行并行推断。

在提高模型的训练效率方面，有不少可以尝试的优化点，比如batchsize的调整，Tensorflow中dataset api中cache的使用，特征选择及Embedding调整，隐藏层个数及纬度的调整，样本降采样等等。使用Tensorflow timeline工具可以帮忙快速定位耗时函数，加速模型训练。

在提高模型的推断效率方面，可以优化线上特征数据拼接效率，及控制线程和batch之间的比例。

在提高效果方面，数据量越大越好，使用tensorboard关注实时auc和明文输出bias/loss等数据，尽早发现模型训练中的错误。

模型的演化过程大致经过了线性模型，非线性模型，兴趣模型这几个阶段。推荐和搜索业务的关注点是有一些不同的，推荐更关注对用户兴趣的描述，而搜索关注对query的理解。阿里的DIN和DIEN是大家公认对效果提升比较明显的。

4. 思考及未来规划

最后是一些思考和未来的规划。Embedding方面计划讲将行为和内容融合到一起做embedding，还有一种方式将用户行为构建成图，利用图卷积神经网络做embedding学习。另一方面是序列化数据的利用，用LSTM/GRU做序列化的item推荐，或者直接对序列化行为建模用户兴趣，这些方法时间复杂度高，工程挑战较大。利用Bandit算法去做用户兴趣探索是常用的一种做法，后续将会探索强化学习尤其深度强化学习在兴趣探索上的应用。

此外两个难点，一个是多任务学习，因为有的时候任务目标不仅仅是点击率，还需要提高停留时长等指标。另一个是多模态，把图片和视频数据如何用到召回中来。

作者介绍：

钱丁丁，腾讯高级研究员。Yoo视频底层页视频排序技术负责人，带领团队从0到1搭建短视频排序技术体系，并实现了从浅层机器学习模型到深度模型的升级换代。毕业之后加入搜狗商业部门，负责无线搜索广告的排序算法工作。曾在腾讯网络媒体事业部，负责天天快报新闻推荐系统排序算法工作。

内推信息：

公司： Tencent 腾讯

Base： 深圳

职位： 短视频推荐算法研究员

邮箱： darylqian@tencent.com

腾讯深圳总部招聘短视频推荐算法研究员

职位描述：

我们致力于机器学习、自然语言处理、机器视觉等人工智能技术的研究和应用，如果你对传统机器学习、深度学习、在线学习、强化学习、自然语言处理、机器视觉等有深刻理解和实践经验，欢迎加入我们！

工作内容包括但不限于：

1. 机器学习算法模型的研发和应用，包括但不限于传统机器学习、深度学习、在线学习、迁移学习、多任务学习、主动学习、强化学习、推荐等的算法模型研发和应用；

2. 机器学习、自然语言理解、视频图像理解等人工智能前沿技术的研究，结合实际业务场景，进行模型设计和优化，在业务中实际落地；

3. 负责分布式机器学习算法模型研发，负责机器学习算法模型业务落地的工程架构设计和研发；

4.分析业务数据，提供可靠的大数据分析建模方案，包括离线大数据处理，在线流式计算等，提升产品体验和业务指标。

职位要求：

1. 计算机或相关专业本科以上学历，博士优先；

2. 熟悉常用的机器学习算法，对深度学习模型有深刻理解，并有相关实践经验；

3. 深厚的数理基础，包括优化理论、随机过程等；较强的逻辑思维能力；良好的数据意识，能结合产品通过数据分析发现有价值信息；

4. 深厚的工程开发能力，精通C/C++、python、scala等至少一门编程语言；熟悉Tensorflow、Caffe等至少一种深度学习框架；

5. 有国际顶级会议论文者优先，包括但不限于NIPS、ICML、ACL、CVPR、KDD等；有国内外机器学习竞赛top3经历者优先；

6. 有视频图像理解经验者优先；有强化学习经验者优先；有大数据处理经验者优先；