阿里新突破!自主创新的下一代匹配 & 推荐技术:任意深度学习 + 树状全库检索



转载请注明 AIQ - 最专业的机器学习大数据社区  http://www.6aiq.com

AIQ 机器学习大数据 知乎专栏 点击关注

摘要: I 背景 推荐、搜索、广告投放是互联网内容提供商进行流量分配的核心业务,也是大数据和机器学习技术的典型应用场景。无论是推荐,搜索,还是广告投放问题,都可以描述为从大规模候选中给用户提供有限的展现结果以获取用户的正向反馈(广告投放还需额外考虑广告主意愿和体验)。

I 背景

推荐、搜索、广告投放是互联网内容提供商进行流量分配的核心业务,也是大数据和机器学习技术的典型应用场景。无论是推荐,搜索,还是广告投放问题,都可以描述为从大规模候选中给用户提供有限的展现结果以获取用户的正向反馈(广告投放还需额外考虑广告主意愿和体验)。

在具体实现中,由于在线业务对性能尤其是响应时间的严格要求,我们往往会把上述过程拆分为两个阶段——匹配(Match)+ 排序(Rank)。以淘宝推荐系统为例,匹配阶段的核心在于如何从全量商品(Item)中根据用户(User)信息召回合适的 TopK 候选集合,排序阶段则是对 TopK 候选集合进行精细化打分并排序输出最终展现的结果。排序阶段因为候选集小,可以引入诸如深度学习等非常复杂的模型来优化目标,达到最终效果(相关性、广告收益等)的提升,业界对此阶段的研究比较集中和深入,比如阿里妈妈精准定向广告业务团队在排序阶段的 CTR(Click-through Rate)预估上引入了基于 Attention 结构的深度兴趣模型(DIN,https://arxiv.org/abs/1706.06978),取得了非常好的业务效果。

而匹配阶段由于问题规模大,复杂模型在此阶段的应用存在一定的局限性,所以业界对这方面的研究尤其是深度学习在此阶段的应用仍处在发展阶段。回到上述关于两阶段的描述,可以看出匹配阶段产生的候选集的质量会成为最终效果的天花板,因此如何创新和发展匹配技术是对业务有着重大意义的问题,也一直是业界和学术界关注的重点问题。

以推荐为例,在工业级的推荐系统中,匹配阶段往往面临很多技术挑战。例如当候选集非常大的时候,要从全量候选集中挑选 TopK 集合,我们无法接受随着全量候选集大小而线性增长的时间复杂度,这使得一些学术界研究的需要计算全量 {User,Item} 兴趣度的方法并不能真正应用于实际推荐系统中的匹配阶段。在有限的计算资源下,如何根据用户信息从全量候选集中快速得到高质量的 TopK 候选集,需要在计算效率和计算准确性上做精巧的平衡。作为真实应用的推荐系统,其匹配阶段的计算时间需要被限制,简单用以下公式表示:

公式(1)

其中 T 表示单次计算的时间消耗,N 可以认为是为单个用户召回 TopK 需要的总体计算次数。在上述公式的约束下,围绕如何提升匹配效果,工业界的技术发展也经历了几代的演进,从最初的基于统计的启发式规则方法,逐渐过渡到基于内积模型的向量检索方法。然而这些方法在技术选型上都在上述计算效率约束下对匹配效果进行了很大的牺牲。如何在匹配阶段的计算效率约束下引入更先进的复杂深度学习模型成为了下一代匹配技术发展的重要方向。

II 相关技术

如上文所述,结合工业级推荐系统的约束,匹配技术经历了从基于统计的启发式规则方法到基于内积模型的向量检索方法的转变,具体描述如下:

I)第一代——基于统计的启发式规则方法

这一类方法的经典代表就是 Item-based Collaborative Filtering(以下简称 Item-CF),也是业界应用最广的推荐算法之一。Item-CF 的算法原理是:首先通过统计计算得到 Item to Item(I2I)的相似关系,其次启发式地获取用户近期行为作为 Trigger Item 集合,用它们进行 I2I 扩展,最后以某种打分规则对扩展后的 Item 集合进行排序,截断得到 TopK 作为候选集进行后续排序流程。结合公式(1),我们可以知道这种方法有效的控制了总体计算次数 N,因为用户的 Trigger Item 集合是有限的,相似关系圈定的候选集合也是有限的,从而避免了对全量候选集的计算,同时简单的打分规则可以有效地控制单次计算时间 T,两者使得最终整体方法的计算量较少,满足了在线应用的要求。

这类方法简单有效,应用也比较广泛,但从算法原理不难看出,这种方法天然存在一大弊端:它限制了尝试推荐给用户未曾行为过但可能感兴趣的 Item 的可能性。这种将候选限定在历史兴趣相似范畴内的启发式规则对推荐效果的提升有限,它降低了用户体验(尤其是推荐结果的惊喜度),也制约了系统整体的可持续发展能力。尽管后续的排序环节可以引入复杂的机器学习方法,例如 MLR(混合逻辑回归,https://arxiv.org/abs/1704.05194),FM(因子分解)或者深度学习,但它们都依赖于匹配给出的候选结果,所以无论如何复杂的模型都突破不了匹配给定的上限

II)第二代——基于内积模型的向量检索方法

引入机器学习方法来提升匹配能力是业界共识和趋势。机器学习本质上是一个衡量模型,可以衡量用户对商品的兴趣度。这种基于模型的匹配方法理论上要衡量一个用户对所有商品的兴趣度,从而挑选出最优的推荐结果。这就带来了问题:对于大规模商品候选集的场景是计算不可行的。

如何化解计算不可行的问题?研究人员提出了以向量距离的方式衡量用户和商品兴趣度的方法,用户和商品被表示成向量形式,并以此为基础建立基于向量聚类的索引结构进一步加速衡量效率,于是这个计算问题变成了在有限时间内是可解的(近似求解),具体实现也落到了向量引擎的范畴。结合公式(1),T 代表简单的向量内积计算时间,而 N 则通过建立向量索引结构从而控制在 O(桶候选集规模) 的较小范围内。

所以内积式模型和向量引擎成为了最近几年匹配领域技术革新的最重要技术(图像检索问题最早就是采用的这种方法)。尤其是去年 Facebook 的 Faiss 框架开源,极大降低了业界尝试向量引擎的难度,对行业发展起到了极大的促进作用。至此,基于内积模型的向量检索方法引领了第二代匹配和推荐技术的潮流,在各类学术会议和工业实践中大放异彩。

然而问题是,这类方法并未实现充分利用机器学习解决匹配问题的初衷,对机器学习模型的限制太大。高阶深度学习大部分都不可划成内积形式,比如 CTR 预估里用户和商品特征交叉非常有用,大部分不可用内积表示。而在现有深度学习中内积模型的表达能力被证明是有限的,比如将内积模型中最后的内积运算直接换成多层感知机能大幅提升模型能力,而多层 PNN(概率神经网络),DIN 等对用户兴趣更有洞察力的复杂模型效果被证明能极大的超越内积模型。

与此同时,我们也发现在具体实践中,向量检索算法要求 User 和 Item 能够映射到统一的向量空间。User 输入信息和 Item 输入信息一般并不同质,如何保证映射到统一目标向量空间下的检索精度对映射算法提出了严格的要求,换言之,统一的向量空间映射对运用向量检索来解决推荐问题带来了精度损失的风险。

III)下一代匹配和推荐技术

结合上文的描述,匹配技术发展的核心点在于系统性能限制下尽可能提升兴趣的衡量精度(从规则算法到引入先进模型)和覆盖范围(从限定候选集到全量候选集)。** 为此我们尝试对下一代匹配和推荐技术进行研究,自主提出了一种更通用的匹配和推荐算法框架,它允许容纳任意先进模型而非限定内积形式,并且能够对全量候选集进行更好的匹配。** 无论在公开数据集还是在阿里数据集上,新方法的召回率和新颖性对比前两代技术都有飞跃性的提高。我们的方法以推荐问题为例进行展开,实验也是在推荐应用的场景下进行的。值得指出的是,匹配问题本身作为推荐、搜索、广告投放业务中的核心模块,使得我们的方法具有很强的普适性。

III 技术方案

承上所述,第二代基于内积模型向量检索的方案,限定模型结构以实现检索效率的提升,因此要想进一步释放模型能力就必须使得整体检索结构的设计与模型结构的设计解耦(向量内积检索与内积模型即是一种强耦合关联)。面对一个复杂问题,人脑常有的一个思考方式是先从大的层面入手,确定大方向后具体细化。我们也从这个角度入手,思考是否可以有一种从粗到细的检索方式,逐步判断并细化,最后给出最优推荐。基于这个思考,我们把探索方向定位在了使用层次化树结构增加检索效率上。

然而,模糊的上层概念想起来容易,概念上万物皆通,真正难的是否能在数学和技术上构建出一条真正可行的路径。就匹配问题而言,树检索结构的引入伴随着一系列的问题要解决:1、树结构是如何构建的;2,如何基于树进行匹配建模;3、如何围绕树结构实现高效的兴趣计算和检索。

概率连乘树并不适用匹配问题:

在有了使用层次化树结构来增加检索效率的思路后,我们首先尝试了概率连乘树的形式。这个形式在 Natural Language Processing(自然语言处理)中已经有了一些工作和探讨(例如 Hierarchical Softmax,Word2Vec 等)。虽然最后不幸的发现,这个优美的概率形式并不能对匹配问题带来实质的帮助,但它对真正理清匹配问题的要点和难点从而提出真正可用的方法是很有帮助的。

以 Hierarchical Softmax(以下简称 HS)为例,每一个叶子节点(词)都有到根节点编码唯一的一条路径,而给定前置上文,下一个词出现的概率被建模为编码路径上分类概率的连乘。传统的多分类 Softmax 里归一化项依赖所有类别项的计算,所以即使计算一个类别的概率的计算量也很大,而通过概率连乘树的方式,HS 有效避免了在传统 Softmax 建模中需要遍历所有叶子节点计算分母归一化项的过程。

假设我们通过类似 HS 的方式建立了叶子节点为商品的树,把上下文认为是用户输入,把输出的叶子节点概率认为是用户对商品的兴趣度,看上去 HS 可以解决我们的匹配问题。但经过我们的分析和实践,事实并非如此。

 1)HS 方法解决了给定上文进行节点概率快速计算的问题,即通过引入 Hierarchical Structure 避免了对全量候选集的逐一计算和归一化,直接计算得到节点概率。但对于匹配和推荐 TopK 这类全局寻优问题 HS 并不适用,因为当给定用户输入时,寻找最优的 TopK 候选我们仍然需要遍历所有的叶子节点,计算各个叶子的连乘概率,对概率排序得到最优的 K 个。而任何贪心的检索方法如 BeamSearch,都无法保证检索得到的 TopK 是全局最优的,即 HS 建模方式下每一层的最优连乘并不保证全局最优。所以需要遍历全部叶子计算的 HS 方法并不适合大规模候选集的匹配和推荐问题。

2)与此同时,HS 方法在建树时往往会考虑将某种具有相似关系(语义、词频等)的节点靠近组成兄弟。而 HS 方法在计算路径概率时把每一个节点的概率计算看作是二分类问题,用于判断接下来选择哪个孩子节点继续走下去。这种判断优与次优的分类方法对于 HS 是适用和有效的,但对于匹配和推荐问题却是无法成立的,因为当两个孩子具有某种相似关系时,用户往往是同时喜欢或者同时不喜欢。也就说在单层节点上,匹配和推荐要求的是该层上的全局序判别问题,而 HS 方法解决的是同一父亲下两个孩子节点谁更优的问题。

在采用 HS 方法进行匹配和推荐的实践中,包括 YouTube 团队在他们的内积模式向量检索做匹配的文章中提到了他们采用 HS 方法学习用户和候选 Video 的偏好关系,但是效果并不理想。而我们最先也在阿里妈妈广告测试集上进行了 HS 方法的尝试,效果也不如预期。

最大堆树的提出和构建:

推翻概率连乘树方法的思路,我们需要构建一套全新的方法体系来实现树结构的构建、基于树的训练采样和 TopK 检索、以及节点兴趣度计算的统一。回到匹配问题本身,假定全量候选集中的每一个商品都是一个叶子节点,当前用户对所有叶子节点背后都存在一个真实的兴趣度,用表示。我们并不知道其具体值,只有根据概率采样出来的样本(用户真实反馈)。对于一般的模型,我们可以对叶子节点的概率建模,但是要找 TopK 需要遍历所有节点,计算量太大。因此我们创新性的提出了兴趣最大堆树(Max-heap like Tree)的概念,其定义树上节点的概率如下:

公式(2)

即用户对第 j 层父亲节点兴趣的偏好概率正比于用户对第 j+1 层孩子节点兴趣的偏好概率最大值,其中是第 j 层节点兴趣概率的归一化因子。根据最大堆树的定义,如果已知这棵树上的每层节点概率之间的序(同层内),我们可以快速找到全局 TopK,即从根节点出发找当前层的 TopK,然后在上层 TopK 节点对应的下层孩子节点集合中继续找 TopK,递归向下直至叶子。

然而问题是这棵树上的节点概率我们现在并不知道,但是我们可以想办法得到符合树节点概率的序的样本,然后用深度学习在这个样本上进行拟合也即得到了节点概率之间的序。具体地,对于任意一个用户有行为的叶子节点采样 i,隐含了叶子层的序:。根据我们的树节点概率定义(最大堆性质),可以向上递归推出每层节点概率的序。根据这个序我们进行负样本采样,用深度学习模型基于这个采样去学习,以逼近最大堆树上每层的序。

全局分类器的设计理念:

承上文所述,我们构建每一层的兴趣节点模型要严格满足最大堆概率公式是很困难,但是可以得到符合树节点概率的序的样本。而且在检索过程中,我们只需要每一层的节点概率序确定 TopK 即可,这里面需要特别说明的是虽然每一层的 TopK 候选集由上层父亲决定,但该层 TopK 的排序选取本身并不受父辈的影响,也即每一层的 TopK 排序都是独立的,父辈的排序分数不参与子辈的排序计算,这一点也是我们的方案区别与概率连乘树在计算形式上的不同。

于是我们可以将每层节点的兴趣判别单独建模,构建针对单层节点的全局分类器来保证在单层上的精确分类能力。从叶子节点层建模出发确定采样方式,同时结合最大堆的概率定义,确定每一层的采样方式和建模方式。如果用户对叶子节点感兴趣,那么对于其他不感兴趣叶子节点,有,根据公式(2),对于叶子节点的父节点的父节点,有

这种设计使得训练得到的模型在单层分类上有更好的判别能力,即使在上层分类发生偏差的情况下,在当前层的分类也具备“去伪存真”的能力。当然,分层全局分类能力的设计对样本采样提出了新的要求,后续模型训练章节详细阐述了具体采样方式。以上的综合设计使得对全库 TopK 检索的计算次数限制在 log(候选集规模) 量级,有效控制了 N 的大小,而且单次计算并不要求限定于内积等简单形式,从而允许其容纳更先进的模型。

最大堆树背后的方法论:

最大堆树结构定义背后描述的直观意义是用户兴趣的层次结构,如果用户对具体的商品感兴趣,例如 iPhone,那么用户对更高层的节点,例如 iPhone 所在的类别–手机,也是感兴趣的。用户的兴趣结构具有天然的层次性,最大堆树结构定义了用户从细粒度兴趣到粗粒度兴趣的传递过程,也在刻画用户的这种兴趣的层次结构。当然描绘用户的兴趣层次结构不限于最大堆树结构,但是我们提出的最大堆树结构在方法上具有独到之处,其从方法论层面统一了树结构的构建过程,树节点的兴趣建模和采样方式,兴趣树背后的 TopK 检索流程。

综上所述,从最大堆树结构定义出发,我们提出了 Tree-based Deep Match(以下简称 TDM)算法框架(图 1)。TDM 以淘宝商品体系为初始化依托,自顶向下构造从粗到细的兴趣层次树(Tree),并在此基础上应用深度学习网络进行用户兴趣的推荐建模,赋能单点计算上的复杂模型,运用层次检索方法实现全量候选上的用户 TopK 商品兴趣推荐。

图 1 Tree-basedDeep Match 算法框架

基于如上的设计和实现,TDM 的贡献包含以下几点:

创新的最大堆树检索结构使得使用任意高级深度学习模型变得可能,带来推荐效果的极大提升

TDM 采用树来组织用户兴趣层次,并将之做为兴趣推荐的层次检索结构载体,良好的亚线性 O(log( 候选集规模)) 时间复杂度使得 TDM 的检索过程非常高效,这种高效为 TDM 引入先进复杂模型提升检索精度提供了强大支持。在单独计算每个兴趣节点的偏好时,TDM 不局限于特定的模型结构(如内积等),可以引入更加切合数据特性的复杂模型结构来优化预测结果,例如基于用户历史行为的 Attention 结构,树节点 Embedding 下沉到输入层,用户和树节点的历史交叉信息引入等等。无论上述哪种复杂计算的引入,在 TDM 的对比实验中都取得了更优的推荐效果。

****全库检索能力可以有效提升召回准确度和新颖性

TDM 实现了面向全量候选集的检索能力,通过对用户兴趣进行层次切分和逐层圈选,TDM 避免了直接在全量候选集上的超大计算,它采用将大问题切割成多个小问题递归求解的方式实现全库检索。受益于全库检索的实现,TDM 可以提升结果的新颖比例并保持了召回效果,而借助于先进模型计算能力的引入 TDM 可以达到新颖性指标提升的同时进一步优化召回的准确度。

****再创新的树 - 模型联合训练实现树结构和模型能力的双优化,进一步大幅提升效果

在基础 TDM 算法框架之上,我们继续创新性地建立了树 - 模型联合训练框架,通过初始树 - 模型训练 - 树重建 - 模型再训练的循环迭代,树的结构随着模型的演进不断得到优化,使得树更契合用户的兴趣组成和分布,而模型训练也受益于优化后的树结构,进一步降低 Loss 提升测试效果。联合训练为 TDM 带来了 10% 以上的测试效果提升,具体对比可参见后文实验效果部分。

下述章节将详细阐述 TDM 在模型训练、结果预测(TopK 检索)和树联合训练方面的设计和实现。

IV 方案细节

一,模型训练

如上述章节所陈,我们将大规模候选集上的 TopK 匹配和推荐问题转换成一系列前后相依的全局分类问题,也即我们需要在树的每一层建立一个全局分类器,计算该层节点概率的序,得到最优 TopK 个候选。我们选择负样本采样(Negative Sampling)的方式进行样本生成,以最大似然估计的方式对这些分类器进行训练。

具体地,设 n 为树中的某个节点,我们有用户 u 对节点 n 的偏好预测概率为:

根据公式(2),用户 u 对感兴趣,隐含了 u 对的父亲 也感兴趣,所以假设为某叶子节点,那么我们就有了一条唯一的路径:

表示在第 j 层的祖先,m 为树的高度。当用户 u 对产生了行为时,我们认为 是用户的一个兴趣,由上我们认为用户 u 也对路径 中的各个祖先节点也产生了兴趣,于是我们选择这些节点作为训练的正样本,而根据全局分类器的设计要求,我们对这些正样本节点所在层进行随机采样构成负样本。

具体地,记对于用户 u,为正样本集合, 为负样本集合,我们有如下的似然公式:

 相对应的,我们有损失函数为:

 其中, 代表用户 u 对节点 n 偏好的真实 Label(0 或 1)。

图 (1) 形象的描述了 TDM(带 Attention 版本)训练时的模型结构,其中树是一棵完全二叉树(但 TDM 框架本身并不要求树必须是二叉结构)。

在实际的样本构建中,我们采用了用户当天的行为叶子节点及其上溯路径上的祖先节点为正样本,而随机采样各个正样本节点的同层兄弟为负样本。在特征上我们使用了 (0,8 * 24) 小时的行为特征作为用户特征输入。

二,结果预测

遵循 TDM 层次检索的原理,我们只需要从根节点出发,自顶向下依次逐层选取该层候选孩子中最优的 K 个节点即可。也即我们有层次检索算法:对于最终要求 K 个叶子目标推荐的情况下,选择当前层概率最高的 K 个节点,然后往下层扩展他们的孩子节点,对下层孩子节点进行概率估计,选取概率最高的 K 个,递归计算和选取直至所有路径都到达叶子层,最后从候选叶子集合(可能大于 2K 个)中取概率最高的 K 个返回即可。具体的检索逻辑可参考图 2 的伪代码描述。在 TDM 的实验中,层次 TopK 的检索被实验证明是有效的,甚至是优于平层暴力(Brute-force)检索的,这一点也侧面验证了兴趣树的层次结构可以有效促进检索的精度提升,具体的提升效果可参见后文实验效果部分。

图 2 TopK 层次检索算法

三,树联合训练

TDM 中的树是支撑高效检索效率的兴趣层次组织的载体,同时树的结构直接决定了层次检索的候选集组成以及模型训练的样本组成,所以树结构的优化与否对 TDM 模型的性能好坏具有直接影响。在实践中我们发现,基于淘宝商品体系为依托构造的树所得的 TDM 模型,在离线评估指标(召回率等)上会显著的优于随机构造的树所得的 TDM 模型,这一结果印证了树结构对 TDM 的巨大影响。鉴于此,我们尝试建立了树优化学习的方法,同时为了最大程度联合 TDM 模型训练取得更优效果,我们在这基础上进行了树 - 模型联合训练的迭代实验,实验结果证明联合训练的模型可以取得比初始模型更优的效果提升(10%+),详细提升可参见后文实验效果部分。具体而言我们建立了如下的联合训练迭代方法:

1)依托淘宝商品体系构造初始化的兴趣层次树

2)基于构造样本,训练得到 TDM 模型

3)根据学得的节点 Embedding,通过 KMeans 聚类重建新树

4)基于重新构造样本,训练得到 TDM 新模型

5)继续步骤 3)和 4)直至模型测试指标稳定,得到最终模型

需要说明的是,步骤 1)中借鉴淘宝商品体系构建初始化树有助于 TDM 建立较好的树迭代起点。对于一般领域而言,可以采用随机方式构造的树作为初始树的选择。

图 3 具体展现了树联合训练在离线测试上的效果。

图 3 联合训练树模型和初始树模型的测试结果对比

V 实验效果

我们在公开数据集 MovieLens 和阿里妈妈构建的广告数据集 UserBehavior 上进行了 TDM 的实验对比,评价指标包括精度、召回率、精度召回率调和 F1 和新颖性等方面,对比的方法包括:

****Item-CF 采用的是业界广泛使用的基于商品的协同过滤方法,
****YouTube product-DNN 实现的是 YouTube 视频推荐的向量检索方法(采用和 TDM 统一的网络结构和特征 Embedding 维度,负采样只在最底层商品层进行且负样本总个数和 TDM 保持相等),
**** 基于 Attention 结构使用(attention-DNN)与否、树节点 Embedding 是(DNN)否(product-DNN)进入输入层 TDM 也有多个版本。

一,召回率评估

**
**

表 1 Tree-basedDeep Match 实验效果对比

从表 1 的对比效果中我们可以看出:

1)无论是 MovieLens 上还是 UserBehavior 上,带 Attention 的 TDM 在召回率上都显著超越了现有推荐匹配算法,包括 YouTube 向量检索方法和 Item-CF 统计规则方法;

2)在基础 product-DNN 版本上引入更复杂和先进的深度模型(节点 Embedding 进入输入层和引入 Attention)可以进一步大幅提升召回率。

二,新颖性评估

**
**

表 2 Tree-basedDeep Match 在新颖类目上的效果

在电商领域内,类目(Category,商品分类体系内较粗的级别,例如商品 iPhone 的类目是手机,商品任天堂 Switch 的类目是家用游戏机)级别的新颖效果也是非常重要的关注指标,我们对各个模型的推荐结果做了用户行为过的类目的过滤,并对过滤后的结果进行了 Precision、Recall、F1 等的对比(如表 2)。

从中可以看到,attention-DNN 的 TDM 方案在全部的指标上都有极大提升,包括相对于广泛使用的 Item-CF 方案召回率提升 292%,相对于业界主流 YouTube 方案召回率提升 34%,而经过树联合训练后 Learnt Tree TDM 方案效果进一步得到提升,包括相对于广泛使用的 Item-CF 方案召回率提升 355%,相对于业界主流 YouTube 方案召回率提升 56%。指标的提升极大的说明了TDM 方案在类目级别的新颖结果上有很好的表现,并从侧面验证了树 - 模型联合学习对效果的巨大提升。

三,树结构对效果的促进

**
**

图 4 树检索和暴力检索在每一层上的召回率对比

我们知道 TDM 中的树作为检索的载体具有良好的时间复杂性,极大赋能了单点的复杂计算。而树本身就是兴趣层次结构,它将推荐匹配的大问题切割成多个层次化的全局分类小问题递归求解。在实验中我们发现树的这种层次化结构可以更加促进效果的提升。从图 4 我们可以看到在树层数达到一定高度(9+)后 TopK 层次检索方法(图 2)在召回率上会显著优于在该层上的暴力检索方法。究其原因,我们认为 TDM 的层次化树检索有效防止了上层差的节点对下层节点序计算的影响,将下层候选圈定在上层好的(TopK)节点的孩子中,相对于暴力检索大大降低了序计算的难度,使其具有更好的分类能力,实现召回效果的提升。

VI 总结与展望

一,总结

Tree-based Deep Match(TDM)自主创新提出了一套完整的基于树的复杂深度学习推荐匹配算法框架,它通过建立用户兴趣层次树结构实现了高效的全库检索,并以此为基础赋能深度模型引入 Attention 等更先进的计算结构,达到了在精度、召回率以及新颖性等指标上相对于传统推荐方法的显著效果提升。进一步的,TDM 设计实现了一套完整的初始树 - 模型训练 - 树重建 - 模型再训练的联合训练迭代框架,更加促进了效果的提升。联合训练赋予了 TDM 算法框架较好的通用性,为 TDM 向新场景、新领域的迁移扩展提供了良好的理论基础和极大的工程可行性。

由阿里自主创新提出的这套 TDM 框架是对学术界和工业界关于匹配和推荐理论技术发展的一次重大促进,它为解决匹配问题提出了一套崭新的、完整的支持任意深度学习的树状全库检索方案,取得了算法效果的巨大提升,并为广泛的行业、领域迁移提供了极大的可行性。

二,展望

TDM 建立了一套完整的基于树结构的深度学习推荐匹配理论和技术,并在阿里妈妈广告业务上取得了初步的成果和进展。但相对来说 TDM 还处于开端阶段,后续还有较多可改进的地方,比如在树学习方法上暂时采用的是无监督学习的 KMeans 聚类,未来可以考虑采用有监督的方式对树进行调枝、剪枝等调整来实现树结构的进一步优化。

原文发布时间为:2018-03-28

本文作者:阿里妈妈技术团队


更多高质资源 尽在AIQ 机器学习大数据 知乎专栏 点击关注

转载请注明 AIQ - 最专业的机器学习大数据社区  http://www.6aiq.com