京东搜索在线学习探索实践

文章作者:刘露、张颖、段学浩、王东旭
内容来源:京东算法架构
出品平台:DataFunTalk

导读: 随着京东零售搜索业务的快速发展,对数据的时效性要求越来越高,要求搜索模型有捕捉更实时信号的能力,在线学习体现了业务对模型时效性的追求,希望能根据在线系统反馈的数据实时得对模型进行调整,使得模型能快速反应环境的变化,提高在线预估的准确率。

01 背景

图片

目前传统模型的实时训练(如 FTRL 等)无法支持深度模型,这些模型预估的准确率较低,比较适合一些简单的场景;第二种是类似增量训练的一种方式,可支持深度模型预估,这种方式以尽可能短的周期进行模型训练和迭代上线,是一种类实时的更新方式;第三种是以实时更新方式更新模型的局部结构,可支持深度模型的预估,模型的一部分参数直接参与实时训练。

02 系统概述

图片

  • 模型预估服务:在加载模型时,分为 static 部分和 dynamic 部分,static 部分由离线数据训练得的到,主要学习 user 和 doc 的稠密特征表示,dynamic 部分主要包含 doc 粒度的权重向量,这部分由实时的 online learning 的任务进行流式更新;
  • Rank:主要包括一些排序策略,在排序后会实时落特征日志,将当时的特征写入特征数据流,作为后续实时样本的数据源(feature);
  • Flink 样本拼接任务:将上面的 feature 和用户行为标签数据作为数据源,通过 flink 的 union + timer 数据模型关联成为流式样本数据;
  • Online Learning 任务:负责消费上游生成的实时样本做训练,在训练得到新参数后更新 PS。

图片

这里我们介绍整个链路的迭代过程:

  • 经过离线样本拼接之后生成离线样本表,然后在模型训练平台训练之后将模型推送至模型仓库,同时将离线训练的参数推送至 ps,之后 predictor load 这个全量的离线模型;
  • 经过实时样本拼接之后生成实时样本表,经过 flink 的 online learning 组件将实时的 embeding 参数推入 ps,将 ps 作为 dynamic model 的数据源;
  • 预估服务 predictor 加载全量的模型文件和实时训练的参数,提供在线服务;
  • 离线模型提供 周/日 级别的周期模型校正。

03 实时特征和样本处理

图片

实时特征收集的目标是承接搜索在线预估系统所发出的特征数据,对下游屏蔽掉缓存、去重、筛选、分页等搜索系统特有的业务逻辑,提前滤除掉下游一定不会使用的数据,构建出标准 Schema 的原始特征流。该组件承接来自于搜索召回、排序、相关性等模块的实时特征,每秒需处理约 2400W 条特征数据。

图片

实时样本拼接的目标是将搜索特征与用户端的行为埋点实时关联。目前我们的数据数据过滤后的 QPS 峰值大概在 10w,拼接完产生的样本 QPS 峰值在 5w,该 flink 任务的特点是多流拼接、时间窗口长、checkpoint size 大。我们采用 union + timer 的模式实现多任务场景下的样本拼接,该实现策略的特点是可以随意扩展至 N 流并进行拼接;为了减少与外部存储的交互来降低网络的开销,我们使用 flink 内部的 rocksdb state backend,并且对 rocksdb 的序列化手段和存储进行了相当的优化。

图片

这里首先列举了一些常见的数据倾斜,比如说 key 的设计不合理、flink 的 shuffle 方式选择有问题、任务反压、机器资源的问题等,这里我们着重介绍一下这个任务的一些数据倾斜问题。



无效样本过滤策略,在最开始的时候我们发现某些 subtask 每次都会在固定的时间点发生 checkpoint 失败的现象,经过排查我们发现在实际的样本拼接数据里面会有很多的作弊数据,这导致那些 checkpoint 失败的 subtask 处理数据的 QPS 是其它 subtask 的好几倍,过滤了这些作弊数据之后,任务恢复正常;我们还遇到过的一个数据倾斜现象是这样的:kafka source 所在的 subtasks 莫名其妙的数据倾斜,机器的各个指标都没有到达瓶颈,经过排查之后是 kafka producer 产生数据的时候 produce 的 key 指定了一个空的字符串"",这种经过 hash 之后只会产生到 kafka 的固定分区,flink 在接受数据的时候 kafka source 所在的 subtask 是数据倾斜的,如果后面跟着的是一个 map 操作(forward),那么后面的 map 也就会数据倾斜。

样本拼接上线之后,任务运行稳定,但是某些 subtask 处理的数据量是一些数据量少的 subtask 的 1.5 倍,这种其实不算是严格意义上的数据倾斜,但是会造成资源的一定程度的浪费。利用 flink 中 keygroup 的概念,和 maxParallelism 大小相同,经过调整 maxParallelism 的大小,保证了每个 subtask 上面处理的数据量相同,解决数据倾斜问题。

图片

由于数据量大,且存储的特征比较多,导致任务的 checkpoint size 达到了 TB 级别。最开始的时候我们将数据放到了内存里面,但是因为数据量巨大,导致 GC 时间特别长,我们将数据放到了 rocksdb 里面,并且我们对 rocksdb 的 blockcache、writebuffer 等进行调优,添加了 bloomfilter,使得 rocksdb 的响应时间优化到了 0.04ms 以内;通过合理设置 checkpoint 的超时时间、间隔时间和最小暂停时间,使得任务在追数据的时候不至于导致 qps 突增太明显;最开始做拼接的时候我们将所有的 pvid logid 和特征等值放入了一个 valuestate,经过 jstack 发现所有的线程都在做序列化和反序列化,其实我们做拼接只要 pvid 和 logid 就好了,因此我们将 pvid 和 logid 放入 valuestate,将特征放入其它的 state 里面,这样就少了很耗资源的序列化和反序列化操作,减少了很多系统开销;我们还开启了 flink 特有的本地恢复和增量的 checkpoint 操作来减少开销。

04 Flink 实时训练

图片

在线学习过程对实时样本具有一定要求,上游任务产生样本数据之后,因为是乱序的,我们为了保证样本流进入训练时最大程度还原真实事件顺序,利用 flink 的 watermark 机制对样本进行了保序操作,之后我们实现了带有超时时间的 countwindow 来做 online 的 train,通过 ps 来更新参数,ps 作为线上的 inference 后端来直接查询。

图片

  • 采用 flink 的 watermark 和 eventtime 作为 timecharacteristic 来保证顺序是有序的,尽可能的贴近事件当时的发生场景;样本一旦出现延时,且超过了系统的最大配置,我们会认为该样本不可用,直接丢弃。
  • 为了允许在线学习任务自主配置每次训练迭代的数据规模,我们内部实现了带有超时时间的 countwindow 来精确控制每个 batch 的大小;且我们支持任意维度的 key 组合来实现任意维度的 batch 选择,这样方便实现 session 粒度、item 粒度和 user 粒度的样本等。
  • 当我们使用 flink 的 keyed state 的时候,采用异步更新的方式更新 ps;当我们使用 flink 的 operator state 的时候,同步的方式更新 ps。
  • 目前对搜索算法接入了点击、加购、关注、下单、完成等多个标签流,支持丰富的标签选择。
  • 支持样本比例的定制化,支持按照规则触发训练。

图片

  • 参数更新:首先我们将用离线的 30 天的数据训练出来的模型参数导入 ps,之后 flink 的在线训练将实时更新参数,该 ps 直接服务于线上。目前在线和实时共用一套 ps,为了之后的稳定性要求,我们之后会将实时和在线分开。
  • 模型校准:为了确保模型的准确性,支持天/周粒度的完整模型更新进行校准。

05 全链路监控

图片

对于端到端的机器学习,全链路的稳定性是很重要的,任何一个节点出问题都会影响最后的效果,因此我们建设了全链路监控,保证如果出现了问题能在第一时间发现并且解决问题。

在业务监控方面,我们的全链路包括 predictor 相关的监控、feature dump 相关的监控、样本的关联率、样本的延时时间、AB 指标等监控。此外在最终的效果上加监控数据,保证能从效果上得到一个全链路健康度的认知。

图片

在平台监控方面,实时特征收集、样本拼接、实时训练等 flink 任务,借助于京东中台实时计算团队提供的监控组件完成了任务的相关监控,保证了任务的稳定性。这些监控从容器的 CPU、内存等细粒度的方方面面监控,确保我们可以及时捕捉问题所在。

06 总结

Flink 在实时数据处理方面有优秀的性能、容灾、吞吐等表现、算子丰富易上手使用、自然支持批流一体化,且已有不少机器学习框架陆续开源。随着机器学习数据规模的扩大和对数据时效性、模型时效性要求的提升,在线学习不仅仅作为离线模型训练的补充,更成为模型系统效率发展的趋势。


本文地址:https://www.6aiq.com/article/1614636296742
本文版权归作者和AIQ共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出