大规模深度学习预测场景下 codegen 的思考与应用

  • 时间:
  • 浏览:0
  • 来源:大发5分排列3_大发5分排列3官方

RTP 系统(即 Rank Service),是一个多多面向搜索和推荐的 ranking 需求,支持多种模型的在线 inference 服务。RTP 支持 LR、GBDT 以及 tensorflow 等多种模型及模型格式,并依托 suez 在线服务框架,将样本组装和模型预测一气呵成,提升了业务迭代淬硬层 ,并在性能和稳定性方面予业务以充分保障。

RTP 上的业务大多数是打分类的场景,它的计算流程由一个多多 Compute Graph 描述(TF Graph)。从计算逻辑上来看,它都还后能 分为可是三要素:

更多关于 RTP 系统的介绍请见 淬硬层 预测平台RTP介绍