【美团】MTGR-美团外卖下一代生成式推荐模型落地实践

近日，美团技术团队发布了一份名为“MTGR:美团外卖下一代生成式推荐模型落地实践”的行业研究报告。这份报告深入探讨了美团在生成式推荐模型领域的最新实践，包括大模型Scaling Law的概念、美团外卖DLRM Scaling历史、推荐系统中Scaling Law的历史发展与困境、HSTU模型的实际应用效果，以及美团生成式推荐落地实践MTGR的核心问题、数据组织、模型结构和离在线效果等。报告还详细介绍了MTGRBoost训推引擎的建设，旨在解决大规模生成式推荐模型在训练和推理中面临的性能挑战。这份报告不仅为业界提供了美团在推荐系统领域的深入洞察，还展示了如何通过技术创新推动业务发展，其中包含了大量有价值的技术细节和业务实践，对于理解当前推荐系统的发展趋势和未来方向具有重要意义。

美团外卖的推荐系统，已经迈入了一个全新的时代。这份名为“美团外卖下一代生成式推荐模型落地实践”的报告，揭示了美团在推荐系统领域的最新进展和突破。

推荐系统是互联网公司的核心竞争力之一。美团外卖作为中国最大的外卖平台，每天需要处理海量的订单和用户行为数据，如何精准地将合适的商品推荐给用户，是美团技术团队一直在探索的问题。

传统的推荐系统，主要依赖于深度学习模型，如DLRM（Deep Learning Recommender Model）。但随着大模型时代的到来，美团开始探索生成式推荐模型（Generative Recommendation，简称GR）。GR模型，通过模拟用户的决策过程，生成用户可能感兴趣的商品序列，从而实现更精准的推荐。

报告中提到，美团外卖的DLRM模型，从2018年到2023年，经历了多次的Scaling（规模扩展）。但这种扩展方式，存在训练和推理开销难以优化的问题。为了解决这一问题，美团提出了MTGR（美团生成式推荐）模型。

MTGR模型，借鉴了HSTU（Hierarchical Sequential Transduction Units）的结构，将所有输入特征组织成序列的形式，所有任务（召回和排序）都嵌入到这个序列生成模型中。这种模型结构，使得MTGR在离线指标和在线AB实验中，都优于DLRM模型。

MTGR模型的离线实验显示，在宽度、深度、Token长度多方面，都观察到了近似对数线性的Scaling Law。在线AB实验中，MTGR-large模型在首页推荐场景全量部署，取得了近年来迭代最大收益，训练成本持平，推理成本下降44%。

为了支持MTGR模型的训练和推理，美团还建设了MTGRBoost训推引擎。MTGRBoost包含两个核心组件：MTGR-Training和MTGR-Inference。MTGR-Training支持低成本、高效率的大规模分布式训练；MTGR-Inference支持低延迟、高吞吐的大规模线上推理部署。

MTGR-Training基于TorchRec构建，支持千亿参数、100GFLOP/example甚至更大计算量的模型的高效分布式训练。MTGR-Inference基于Nvidia软件生态构建，选择TensorRT作为模型推理框架，选择Triton Inference Server作为模型部署框架。

美团外卖的推荐系统，正在从传统的DLRM模型，向生成式推荐模型GR转型。这一转型，不仅提升了推荐效果，还降低了训练和推理的成本。MTGR模型的落地实践，为美团外卖的推荐系统带来了革命性的变化。

美团外卖的推荐系统，正在经历一场技术变革。这场变革的核心，就是生成式推荐模型GR。GR模型通过模拟用户的决策过程，生成用户可能感兴趣的商品序列，从而实现更精准的推荐。

GR模型的出现，是美团外卖推荐系统的一次重大突破。它不仅提升了推荐的效果，还降低了训练和推理的成本。这种模型的落地实践，为美团外卖的推荐系统带来了革命性的变化。

美团外卖的推荐系统，正在从传统的DLRM模型，向生成式推荐模型GR转型。这一转型，不仅提升了推荐效果，还降低了训练和推理的成本。MTGR模型的落地实践，为美团外卖的推荐系统带来了革命性的变化。

这篇文章的灵感来自于美团外卖下一代生成式推荐模型落地实践的报告。除了这份报告，还有一些同类型的报告，也非常有价值，推荐阅读。这些报告我们都收录在同名星球，可以自行获取。

以上为节选样张，关注公众号【蝉鸣报告】回复领取PDF完整电子版（无广告）。

【蝉鸣报告】每日更新最新硬核报告，覆盖产业报告、全球化、经济报告、趋势等全领域。