让大模型更懂用户，算法工程师的成长升级之旅

正在京东，手艺从没有是冰凉的代码，而是衔接消耗者取美妙糊口的桥梁。

正在京东批发，我用年夜模子赋能智能导购、搜刮等电阛阓景，任务时期宣布4篇顶会论文，提交专利8篇，并当选北京亦麒麟优异人材。那些写进顶会论文的手艺打破、躲正在专利证书里的立异计划，皆化做了消耗者指尖上的流利体验。

以下是我的故事，欢送手艺同仁们一同交换——



从校园步进职场后，我深入领会到实际取理论的差别：先生时期我们常常会追求"最劣解"，习气于拿着手艺那把“锤子”来寻觅使用场景那颗“钉子”；而正在产业界，特殊是正在京东电商如许庞大的营业情况下，我们更需求寻觅"最适解"。

正在实践任务中，我面对着诸多教科书上不曾说起的应战：用户决议计划阶段的静态转变、电商死态安康取贸易效力的均衡、亿级流量下的工程束缚…那些庞大成绩没法用现成的实际公式间接套用，但恰是那些应战让我感应非常镇静。



登上顶会SIGIR的商品重排模子



京东主站搜刮劣化是我正在京东的第一个项目，也让我实正领会到算法正在产业界降天的共同魅力。正在用户调研中我们发明，当消耗者搜刮某一商品时，传统算法会一股脑展示最滞销的几款，头部后果常常被多数爆款把持，虽包管面击率却捐躯了少尾商品暴光。搜刮排序的意义没有是纯真晋升面击率，而是粗准适配用户决议计划阶段。



实在成绩实质正在于，用户搜刮时实在处于分歧的决议计划阶段。

正在“逛”场景时，需供比拟恍惚，用户能够从泛化搜刮“脚机”疾速支敛至“iPhone 15 256GB 蓝色”，也能够正在“Switch→油烟机→婴女车”的团圆查询中展示多兴味探究。

正在“购”场景是，用户目的明白，需求粗准后果延长决议计划，如指导用户正在搜刮“iPhone 15 256GB 蓝色”时间接下单。

而既有的算法模子将多样性取精确性视为互斥目的，采取牢固权重线性交融，招致两类目标易以协同劣化。



我们正在念：“能不克不及让算法像人类一样，静态了解用户企图？”



传统办法易以捕获静态用户偏偏好的静态转变趋向，因而我们决议正在模子中引进散布建模去捕获这类静态性，并提出了名为PODM-MI的重排框架。



第一层用下斯散布建模用户偏偏好，当用户搜刮"连衣裙→碎花连衣裙→蓝色碎花连衣裙"时，协圆好继续减少，则调下精确性权重；当用户搜刮"脚机→Switch→油烟机"时，则意味协圆好删年夜，需求调下多样性系数。

第两层引进互疑息下界劣化，让排序后果的多样性取用户偏偏好下度相干，展示联系关系商品，防止有关后果。经过互疑息最年夜化完成静态均衡。完成均衡后，商品既没有会满是爆款，也没有会芜杂无章，而是"用户能够感兴味的新挑选"。

第三层设想功效矩阵交融模块，能够正在排序进程中静态调剂商品取多样性趋向之间的绝对主要水平。

理论证实，那个新计划正在营业目标UCVR上获得明显结果，年化定单删量超万万。我们的研讨也当选了顶会SIGIR 2024。但道假话，能处理亿级商品婚配的实践成绩，让消耗者能更快选到心仪的商品，比论文中稿更让人奋发很多。



真实的手艺代价正在于可否用零碎性的处理计划弥开营业需供取手艺才能之间的鸿沟。便像木工没有会仅果锤子精致而自豪，而正在于用适宜的东西制出巩固的衡宇。手艺近睹也并不是是复杂的逃逐热门，是安身于营业实质，深化了解营业需供，自动辨认那些能为营业带去临时代价的新手艺趋向。



发明业界尾个手艺瓶颈



跟着对营业场景的了解不时深化，正在团队立异文明气氛下，我们开端测验考试打破惯例的手艺思绪。



如今死成式搜刮引荐手艺正正在重塑电商止业的交互范式。我们正在推动TIGER办法理论进程中，会为百亿商品基于RQ-VAE去构建语义标识符（SID)。而正在构建SID进程中，发明一个奇异景象：

商品的SID编码出现出"中间宽两头窄"的沙漏外形，中间的商品编码平均散布正在分歧地区，而两头层却非常集合。那招致码表可用率非常低，且模子练习易度更年夜，模子下限被逝世逝世卡住，造约着数亿商品的下效婚配。

我们对此停止了剖析，成绩的本源正在于RQVAE办法自身的特征。详细来讲：第一层对本初商品特点停止细粒度散类，此时数据散布绝对平均；第两层处置的残好疑息出现分明极化——少数数据皆接近散类中间，而多数数据则偏偏离较近，构成了分明的少尾景象；第三层再次对残好停止散类，数据散布从头趋于平均。而自身存正在少尾数据散布的电阛阓景，进一步缩小了这类沙漏效应。



颠末重复考证，我们确认那个景象是业内初次被零碎发明的手艺瓶颈，那也是一次真实的从0到1的立异打破。到如今我皆借记妥当初那种如发明新年夜陆般的镇静取悸动，像是探究到了死成式搜推的下限，更翻开了一扇预感将来营业形状的窗心。



我们从散布角度提出了两种沉量化处理计划。第一种计划是间接移除两头层的瓶颈节面，正在完好死成一切层级的SID落后止第两层节面的移除，移除瓶颈节面，处理少尾集合成绩。第两种，我们引进自顺应阈值战略，静态天剔除第两层中过于集合的下频节面，坚持了全体数据散布的波动性，无效减缓了“沙漏效应”带去的途径稀少成绩。尝试标明，经过那两种计划，公道天移除必然比例的下频节面后，模子离线召回率有明显晋升，让用户能更快发明念要的商品。



每当回忆那个发明进程，我皆能感触感染到手艺立异最地道的魔力——正在已知取已知的鸿沟上，用松散、务虚的肉体开辟出新的能够。那些先生时期博古通今的手艺观点，正在日复一日的工程理论中逐步变得逐步明晰；分歧手艺间的联系关系，也正在处理实践营业成绩中树立起无机联络，全部手艺幅员出现出史无前例的完好相貌。

考核编纂 黄宇