33-minute tutorial on the Rufus-Air post-training recipe

Michael Guo@Michaelzsguo

这是我做过最长的一个视频，33 分钟。因为这是一篇值得逐字逐句仔细研读的论文。

很多人羡慕顶级 AI 实验室的高薪岗位，却很少有人真正坐下来，把这些岗位需要的核心技术学会。与其羡慕，不如自己动手学。

亚马逊这篇 Rufus-Air 论文，把大模型后训练的完整配方公开了出来：同一个底座模型，只是换了一套训练配方，指令遵循得分就从 33.6 提升到了 76.9。

但最惊艳的不是跑分，而是作者们细致入微、手把手式的分享。数据从哪里来、奖励怎么设计、八个训练阶段为什么这样安排、基础设施踩过哪些坑，全部写了出来。这些正是顶级 AI 实验室后训练团队每天需要做的技术决策，也是平时最少公开的部分。

我把它做成了一套循序渐进的中文教程，目的只有一个：让你能跟着一步一步学。每一章都配了一个小脚本，在笔记本电脑上就能跑，屏幕上展示的每一个输出都是真实运行出来的。

只有一张卡、一台机器？完全够用。换一个小模型，从有标准答案的数学题开始，先做难度过滤，再沿着论文的八个阶段一步一步往上走。

这些技术实践不仅能让你真正掌握大模型后训练的核心技术，也能让你从容应对相关岗位的技术面试。祝你早日找到年薪 $500,000 的工作。

论文：