弱到强泛化(Weak-to-Strong Generalization,W2SG)研究一个直指未来的问题:当模型能力超过人类监督者时,人类给出的不完美监督能否把模型引向正确方向?OpenAI 用一个巧妙的实验设置来模拟这种情形:故意用一个较弱的模型(或只给有限提示的人类模拟者)产生的标签,去微调一个能力强得多的模型,然后看强模型表现如何。
核心发现
强模型并不简单地模仿弱监督者的错误。在许多任务上,用弱标签微调后的强模型表现显著优于那个弱监督者本身——这就是「泛化」:模型在预训练中学到的潜在能力,让它能从有噪声的监督中恢复出更正确的结构。但这种泛化并不完全,弱监督者越弱、任务越难,强模型与「真正上限」之间的差距仍会保留。
与超级对齐的关系
该实验是 OpenAI 超级对齐(Superalignment)计划提出的核心研究框架——用「弱监督强」的模拟实验,为「人类监督超级智能」这一终局问题积累方法论。工程含义是:对齐强大模型时,与其追求完美标注,不如设计能让模型「唤醒」自身能力的监督结构。