☣️

数据污染(Data Contamination)

Data Contamination
基础概念
评测训练数据基准

数据污染(Data Contamination,也叫基准污染)指评测基准的题目——或与其高度相似的文本——在预训练或微调阶段就被模型见过。模型在测试时不是在解题,而是在回忆,基准分数因此失去衡量真实能力的能力。

污染路径

主流基准来自公开的互联网文本(论文、题库、GitHub、技术问答社区),而预训练语料同样来自这些来源,交集几乎不可避免;新基准发布后,其题目很快进入下一轮训练语料,形成「基准一公开就污染」的循环。

影响

污染是模型评测可信度的头号威胁之一——不同模型在同一基准上的分数差异可能只反映「谁背的题多」,而非能力差异;这也解释了为什么同一模型在独立复测中的分数常常明显低于官方报告。

检测与缓解

检测思路包括让模型逐字补全基准题目(能完整补出即疑似污染)、比对训练数据与题目的 n-gram 重叠等;缓解手段包括使用未公开的私有测试集、定期更新题库、以及设计需要推理而非记忆的新题型。综述研究显示,现有检测方法各有假设盲区,污染问题至今没有一劳永逸的解法。

🔗 探索更多 AI 工具板块

除了本板块,AI工具宝箱还有这些自有内容板块,帮你从不同角度发现好工具。

☆ 0