模型过拟合你是怎么处理的？

「过拟合是模型把训练集噪声当规律，现象是训练损失持续降而验证损失回升。我的处理按诊断顺序：先看数据——增加数据量或数据增强最根本；再看模型容量——减少层数参数、加正则项 L1/L2、加 Dropout、早停；然后训练策略——交叉验证确认波动不是随机；最后集成。诊断优先于药方。」

我讲一个项目实例：图像分类验证集与训练集准确率差 12 个点。逐项处理：数据增强加随机裁剪翻转色彩抖动，差距先缩到 7；模型砍掉一层卷积加 Dropout 0.5，到 4；L2 权重衰减调参后稳定在 3 以内。复盘发现真正的元凶是训练集有近重复样本导致泄漏——所以我把数据审计放在第一步：先查泄漏再谈正则。

资深视角把过拟合放到偏差-方差框架：模型误差等于偏差加方差加不可约噪声，过拟合是方差主导。手段按作用点分类：数据侧——增广、去噪、防泄漏（时间序列不能随机增强）；模型侧——容量控制、正则、结构先验（CNN 的局部性就是先验）；训练侧——早停、集成、蒸馏。同时强调欠拟合也要识别——训练集都拟合不好时正则只会更糟，该加容量。

追问「早停为什么有效」：等价于隐式的参数范数正则，限制了解空间；「L1 和 L2 选哪个」：L1 产生稀疏可做特征筛选，L2 平滑权重更稳，实践中 elastic net 折中；「怎么判断是过拟合还是数据分布变了」：用固定验证集回溯测试——过拟合训练验证差距大，分布漂移则新老模型都差；「Dropout 在推理时怎么处理」：乘补偿系数或推理关闭并记期望。