逻辑回归和线性回归的区别?
算法工程师第 11 / 15 题答题框架
参考思路:任务(分类/回归)→输出(sigmoid 概率)→损失(交叉熵/MSE)与为何不能用 MSE→可解释性与工程基线地位。
五个经典回答示范
回答一 · 思路口述版
「任务不同:线性回归做回归预测连续值,逻辑回归做分类输出概率。形式上逻辑回归是线性回归套 sigmoid。损失函数不同:线性回归 MSE,逻辑回归交叉熵——因为 sigmoid 加 MSE 会造成非凸且梯度饱和,交叉熵让梯度与预测误差成正比。输出语义:一个是无界值一个是 0 到 1 的概率。」
回答二 · 1-3年经验版
我会补充工程视角:逻辑回归是业界基线——训练快、可解释、可在线更新,风控评分卡至今大量使用。实践细节:类别不平衡用类权重或重采样而非改阈值拍脑袋;特征离散化与 WOE 编码是评分卡的标准流程;输出校准用 Platt 或 isotonic。面试能把『为什么它还是工业基线』讲清,比背公式有分量。
回答三 · 资深版
我从统计基础讲差异本质:线性回归是高斯噪声假设下的极大似然,逻辑回归是伯努利分布下的极大似然,都属于广义线性模型——链接函数不同(identity vs logit)。由此推出为什么不能用 MSE 解逻辑回归:非凸、梯度消失、对异常敏感。再延伸:softmax 是多类推广,交叉熵族与指数族分布的对应关系。
回答四 · 追问应对
追问「逻辑回归为什么要特征标准化」:正则项对各维度公平、加速收敛,原始系数解释时注意量纲;「阈值怎么定」:按业务代价矩阵定——召回敏感降低阈值,代价不对称时画 ROC 找成本最优点而非默认 0.5;「多重共线性影响」:系数不稳难解释,VIF 筛选或正则化。
回答五 · 反面示范
「逻辑回归就是回归版的分类,都是一条直线拟合数据,把结果四舍五入就是分类,损失函数不影响大局。」——点评:『四舍五入』暴露对概率输出与决策阈值的误解;『损失不影响大局』恰恰错在最关键处——损失函数的选择决定了优化可行性与梯度行为。
怎么练这道题
- 打开 模拟练习,选择「算法工程师」方向,限时 3 分钟作答本题。
- 对照上方答题框架,逐点检查:哪些要素没覆盖、哪里表达啰嗦。
- 用自己项目的真实经历替换框架中的占位内容,重讲一遍并录音回听。
这类题在真实面试中常被追问细节,
建议进入限时模式练一遍。