摘要#

逻辑回归是机器学习中经典的分类模型，它在形式上虽然被称为“回归”，但本质上却是一个用于解决二分类与多分类问题的判别模型。本章在前一章线性回归的基础上，进一步扩展模型的适用范围，引入概率建模思想，使读者能够理解如何从连续值预测走向离散类别预测，并建立起从“函数拟合”到“概率建模”的核心认知转变。

本章首先介绍逻辑回归模型的基本结构与建模思路，重点说明如何通过Sigmoid函数将线性输出映射为概率值，并在此基础上构建分类决策规则。同时，通过极大似然估计方法推导逻辑回归的目标函数，并系统讲解梯度求解过程，使读者能够从数学层面理解模型训练的本质。在工程实现方面，本章结合示例代码展示逻辑回归在二分类任务中的完整实现流程，帮助读者建立“理论—公式—代码”三位一体的学习路径。

在扩展部分，本章进一步讨论多分类逻辑回归（Softmax回归）的建模方法，说明如何从二分类自然推广到多类别场景，并引入Softmax函数进行概率归一化处理。同时，本章系统讲解分类任务中的常见评估指标，包括准确率、精确率、召回率以及多分类情况下的综合评价方法，使读者能够正确衡量模型性能，而不仅仅关注训练损失。

最后，本章从更深层次推导逻辑回归的目标函数来源，结合概率映射与极大似然估计思想，逐步推导梯度计算过程，并通过从零实现二分类与多分类逻辑回归模型的实践案例，强化对模型本质的理解。通过本章学习，读者将不仅掌握逻辑回归的实现方法，更能够理解分类模型背后的概率解释框架，为后续神经网络与深度学习模型的学习奠定重要基础。