摘要#

聚类是一类典型的无监督学习方法，其目标是在没有标签信息的情况下，根据数据之间的相似性将样本自动划分为不同的簇结构。与监督学习不同，聚类不依赖先验标注，而是通过数据本身的内在结构进行模式发现，因此在用户分群、图像压缩、异常检测等场景中具有重要应用价值。本章围绕聚类的基本思想、经典算法及其扩展方法展开，帮助读者构建从理论到实践的完整聚类分析体系。

本章首先介绍聚类算法的基本思想，说明“相似样本应归为一类”的核心原则，并以KMeans算法为代表，系统讲解其算法流程、数学原理以及K值选择方法。通过示例代码，读者可以快速掌握KMeans在实际数据上的应用方式。同时，本章从优化角度出发，推导KMeans的目标函数，并分别解释簇中心与样本分配矩阵的求解过程，使读者能够理解该算法本质上是一个交替优化问题。

在工程实现部分，本章提供从零实现KMeans与KMeans++的完整过程，通过随机初始化与改进初始化策略的对比，使读者理解初始化方式对聚类结果稳定性的影响。同时，本章引入加权KMeans模型，扩展传统算法在不同特征重要性场景下的适用能力，使聚类方法更加贴近真实业务需求。

在评估与模型选择方面，本章系统介绍聚类的外部与内部评价指标，包括聚类纯度、兰德系数、轮廓系数以及Calinski-Harabasz指数等，使读者能够在无监督场景下合理评估模型效果。此外，本章进一步讨论K值选择问题，从肘部法与轮廓系数法两个角度分析如何确定最优聚类数，提高模型的稳定性与解释性。

最后，本章扩展介绍基于密度的DBSCAN算法与基于层次的聚类方法（HCA），并详细讲解Single-Link、Complete-Link与Ward方法的原理与实现，使读者能够掌握不同聚类思想之间的本质差异。通过本章学习，读者不仅能够熟练使用主流聚类算法解决实际问题，还能够理解不同聚类范式背后的几何结构与优化逻辑，为后续复杂数据分析与无监督学习任务奠定基础。