Python机器学习

聚集层次算法

Python机器算法聚集层次算法详细操作教程

聚集层次算法简介

分层聚类是另一种无监督的学习算法,用于将具有相似特征的未标记数据点分组在一起。分层聚类算法分为以下两类。
聚集层次算法-在聚集层次算法中,每个数据点都被视为单个群集,然后依次合并或聚集(自下而上)群集对。群集的层次结构表示为树状图或树状结构。
分割分层算法-另一方面,在分割分层算法中,所有数据点都被视为一个大聚类,并且聚类的过程涉及将(大自上而下的方法)划分为一个大聚类聚集成各种小集群。

执行聚集层次聚类的步骤

我们将解释最常用和最重要的层次聚类,即聚类。执行相同的步骤如下-
第1步-将每个数据点视为单个群集。因此,开始时我们将拥有K个群集。开始时,数据点的数量也将为K。 第2步-现在,在这一步中,我们需要通过连接两个壁橱数据点来形成一个大集群。这将总共产生K-1个簇。 第3步-现在,要形成更多集群,我们需要加入两个壁橱集群。这将导致总共有K-2个集群。 第4步-现在,要形成一个大集群,请重复上述三个步骤,直到K变为0,即不再有要连接的数据点。 第5步-最后,在制作了一个大簇之后,将根据问题使用树状图将其分为多个簇。

树状图在聚集层次聚类中的作用

正如我们在最后一步中讨论的那样,一旦大集群形成,树状图就开始发挥作用。根据我们的问题,将使用树状图将群集分为相关数据点的多个群集。通过以下示例可以理解-

示例1

要了解,让我们从导入所需的库开始,如下所示:-
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
%matplotlib inline
import matplotlib.pyplot as plt
import numpy as np
接下来,我们将绘制本例中获取的数据点-
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
X = np.array(
   [[7,8],[12,20],[17,19],[26,15],[32,37],[87,75],[73,85], [62,80],[73,60],[87,96],])
labels = range(1, 11)
plt.figure(figsize = (10, 7))
plt.subplots_adjust(bottom = 0.1)
plt.scatter(X[:,0],X[:,1], label = 'True Position')
for label, x, y in zip(labels, X[:, 0], X[:, 1]):
   plt.annotate(
      label,xy = (x, y), xytext = (-3, 3),textcoords = 'offset points', ha = 'right', va = 'bottom')
plt.show()
绘制数据点
从上图很容易看出,我们在数据点外有两个集群,但在实际数据中,可以有成千上万个集群。接下来,我们将使用Scipy库来绘制数据点的树状图-
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
from scipy.cluster.hierarchy import dendrogram, linkage
from matplotlib import pyplot as plt
linked = linkage(X, 'single')
labelList = range(1, 11)
plt.figure(figsize = (10, 7))
dendrogram(linked, orientation = 'top',labels = labelList,
   distance_sort ='descending',show_leaf_counts = True)
plt.show()
绘制树状图
现在,一旦形成大簇,就选择了最长的垂直距离。然后通过一条垂直线绘制一条线,如下图所示。当水平线与蓝线在两个点处相交时,簇的数量将为两个。
蓝线
接下来,我们需要导入用于聚类的类,并调用其fit_predict方法来预测聚类。我们正在导入 sklearn.cluster 库的 AgglomerativeClustering 类-
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
from sklearn.cluster import AgglomerativeClustering
cluster = AgglomerativeClustering(n_clusters = 2, affinity = 'euclidean', linkage = 'ward')
cluster.fit_predict(X)
接下来,在以下代码的帮助下绘制群集-
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
plt.scatter(X[:,0],X[:,1], c = cluster.labels_, cmap = 'rainbow')
 Sklearn群集
上图显示了来自我们数据点的两个群集。

示例2

正如我们从上面讨论的简单示例理解树状图的概念一样,让我们​​转到另一个示例,在该示例中,我们将使用分层聚类在Pima Indian Diabetes数据集中创建数据点的聚类。
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
import matplotlib.pyplot as plt
import pandas as pd
%matplotlib inline
import numpy as np
from pandas import read_csv
path = r"C:\pima-indians-diabetes.csv"
headernames = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class']
data = read_csv(path, names = headernames)
array = data.values
X = array[:,0:8]
Y = array[:,8]
data.shape
(768, 9)
data.head()
Preg Plas Pres 皮肤 测试 质量 Pedi 年龄
0 6 148 72 35 0 33.6 0.627 50 1
1 1 85 66 29 0 26.6 0.351 31 0
2 8 183 64 0 0 23.3 0.672 32 1
3 1 89 66 23 94 28.1 0.167 21 0
4 0 137 40 35 168 43.1 2.288 33 1
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
patient_data = data.iloc[:, 3:5].values
import scipy.cluster.hierarchy as shc
plt.figure(figsize = (10, 7))
plt.title("Patient Dendograms")
dend = shc.dendrogram(shc.linkage(data, method = 'ward'))
患者树状图
# Filename : example.py
# Copyright : 2020 By Lidihuo
# Author by : www.lidihuo.com
# Date : 2020-08-26
from sklearn.cluster import AgglomerativeClustering
cluster = AgglomerativeClustering(n_clusters = 4, affinity = 'euclidean', linkage = 'ward')
cluster.fit_predict(patient_data)
plt.figure(figsize = (10, 7))
plt.scatter(patient_data[:,0], patient_data[:,1], c = cluster.labels_, cmap = 'rainbow')
AgglomerativeClustering
昵称: 邮箱:
Copyright © 2022 立地货 All Rights Reserved.
备案号:京ICP备14037608号-4