小編給大家分享一下如何使用python實現(xiàn)k-means聚類算法,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
創(chuàng)新互聯(lián)公司于2013年創(chuàng)立,是專業(yè)互聯(lián)網(wǎng)技術(shù)服務(wù)公司,擁有項目成都網(wǎng)站制作、成都網(wǎng)站建設(shè)、外貿(mào)營銷網(wǎng)站建設(shè)網(wǎng)站策劃,項目實施與項目整合能力。我們以讓每一個夢想脫穎而出為使命,1280元綏芬河做網(wǎng)站,已為上家服務(wù),為綏芬河各地企業(yè)和個人服務(wù),聯(lián)系電話:18980820575k-means聚類算法
k-means是發(fā)現(xiàn)給定數(shù)據(jù)集的k個簇的算法,也就是將數(shù)據(jù)集聚合為k類的算法。
算法過程如下:
1)從N個文檔隨機選取K個文檔作為質(zhì)心
2)對剩余的每個文檔測量其到每個質(zhì)心的距離,并把它歸到最近的質(zhì)心的類,我們一般取歐幾里得距離
3)重新計算已經(jīng)得到的各個類的質(zhì)心
4)迭代步驟(2)、(3)直至新的質(zhì)心與原質(zhì)心相等或迭代次數(shù)大于指定閾值,算法結(jié)束
算法實現(xiàn)
隨機初始化k個質(zhì)心,用dict保存質(zhì)心的值以及被聚類到該簇中的所有data。
def initCent(dataSet , k): N = shape(dataSet)[1] cents = {} randIndex=[] #隨機生成k個不重復(fù)的索引 for i in range(k): rand = random.randint(0,N) while rand in randIndex: rand = random.randint(0, N) randIndex.append(rand) #按索引取dataSet中的data作為質(zhì)心 for i in range(k): templist = [] templist.append(dataSet[randIndex[i]]) templist.append([dataSet[randIndex[i]]]) cents[i] = templist return cents
對dataSet中的所有數(shù)據(jù)進行一次聚類。返回值cents為dict類型的數(shù)據(jù),int類型的key,list類型的value。其中cents[i][0]為質(zhì)心位置,cents[i][1]為存儲該簇中所有data的列表。
#計算兩個向量的歐氏距離 def calDist(X1 , X2): sum = 0 for x1 , x2 in zip(X1 , X2): sum += (x1 - x2) ** 2 return sum ** 0.5 #聚類 def doKmeans(dataSet , k , cents): #清空上一次迭代后的簇中元素,只記錄質(zhì)心 for i in range(k): cents[i][1] = [] for data in dataSet: no = 0#初始化簇標號 minDist = sys.maxint#初始化data與k個質(zhì)心的最短距離 for i in range(k): dist = calDist(data , cents[i][0]) if dist < minDist: minDist = dist no = i #找到距離最近的質(zhì)心 cents[no][1].append(data) #更新質(zhì)心 for i in range(k): for j in range(shape(dataSet)[0]): cents[i][0] = mean(cents[i][1],axis=0).tolist() return cents
k-means主方法
#判斷兩次聚類的結(jié)果是否相同 def isEqual(old , new): for i in range(len(old)): if(old[i] != new[i][0]): return 0 return 1 #主方法 def kmeans_main(dataSet,k): cents = initCent(dataSet, k) for x in range(1000): oldcents = [] #拷貝上一次迭代的結(jié)果 for i in cents.keys(): oldcents.append(cents[i][0]) newcents = doKmeans(dataSet, k , cents) #若相鄰兩次迭代結(jié)果相同,算法結(jié)束 if isEqual(oldcents , newcents)>0: break cents = newcents return cents
結(jié)果測試
數(shù)據(jù)集(虛構(gòu))
2 3 2.54
2 1 0.72
3 5 3.66
4 3 1.71
3.11 5.29 4.13
4.15 2 3.1
3.12 3.33 3.72
1.49 5 2.6
3 5 2.88
3.9 1.78 2.56
-2 3 5
3 1 0.4
-2 1 2.2
-3 0 1.7
-4 1 2
8 -1 0
2 3.2 7.1
1 3 5
2 4 3
0.1 2 5.4
2 0 5.54
2 1 1.72
3 5 2.66
1 8 1.71
5.11 1.29 4.13
7.15 2 7.1
1.12 5.33 4.72
6.49 4 3.6
4 8 6.88
1.9 5.78 6.56
-2 -3 2.5
1 -1 2.4
-2 1 3.2
-1 0 5.7
-2 3 2
1 -1 4
3 4.2 6.1
5 2 5
3 5.7 13
0.9 2.9 1.4
畫圖方法
def draw(cents): color = [ 'y', 'g', 'b'] X = [] Y = [] Z = [] fig = plt.figure() ax = Axes3D(fig) for i in cents.keys(): X.append(cents[i][0][0]) Y.append(cents[i][0][1]) Z.append(cents[i][0][2]) ax.scatter(X, Y, Z,alpha=0.4,marker='o',color='r', label=str(i)) for i in cents.keys(): X = [] Y = [] Z = [] data = cents[i][1] for vec in data: X.append(vec[0]) Y.append(vec[1]) Z.append(vec[2]) ax.scatter(X, Y, Z, alpha=0.4,marker='o', color=color[i], label=str(i),) plt.show()
測試及結(jié)果展示(紅點表示質(zhì)心)
dataSet = loadDataSet("dataSet.txt") cents = kmeans_main(dataSet , 3) draw(cents)
以上是“如何使用python實現(xiàn)k-means聚類算法”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學習更多知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!
網(wǎng)站標題:如何使用python實現(xiàn)k-means聚類算法-創(chuàng)新互聯(lián)
鏈接URL:http://muchs.cn/article8/cdsjip.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供移動網(wǎng)站建設(shè)、企業(yè)建站、網(wǎng)站改版、網(wǎng)站策劃、微信小程序、做網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容