#和上一篇基本一样,只是聚类对象不同
##连接数据库,将数据库中的文件读取出来
#加载包
library(RMySQL)
#建立连接
conn <- dbConnect(dbDriver("MySQL"), dbname = "eswp", user="root", password="root")
#读取 表2008yearnew
text = dbReadTable(conn, "2008yearnew")[,2:2]#只读取mesh词的那一列,通过前面的第一个下标修改读取的行数
#加载tm包
library(tm)
#建立语料库
corpus=Corpus(VectorSource(text))
#从语料库建立词-文档矩阵,用tf-idf来表示,stopwords = stopwords("mesh")表示使用mesh停用词表,停用词表放在tm包中的stopwords文件夹中
tdm = TermDocumentMatrix(corpus,control = list(stopwords=stopwords("mesh"), weighting = weightTfIdf))
#用夹角余弦计算词之间相似度,这种方法在R中好像不能计算词之间的cosine,只能计算文档之间的夹角,因此需要使用别的方法,即计算距离而不是相似度
#dist_tdm <- dissimilarity(tdm, method = 'cosine')
#R中计算距离的方法有euclidean,maximum,manhattan,canberra,minkowski,binary等,在这里使用euclidean距离,即欧氏距离
dist_tdm <- dist(tdm, method = 'euclidean')
#根据相似度进行层次聚类,距离使用average即类平均法距离,可以使用的其他距离有,single,complete,median,mcquitty,average,centroid,ward等
hc <- hclust(dist_tdm, method = 'ave')
#聚类图
plot(hc)
#如果类数目较多,则会重合看不清楚,使用下列方法画出大像素图形
png("test.png",width=3000,height=3000) #将输出设备改为png,像素尽可能的大,但是如果改的过大容易出现问题。
#cex为标签的大小,同时,可以使用cex.axis属性来改变坐标系上数字的大小,使用cex.lab改变下面矩阵名字的大小
#使用cex.main改变上方标题的大小,使用cex.sub改变下方聚类方法名称的大小,lwd是图形中线的宽度,此时图形将会在工作目录中看到
plot(hc,cex=2,cex.axis=3,cex.lab=3,cex.main=3,cex.sub=3,lwd=1.5)
dev.off()
#使用cutree函数查看聚类结果,k=3表示将结果分成三类,这种方法分成的类第一类永远很多,除非你的分类特别多,我的600个词,分成400类才能看出点东西。
ct = cutree(hc,k=3)
#使用h参数进行分类,这种方式可以看着图形进行分类,设定参数
ct1 = cutree(hc,h=0.5)#还需要继续进行测试
#对聚类结果进行数量统计,得到每个类中term的数量
table(ct)
#查看第一类中的term
ct1 <- ct[ct==1];ct1