zoukankan      html  css  js  c++  java
  • 中文词频统计

    作业要求来自: https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773

    中文词频统计

    1. 下载一长篇中文小说。

    《倚天屠龙记》

    2. 从文件读取待分析文本。

    3. 安装并使用jieba进行中文分词。

    pip install jieba

    import jieba

    ljieba.lcut(text)

    4. 更新词库,加入所分析对象的专业词汇。

    jieba.add_word('天罡北斗阵')  #逐个添加

    jieba.load_userdict(word_dict)  #词库文本文件

    5. 生成词频统计

    6. 排序

    7. 排除语法型词汇,代词、冠词、连词

    8. 输出词频最大TOP20,把结果存放到文件里

    9. 生成词云。

    代码如下:

    from wordcloud
    import WordCloudimport matplotlib.pyplot as plt
    import jieba


    article = open('yt.txt',encoding='UTF-8').read()
    dele = {'。','!','?','的','“','”','(',')',' ','》','《',','}
    jieba.add_word('张无忌')
    words = list(jieba.cut(article))
    articleDict = {}
    articleSet = set(words)-dele
    for w in articleSet:
    if len(w)>1:
    articleDict[w] = words.count(w)

    articlelist = sorted(articleDict.items(),key = lambda x:x[1], reverse = True)

    cut_text = " ".join(words)
    'print(cut_text)'

    mywc = WordCloud().generate(cut_text)
    plt.imshow(mywc)plt.axis("off")
    plt.show()
    '''
    for i in range(20):
    print(articlelist[i])
    import pandas as pd
    pd.DataFrame(data=articlelist).to_csv('test.csv',encoding='UTF-8')


    运行结果:

    词云:

    
    
  • 相关阅读:
    2017寒假练习赛总结(实时更新)
    NOIP
    挖坑--总结
    BZOJ3709: [PA2014]Bohater
    BZOJ3714: [PA2014]Kuglarz
    BZOJ2276: [Poi2011]Temperature
    VIJOS P1543极值问题
    BZOJ2749: [HAOI2012]外星人
    BZOJ2173: 整数的lqp拆分
    BZOJ1100: [POI2007]对称轴osi
  • 原文地址:https://www.cnblogs.com/timchan/p/10553673.html
Copyright © 2011-2022 走看看