zoukankan      html  css  js  c++  java
  • 信息领域热词分析系统--python过滤

    利用python过滤去没用的词语,过滤的词语存储在停用文件中。

    #创建停用词表
    def stopwordlist():
        stopwords=[line.strip() for line in open ('F:大数据大作业分词后的文件stopWord.txt','r').readlines()]
        return stopwords
    
    f=open(r"F:大数据大作业分词后的文件data2_xinxi.txt",'r')
    s=f.read()
    #切割文件中的字符串
    zifuchuan=s.split("
    ");#按行分割
    i=0
    stopwords=stopwordlist()
    zifuchuan2=[]#过滤后的信息
    zifuchuan3=[]
    for ss in zifuchuan:
          zifu=ss.split(" ")
          print(":"+zifu[0])
          if zifu[0].isdigit()==False:
             if zifu[0] not in stopwords:
                zifuchuan2.append(ss)
                zifuchuan3.append(zifu[0])
    
    #写入文件
    f1=open("F:大数据大作业分词后的文件data3_xinxi.txt",'a+')
    for z in zifuchuan2:
        f1.write(z)
        f1.write("
    ")
    f1.close()
    f2=open("F:大数据大作业分词后的文件data4_xinxi.txt",'a+')
    for z1 in zifuchuan3:
        f2.write(z1)
        f2.write("
    ")
    f2.close()
    本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利.
  • 相关阅读:
    Outlook 邮件助手
    飞花令
    青蛙跳台阶
    如何提问,找到去说谎国的路
    如何计时一个小时十五分钟
    旋转数组的最小元素
    谁养鱼?
    小龙赚了多少?
    下一行是什么?
    5 = ?
  • 原文地址:https://www.cnblogs.com/wl2017/p/10294424.html
Copyright © 2011-2022 走看看