zoukankan      html  css  js  c++  java
  • python使用结巴分词(jieba)创建自己的词典/词库

    为什么需要在python使用结巴分词(jieba)创建自己的词典/词库,因为很多时候分词给我们的结果了能刚好相反,如:不回家变成了不,回家;从上一篇文章文章我们已经讲诉了python使用结巴中文分词以及训练自己的分词词典,基本的安装和基本使用大家直接去看那篇文章即可,我们主要介绍如何python创建自己的词典。

    一、创建分词字典

    1、准备词典

    创建一个dict.txt,然后写入你的分词,一个词占一行;每一行分三部分:词语、词频(可省略)、词性(可省略),用空格隔开,顺序不可颠倒。file_name 若为路径或二进制方式打开的文件,则文件必须为 UTF-8 编码。

    不处理 nr
    不还款
    中国银行
    根本打不开

    2、编写python代码

    在分词前通过jieba.load_userdict(file_name)来加载分词字典:

    #-*- coding:utf-8 -*-
    import jieba
    
    jieba.load_userdict("./dict.txt")
    word_list = jieba.cut("我今天不处理逾期信用贷款,因为你们中国银行的APP根本打不开")
    print("|".join(word_list))

    3、分词对比

    第一张,未添加字典

     第二张:添加了字典

    可以看出,我们更加明确了用户的意图,不处理我们识别为处理,这样的事情在识别意图的时候还是比较坑的!

    二、使用add_word和suggest_freq

    • 使用add_word(word, freq=None, tag=None)del_word(word)可在程序中动态修改词典。
    • 使用suggest_freq(segment, tune=True)可调节单个词语的词频,使其能(或不能)被分出来。

    实现代码:

    #-*- coding:utf-8 -*-
    import jieba
    
    jieba.suggest_freq('不处理',True)
    jieba.add_word('不处理',tag='d')
    jieba.add_word('中国银行APP',tag='d')
    word_list = jieba.cut("我今天不处理逾期信用贷款,因为你们中国银行APP根本打不开")
    print("|".join(word_list))

    实现的结果和上面的相同,所以不做过多的对比描述

    注意:
    add_word只是一次性的添加分词字典,不是直接将内容添加到结巴库中了;同时此方法的代码可能比较多,所以感觉没有方法一好

    https://ptorch.com/news/204.html

  • 相关阅读:
    怎样用OpenScales发布这些瓦片地图?
    mysql在linux下命令备份数据库
    jQuery EasyUI
    JQuery遮罩层登录
    C#通过线程完成定时执行事件
    JS中showModalDialog 详细使用
    sql时间函数
    asp网页设计流量统计代码
    Rational Rose、PowerDesign、visio的比较
    win环境下eclipse安装指引
  • 原文地址:https://www.cnblogs.com/yoyowin/p/12856964.html
Copyright © 2011-2022 走看看