zoukankan      html  css  js  c++  java
  • 。一个最大逆向匹配分词算法的例子

    原文链接地址:
    http://www.52nlp.cn/maximum-matching-method-of-chinese-word-segmentation/

            逆向匹配法思想与正向一样,只是从右向左切分,这里举一个例子:
       输入例句:S1=”计算语言学课程有意思” ;
       定义:最大词长MaxLen = 5;S2= ” “;分隔符 = “/”;
       假设存在词表:…,计算语言学,课程,意思,…;
       最大逆向匹配分词算法过程如下:
     (1)S2=””;S1不为空,从S1右边取出候选子串W=”课程有意思”;
     (2)查词表,W不在词表中,将W最左边一个字去掉,得到W=”程有意思”;
     (3)查词表,W不在词表中,将W最左边一个字去掉,得到W=”有意思”;
     (4)查词表,W不在词表中,将W最左边一个字去掉,得到W=”意思”
     (5)查词表,“意思”在词表中,将W加入到S2中,S2=” 意思/”,并将W从S1中去掉,此时S1=”计算语言学课程有”;
     (6)S1不为空,于是从S1左边取出候选子串W=”言学课程有”;
     (7)查词表,W不在词表中,将W最左边一个字去掉,得到W=”学课程有”;
     (8)查词表,W不在词表中,将W最左边一个字去掉,得到W=”课程有”;
     (9)查词表,W不在词表中,将W最左边一个字去掉,得到W=”程有”;
     (10)查词表,W不在词表中,将W最左边一个字去掉,得到W=”有”,这W是单字,将W加入到S2中,S2=“ /有 /意思”,并将W从S1中去掉,此时S1=”计算语言学课程”;
     (11)S1不为空,于是从S1左边取出候选子串W=”语言学课程”;
     (12)查词表,W不在词表中,将W最左边一个字去掉,得到W=”言学课程”;
     (13)查词表,W不在词表中,将W最左边一个字去掉,得到W=”学课程”;
     (14)查词表,W不在词表中,将W最左边一个字去掉,得到W=”课程”;
     (15)查词表,“意思”在词表中,将W加入到S2中,S2=“ 课程/ 有/ 意思/”,并将W从S1中去掉,此时S1=”计算语言学”;
     (16)S1不为空,于是从S1左边取出候选子串W=”计算语言学”;
     (17)查词表,“计算语言学”在词表中,将W加入到S2中,S2=“计算语言学/ 课程/ 有/ 意思/”,并将W从S1中去掉,此时S1=””;
     (18)S1为空,输出S2作为分词结果,分词过程结束。

  • 相关阅读:
    ISCC 2018——write up
    图的存储结构(十字链表、邻接多重表、边集数组)
    图的存储结构
    树梅派(Raspberry Pi 3b)安装kali linux 2.0
    树梅派3B kali2.0 启用SSH进行远程登录
    VS+VAssistX自动添加注释
    libtiff库使用
    word采用尾注进行参考文献排版的一些问题
    vs2008安装opencv2.4.6
    Altera CYCLONE III FPGA BGA布线
  • 原文地址:https://www.cnblogs.com/CheeseZH/p/3951213.html
Copyright © 2011-2022 走看看