Stars: 590
Forks: 110
Pull Requests: 5
Issues: 9
Watchers: 25
Last Updated: 2020-12-30 01:54:26
一个纯php分词
License: Apache License 2.0
Languages: PHP
QQ交流群: 731475644
composer require lizhichao/word
getWord
长度优先切分 。最快getShortWord
细粒度切分。比最快慢一点点getAutoWord
自动切分 。效果最好json
和二级制格式igb
二进制格式词典小,加载快dict.igb
含有175662个词,欢迎大家补充词语到 dict.txt
,格式(词语 \t idf \t 词性)
Math.log(100000001/结果数量)
,如果你有更好的方法欢迎补充。$fc = new VicWord();
$arr = $fc->getWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
//北京大学|生喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒
//$arr 是一个数组 每个单元的结构[词语,词语位置,词性,这个词语是否包含在词典中] 这里只值列出了词语
$arr = $fc->getShortWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
//北京|大学|生喝|进口|红酒|,|在|北京|大学|生活|区喝|进口|红酒
$arr = $fc->getAutoWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
//北京|大学生|喝|进口|红酒|,|在|北京大学|生活区|喝|进口|红酒
//对比
//qq的分词 http://nlp.qq.com/semantic.cgi#page2
//百度的分词 http://ai.baidu.com/tech/nlp/lexical
机器阿里云 Intel(R) Xeon(R) Platinum 8163 CPU @ 2.50GHz
getWord
每秒140w字
getShortWord
每秒138w字
getAutoWord
每秒40w字
测试文本在百度百科拷贝的一段5000字的文本
只有一个方法 VicDict->add(词语,词性 = null)
require __DIR__.'/Lib/VicDict.php';
//目前可支持 igb 和 json 两种词典库格式;igb需要安装igbinary扩展,igb文件小,加载快
$path = ''; //词典地址
$dict = new VicDict($path);
//添加词语词库 add(词语,词性) 不分语言,可以是utf-8编码的任何字符
$dict->add('中国','n');
//保存词库
$dict->save();