jcseg 1.7.2版发布了:
1。去除了英文无用标点的切分。
2。新加入字母和标点组合词的识别,例如:c++, g++, c#等等。
(为此jcseg新加入了一个词库 lex-en-pun.lex,专门用于存放该类词条。)
3。加入中文数字单字单位的识别,例如:五折,十年……,并且jcseg会自动将其转换成阿拉伯数字和单位的组合加入到分词结果中,例如上述会转换为:5折,10年 。
4。为了统一和方便,将英文的切分结果全部转换了为小写,并且lex-mixed.lex中英混合词中的英文字母全部变成了小写,并且优化了英文识别代码。
各位哥们要是发现了什么问题,或者有本软件相关的建议,请不吝赐教,欢迎大家交流学习。
详细了解jcseg:
下载jcseg: