查看: 451|回复: 0

[经验分享] 发布一个python的分词模块

尚未签到

发表于 2017-4-30 08:46:01 | 显示全部楼层 |阅读模式

http://code.google.com/p/pychseg/

第一个版本实现了基于的MMSEG中文分词算法Python 实现。MMSEG实际上是一个正向最大匹配+多个规则的分词算法。链接给出的几个网站写的很清楚了。在开发过程中我增加了一个规则来处理原来的算法中有可能出现的冲突问题。当所有的规则都无法唯一的确定一个chunk时，优先选择后面比较长的词。开发过程中参照了MMSEG的Java实现和ruby实现。并且对性能进行了初步的优化。

目前的性能数据：在Pentium D 2.8G的CPU下处理2.9MB的文本数据，不开启pysco的情况下104s，开启pysco的情况下90s，能达到32KB/s。经测试速度能达到 Java版本MMSEG的1/3，未来如果要进一步优化速度的话应该是把关键的算法的实现移植到c语言中。

TODO:

* 实现NLTK兼容的接口
* C语言级别的优化
* 实现其他算法，目前考虑一个ICTCLAS的python实现，要看有没有时间
* 支持停用词，支持unicode的字母数字检测等

与分词有关的其他想法

* 研究一下ferret/cferret，能否实现一个python binding并且结合进去
* 与nlp/datamining的进一步结合

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-371009-1-1.html 上篇帖子： Installing python on maemo and Nokia N800 下篇帖子： Python当前的默认编码设置setdefaultencoding

使用道具举报