利用GBK编码实现的分词程序，可读性不错。

西方语言在语句（或从句）内词汇之间存在分割符（空格），而汉语的词汇在语句中是连续排列的。因此，汉语词汇的切分（分词）在中文信息处理的许多应用领域，如机器翻译、文献检索、文献分类、文献过滤、以及词频统计等，是非常重要的第一步。 自动分词是基于字符串匹配的原理进行的。迄今为止，已经有许多文献对各种分词方法进行探讨，其着重点或为分词的速度方面，或为分词的精度方面以及分词的规范。本文主要探讨分词的速度问题，通过实验对比和理论分析，说明我们所提出的算法是有效的。 目前人们所提出的分词方法，在考虑效率问题时，通常在词典的组织方面进行某种调整，以适应相应的算法，如最大匹配法、最小匹配法、逐词遍历法、以及最佳匹配法等。这些方法中，或将词典按词条长度排序或按词频排序，其目的在于协调算法与数据结构，使之效率最高。客观地说，它们都在一定程度上提高了分词的效率。 本文所介绍的是基于词典的最大向前匹配方法。而在数据结构方面，我们则是将词典组织成自动机形式。

ngramScore适应度计算文件(包含引入的计算代码和分词)，python支持的适应度计算导入文件

个人从word文件提取制作而成，已经做好了清洗与排序，可以直接用jieba.load_userdict()使用。

HanLP是一系列模型与算法组成的NLP工具包，由大快搜索主导并完全开源，目标是普及自然语言处理在生产环境中的应用.HanLP具备功能完善，性能高效，架构清晰，语料时新，可自定义的特点。 HanLP提供下列功能： 中文分词 HMM-两字组（速度与精度最佳平衡;一百兆内存） 最短路分词，N-最短路分词 由字构词（侧重精度，全世界最大语料库，可识别新词;适合NLP任务） 感知机分词，CRF分词 词典分词（侧重速度，每秒数千万字符;省内存） 极速词典分词 所有分词器都支持： 索引全切分模式 用户自定义词典 兼容繁体中文 训练用户自己的领域模型 词性标注 HMM词性标注（速度快） 感知机词性标注，CRF词性标注（精度高） 命名实体识别 基于HMM角色标注的命名实体识别（速度快） 中国人名识别，音译人名识别，日本人名识别，地名识别，实体机构名识别 基于线性模型的命名实体识别（精度高） 感知机命名实体识别，CRF命名实体识别 关键词提取 TextRank关键词提取 自动摘要 TextRank自动摘要 短语提取 基于互信息和左右信息熵的短语提取 拼音转换 多音字，声母，韵母，声调 简繁转换 简繁分歧词（简体，繁体，台湾正体，香港繁体） 文本推荐 语义推荐，拼音推荐，字词推荐 依存句法分析 基于神经网络的高性能依存句法分析器 基于ArcEager转移系统的柱搜索依存句法分析器 文本分类 情感分析 文本聚类 KMeans，Repeated Bisection，自动推断聚类数目k word2vec 词向量训练，加载，词语相似度计算，语义运算，查询，KMEANS聚类 文档语义相似度计算 语料库工具 部分默认模型训练自小型语料库，鼓励用户自行训练。模块所有提供训练接口，语料可参考98年人民日报语料库。 在提供丰富功能的同时，HanLP内部模块坚持低耦合，模型坚持惰性加载，服务坚持静态提供，词典坚持明文发布，使用非常方便。默认模型训练自全世界最大规模的中文语料库，同时自带一些语料处理工具，帮助用户训练自己的模型。

IKAnalyzer是一个开源的，基于java语言开发的轻量级的中文分词工具包。 采用了特有的“正向迭代最细粒度切分算法”，具有60万字/秒的高速处理能力。 采用了多子处理器分析模式，支持：英文字母（IP地址、Email、URL）、数字（日期，常用中文数量词，罗马数字，科学计数法），中文词汇（姓名、地名处理）等分词处理。

IKAnalyzer2012.jar 中文分词包

这份代码是我们专业的一个实验，内容包含了文本分词和文本分类。分别使用了正向最大匹配算法和KNN算法。分词速度平均153295词/秒，189100字符/秒。文本分类使用tf-idf计算单词权重进行特征选择，我测试时选择前100个特征词，根据k的不同取值，分类的准确度平均为75%。

运用正向最大匹配算法进行分析，同时也实现了逆向最大匹配，内有分词词典。

IKAnalyzer全量包，分词效率高，准确，建议使用。