在文本分类中，基于Word2Vec词向量的文本表示忽略了词语区分文本的能力，设计了一种用TF-IDF加权词向量的卷积神经网络（CNN）文本分类方法.新闻文本分类，一般只考虑正文，忽略标题的重要性，改进了TF-IDF计算方法，兼顾了新闻标题和正文.实验表明，基于加权词向量和CNN的新闻文本分类方法比逻辑回归分类效果有较大提高，比不加权方法也有一定的提高.

连续词袋（CBOW） NLP中使用深度学习经常使用连续词袋（CBOW）和Skip-gram模型。 给定目标词之前和之后的上下文词范围N，它会尝试预测当前（目标）词。 此代码是PyTorch教程在以下链接的Word Embeddings的“获取密集的词嵌入”中给出的练习的实现： https://pytorch.org/tutorials/beginner/nlp/word_embeddings_tutorial.html#getting-dense-word-embeddings 参考 有关单词嵌入的进一步研究，请阅读以下文章： 向量空间中单词表示的有效估计 word2vec解释：推导Mikolov等人的负采样词嵌入方法 单词和短语的分布式表示形式及其组成

word2vec中的数学原理详解，pdf高清版，学习Word2Vec最好的材料，Word2Vec看这个就够了。

word2vec Skip-Gram模型的简单实现 包括预料库 从维基百科提取出来的 。代码是python3的，可以直接运行。

用python动手简易复现了下word2vec中的skip-gram方法，并将嵌入的特征向量与TF-IDF特征和gensim提供的word2vec方法进行了简易对比。 具体内容可参考个人博客。

Word2Vec Tutorial - The Skip-Gram Model · Chris McCormick.pdf