基于笔画中文字向量模型设计与研究

摘要

中文汉字在横向、纵向展开具有二维的复杂结构.现有的中文词向量研究大都止步于汉字字符,没有利用中文笔画序列生成字向量,且受限于统计模型本质,无法为低频、未登录字词生成高质量向量表示.为此,该文提出了一种依靠中文笔画序列生成字向量的模型Stroke2Vec,扩展Word2Vec模型CBOW结构,使用卷积神经网络替换上下文信息矩阵、词向量矩阵,引入注意力机制,旨在模拟笔画构造汉字的规律,通过笔画直接生成字向量.将Stroke2Vec模型与Word2Vec、GloVe模型在命名实体识别任务上进行评测对比.实验结果显示,Stroke2Vec模型F1值达到81.49％,优于Word2Vec 1.21％,略优于GloVe模型0.21％,而Stroke2Vec产生的字向量结合Word2Vec模型结果,在NER上F1值为81.55％.