全単語間共起を考慮した概念ベース生成手法

摘要

単語の意味表現としての概念ベクトルの生成方式として，各単語にランダムでかつユニークな番号集合を振り，単語·番号間共起行列をとることにより，全単語間の共起を考慮できる方式を提案する．提案方式は，全単語間共起の情報を含みながら，概念ベクトル生成及び使用におけるメモリ使用量が増えることはないという特徴をもつ．また，こうして生成した単語概念ベクトルをクラスタリングし，その結果できたクラスタの番号を各単語に振り，単語·クラスタ間共起行列をとって，単語·番号間共起行列と結合させる方式も提案する．これらの方式により生成した概念ベクトルを使用して，各種言語処理の精度を測定したところ，従来の概念ベクトル生成方式で生成した概念ベクトルを使用するよりも精度が向上することを確認した．