融合self-attention機(jī)制的卷積神經(jīng)網(wǎng)絡(luò)文本分類模型
摘要:傳統(tǒng)的文本分類算法采用詞向量表示文本,忽視了上下文語境中詞義的變化.本文通過引入self-attention機(jī)制處理詞向量,提出一種卷積神經(jīng)網(wǎng)絡(luò)模型與關(guān)鍵詞提取技術(shù)相結(jié)合的文本分類模型.該模型對(duì)文檔進(jìn)行self-attention操作,以抽取關(guān)鍵信息,構(gòu)建文檔特征圖,根據(jù)卷積神經(jīng)網(wǎng)絡(luò)模型和關(guān)鍵詞提取技術(shù)實(shí)現(xiàn)特征向量的分類.在真實(shí)數(shù)據(jù)集上進(jìn)行性能分析,并與循環(huán)神經(jīng)網(wǎng)絡(luò)模型、長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)模型進(jìn)行比較,結(jié)果表明該分類模型有效地提高了分類的準(zhǔn)確性.
注: 保護(hù)知識(shí)產(chǎn)權(quán),如需閱讀全文請(qǐng)聯(lián)系小型微型計(jì)算機(jī)系統(tǒng)雜志社