预训练语言模型-神经网络语言模型:LSTMLM Rogerspy 2021-03-31 语言模型 字数统计: 3.5k字 | 阅读时长≈ 13分 1. 简介Mikolov 等人提出的 RNN 语言模型解决了前馈神经网络语言模型的语序问题。但是由于 RNN 神经网络本身存在着长程依赖问题,导致 RNN 语言模型很难学到距离较远的信息。 阅读全文 NLP LSTMLM