8种优越预实习模子大盘货,NLP应用so easy!
发布时间:2019-04-01 20:06:12 所属栏目:建站 来源:大数据文摘
导读:大数据文摘出品 编译:李雷、蔡婕 现在,天然说话处理赏罚(NLP)可谓各处着花,可以嗣魅正是我们相识它的好机缘。 NLP的快速增添首要得益于通过预实习模子实现转移进修的观念。在NLP中,转移进修本质上是指在一个数据集上实习模子,然后调解该模子以便在差异数据
ELMo是一种用向量和嵌入暗示单词的新要领。这些ELMo 词嵌入(word embedding)辅佐我们在多个NLP使命上实现最先辈的功效,如下图所示: 让我们花点时刻来相识一下ELMo是怎样事变的。追念一下我们之前接头过的双向说话模子。从这篇文章中我们可以或许获得提醒,“ELMo单词向量是在双层双向说话模子(biLM)的基本长举办计较的。这个biLM模子有两层叠加在一路,每一层都有2个通道——前向通道和后向通道: ELMo单词暗示思量计较词嵌入(word embedding)的完备输入语句。因此,“read”这单词在差异的上下文中具有差异的ELMo向量。这与旧版的词嵌入(word embedding)大不沟通,旧版中无论在什么样的上下文中行使单词“read”,分派给该单词的向量是沟通的。 (编辑:湖南网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |