60年技术简史，带你读懂AI的前世今生

天然说话和持续的语音与图像差异，它是人类缔造的离散抽象的标记体系。传统的特性暗示都是离散的稀少的暗示要领，其泛化手段都很差。好比实习数据中呈现了许多”北京气候”，可是没有怎么呈现”上海气候”，那么它在分类的时辰猜测的分数会相差很大。可是”北京”和”上海”很也许常常在相似的上下文呈现，这种暗示要领无法操作这样的信息。

在2003年到时辰，Bengio在论文《A Neural Probabilistic Language Model》就提出了神经收集的说话模子，通过Embedding矩阵把一个词编码成一个低维浓密的向量，这样实现相似上下文的共享——好比”北京”和”上海”常常在相似的上下文呈现，则它们会被编码成较量相似的向量，这样纵然”上海气候”在实习数据中不怎么呈现，也能通过”北京气候”给以其较大的概率。

不外2003年的时辰各人并不怎么存眷神经收集，因此这篇文章其时并没有太多后续的事变。到了2012年之后，深度神经收集在计较机视觉和语音辨认等规模取得了重大的盼望，把它应用到天然说话处理赏罚规模也长短常天然的工作。可是这个时辰面对一个题目——没有大量有监视的标注数据。这着实也是前面提到的天然说话处理赏罚是很”错乱”的有关。

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!