深度进修下一阶段:神经架构自进修,带来优越的计较机视觉模子
综上所述,显然深度进修的下一阶段是让计较机本身计划架构。 搜刮CNN差异构建块的组合以构建更好的CNN模子 架构进修阶段 最近我们在Xnor.ai和Allen Institute for AI成立了一个名为Discovering Neural Wirings的新模子,用于直接从数据中自动进修神经收集架构。在该模子中,我们将神经收集配置为无束缚图而且放宽层的观念,使节点(譬喻图像的通道)可以或许互相形成独立的毗连。这会使得也许的收集空间会更大。在实习时代,该收集的搭建不牢靠——它既进修收集参数,也进修布局自己。收集布局可以包括图中的轮回,即形成了存储器布局的观念。所进修的架构具有高度稀少的特征,因此就算术运算而言它将是一个小得多却可以实现高精度的模子。 代码: https://github.com/allenai/dnw 虽然,相同于“特性进修”阶段,这个深度进修阶段必要在实习中举办大量的计较以处理赏罚大图而且必要大量的数据。我们坚信,跟着专门用于稀少图形计较的硬件的成长,自动发明最佳收集架构技能会越来越成熟,实现高度准确、高效计较的边沿AI模子指日可待。 神经架构进修的进程:从数据中发明完备神经图中神经元之间的最小毗连 链接: https://medium.com/xnor-ai/the-next-phase-of-deep-learning-neural-architecture-learning-automatic-discovering-of-neural-d08fc9a6065d
(编辑:湖南网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |