AutoML新进展：用进化算法发现神经网络架构

　　另外，演变对数据集或搜刮空间的变革具有鲁棒性。总的来说，这种比较较量的方针是为研究界提供计较昂贵的尝试功效。在这样做的进程中，我们但愿通过提供差异搜刮算法之间相关的案例研究来促进每小我私人的架构搜刮。譬喻，上图表现，行使更少的浮点运算时，通过进化获取的最终模子可以到达很是高的精度。

　　我们在第二篇论文中行使的进化算法的一个重要特性是正则化的情势：不是让最坏的神经收集死掉，而是删除最老的一个，无论它们有多好。这改进了正在优化的使命变革的鲁棒性，并最终趋于发生更精确的收集。个中一个缘故起因也许是由于我们不应承权重担任，全部的收集都必需从新开始实习。因此，这种正则化情势选择在从头实习时如故保持精采的收集。换句话说，由于一个模子也许会更精确一些，实习进程中的噪声意味着纵然是沟通的系统布局也也许会获得差异的精确度值。只有在几代中保持精确的系统布局才气恒久存活，从而选择从头实习精采的收集。篇意料的更多细节可以在论文中找到。

　　我们成长的最先辈的模子被定名为AmoebaNets，是我们AutoML全力的最新成就之一。全部这些尝试通过行使几百个的GPU/TPU举办了大量的计较。就像一台当代计较机可以赛过数千年前的呆板一样，我们但愿未来这些尝试能成为家用。这里我们旨在提供对将来的一愿。

　　原文地点：

　　https://research.googleblog.com/2018/03/using-evolutionary-automl-to-discover.html

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!