阿里、浙大联合推出迁移学习模型「DEPARA」入选CVPR 2020:可将单个AI模型训练从“月”缩短至“天”
克日,浙江大学与阿里安详的研究员连系编写的论文《DEPARA: Deep Attribution Graph for Deep Knowledge Transferability》收录至CVPR 2020 Oral。个中先容了一种通过迁徙进修法,高效打造AI深度模子、应对海量应用场景的 “AI实习师助手”。 旨在让AI实习模子面临新场景时不消从新进修,而是在已有模子长举办迁徙,从而敏捷得到沟通手段的AI模子,进而收缩模子实习周期,乃至是从一个月收缩为一天。 据阿里安详图灵尝试室高级算法专家析策先容,譬喻在内容考核规模,差异场景的AI模子必要从头实习,以确保辨认精确率而捐躯掉了时刻本钱。这些预实习的深度模子已耗损了大量实习时刻以及大局限高质量的标注数据等昂贵的计较资源。 DEPARA沿着这条思绪,以晋升预实习的模子的行使水平,镌汰针对新场景的模子实习对时刻以及数据的依靠。今朝实现这一方针最风行的要领是迁徙进修。 浙江大学和阿里安详发明,两个预实习深度模子所提取的特性之间的迁徙手段可由它们对应的深度归因图谱之间的相似性来权衡。相似水平越高,从差异的预实习深度模子中得到的特性相干性就越大,特性的彼此迁徙手段也就越强。并且,“AI实习师助手”还知道从什么模子迁徙常识,用模子的哪个部门迁徙能最好地完成使命。也就是说,他们发明白让小白模子向AI深度模子进修的高效进修要领。 “在这种要领的指导下,单个AI模子的出产周期从1个月降到1天,我们就能更快地发明差异的内容风险。”析策评论到。 (编辑:湖南网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |