加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 建站 > 正文

开源图神经收集框架DGL进级:GCMC实习时刻从1天缩到1小时

发布时间:2019-10-18 21:01:11 所属栏目:建站 来源:乾明
导读:本文经AI新媒体量子位(公家号ID:QbitAI)授权转载,转载请接洽出处。 又一个AI框架迎来进级。 这次,是纽约大学、亚马逊联手推出图神经收集框架DGL。 不只全面上线了对异构图的支持,复现并开源了相干异构图神经收集的代码,在GCMC、RCGN等业内知名的模子

本文经AI新媒体量子位(公家号ID:QbitAI)授权转载,转载请接洽出处。

又一个AI框架迎来进级。

这次,是纽约大学、亚马逊联手推出图神经收集框架DGL。

开源图神经收集框架DGL进级:GCMC实习时刻从1天缩到1小时

不只全面上线了对异构图的支持,复现并开源了相干异构图神经收集的代码,在GCMC、RCGN等业内知名的模子实现上,取得更好结果。

还宣布了实习常识图谱嵌入(Knowledge Graph Embedding)专用包DGL-KE,在很多经典的图嵌入模子上都得到了机能晋升。

今朝,这个在2018年NeurIPS大会上宣布的框架,已经得到了3000+标星,已经是图神经收集和图呆板进修规模较受存眷的器材。

异构图:神经收集的新偏向

异构图是一个与同构图相对应的新观念。

传统同构图(Homogeneous Graph)数据中只存在一种节点和边,因此在构建图神经收集时全部节点共享同样的模子参数而且拥有同样维度的特性空间。

而异构图(Heterogeneous Graph)中可以存在不但一种节点和边,因此应承差异范例的节点拥有差异维度的特性或属性。

这一特点使得异构图的应用异常普及,假如用图来描写我们和周围事物的相关就会发明所发生的图都是自然异构的,好比这个例子:

我本日看了影戏《流离地球》,那“我”作为观众和影戏《流离地球》之间就成立了“看了”这一相关。

异构图可以用来描写这种交互相关的荟萃。这个图分“观众”和“影戏”两类节点,以及“看了”这一类边。

“我”作为观众,和影戏所具有的属性必然是差异的,必要用差异的模子可能差异的特性维度来表达。

以是说,这张图就自然具有了异构性。并且,基于异构图实习的神经收集与传统要领对比,在一些场景中,也可以或许得到更好的结果与示意。

此刻已经被应用到了常识图谱、保举体系以及恶意账户辨认等规模以及使命中。

开源图神经收集框架DGL进级:GCMC实习时刻从1天缩到1小时

个中较量有代表性的两个模子别离是用于节点分类和链接猜测等使命的RGCN和用于产物保举的GCMC。

但怎样计划“既快又好”的深度神经收集?

这正是纽约大学、亚马逊联手推出图神经收集框架DGL的起点。

新版DGL:异构图神经收集利器

这次更新放出的,是DGL 0.4版本,让整个框架变得越发适用。

不只全面上线对付异构图的支持,还复现并开源了相干异构图神经收集的代码:

开源图神经收集框架DGL进级:GCMC实习时刻从1天缩到1小时

△DGL 0.4中基于异构图的RGCN层实当代码

官方暗示,在这一新版本的DGL上实现业内较量突出的异构图神经收集,机能上也有更好的示意:

GCMC:DGL的实现对比原作者实此刻MovieLens-100K上有5倍加快,在MovieLens-1M上有22倍加快。DGL的内存优化支持在一块GPU上对MovieLens-10M举办实习(原实现必要从CPU动态加载数据),从而将本来必要24小时的实习时刻收缩到了1个多小时。

RGCN:行使全新的异构图接口从头实现了RGCN。新的实现大大镌汰了内存开销。原实此刻AM数据集上(边数>5M)因为内存开销太大,只能在CPU上计较,而DGL能行使GPU举办加快并得到了291倍的速率晋升。

HAN:提供了机动的接口可以将一个异构图通过元路径(metapath)转酿成同构图。

Metapath2vec:新的元路径采样实现比原作者的实现快两倍。

并且, DGL也宣布了针对分子化学的模子库DGL-Chem,以及实习常识图谱嵌入(Knowledge Graph Embedding)专用包DGL-KE。DGL-Chem提供了包罗分子性子猜测和分子布局天生等预实习模子。

在单GPU上,DGL-KE能在7分钟内行使经典的TransE模子实习出FB15K的图嵌入。对比GraphVite(v0.1.0)在4块GPU上必要14分钟。

DGL-KE首个版本宣布了TransE、ComplEx和Distmult模子,支持CPU实习、GPU实习、CPU和GPU殽杂实习以及单机多历程实习。

DGL团队暗示,在将来也会宣布更多模子和实习方法。

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    热点阅读