加入收藏 | 设为首页 | 会员中心 | 我要投稿 湖南网 (https://www.hunanwang.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 建站 > 正文

你用什么要领调试深度神经收集?这里有四种简朴的方法哦

发布时间:2019-04-02 10:42:35 所属栏目:建站 来源:机器之心编译
导读:当你花了几个礼拜构建一个数据集、编码一个神经收集并实习好了模子,然后发明功效并不抱负,接下来你会怎么做? 深度进修凡是被视为一个黑盒子,我并不阻挡这种概念可是你能讲清晰学到的上万参数的意义吗? 可是黑盒子的概念为呆板进修从颐魅者指出了一个明明

在上面的代码中,我们在均匀池化之前,在中点时刻步长 2048 处计较了输出。我们之以是行使中点而不是最后的时刻步长的缘故起因是,我们的 LSTM 单位是双向的,这意味着对一半的单位来说,4095 现实上是第一个时刻步长。我们将获得的梯度举办了可视化:

Δoutput_2048 / Δinput_t

请留意我们的 y 轴是 log 标准的。在时刻步长 2048 处,与输入对应的输出梯度是 0.001。可是在时刻步长 2500 处,对应的梯度小了一百万倍!通过梯度说明,我们发明这个架构无法捕获恒久依靠。

四、说明模子猜测

你也许已经通过调查像 AUROC 僻静均绝对偏差这样的指标说明白模子猜测。你还可以用更多的说明来领略模子的举动。

譬喻,我们好奇 DNN 是否真的专心率输入来天生猜测,可能说它的进修是不是严峻依靠于所提供的元数据——我们用性别、年数这样的用户元数据来初始化 LSTM 的状态。为了领略这个,我们将模子与在元数据上实习的 logistic 回归模子做了比拟。

DNN 模子吸取了一周的用户数据,以是在下面的散点图中,每个点代表的是一个用户周。

这幅图验证了我们的意料,由于猜测功效并不是高度相干的。

除了举办汇总说明,查察最好和最坏的样本也是很有开导性的。对一个二分类使命而言,你必要查察最令人震惊的假阳性和假阴性(也就是猜测间隔标签最远的环境)。实行辨别丧失模式,然后过滤掉在你的真阳性和真阴性中呈现的这种模式。

一旦你对丧失模式有了假设,就通过度层说明举办测试。譬喻,,假如最高丧失所有来自第一代 Apple Watch,我们可以用第一代 Apple Watch 计较我们的调优集顶用户集的精确率指标,并将这些指标与在剩余调优集上计较的指标举办较量。

原文链接:https://blog.cardiogr.am/4-ways-to-debug-your-deep-neural-network-e5edb14a12d7

【本文是51CTO专栏机构“呆板之心”的原创译文,微信公家号“呆板之心( id: almosthuman2014)”】

戳这里,看该作者更多好文

【编辑保举】

  1. 人脸辨认技能总结:从传统要领到深度进修
  2. 呆板进修中如那里理赏罚不服衡数据?
  3. 呆板进修的七大讹传,这都是根深蒂固的执念吧
  4. “假设”家属大起底!怎样正确区分科学假设、统计假设和呆板进修假设?
  5. 呆板进修必学10大算法
【责任编辑:赵宁宁 TEL:(010)68476606】
点赞 0

(编辑:湖南网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读