你用什么方法调试深度神经网络？这里有四种简单的方式哦

在上面的代码中，我们在均匀池化之前，在中点时刻步长 2048 处计较了输出。我们之以是行使中点而不是最后的时刻步长的缘故起因是，我们的 LSTM 单位是双向的，这意味着对一半的单位来说，4095 现实上是第一个时刻步长。我们将获得的梯度举办了可视化：

Δoutput_2048 / Δinput_t

请留意我们的 y 轴是 log 标准的。在时刻步长 2048 处，与输入对应的输出梯度是 0.001。可是在时刻步长 2500 处，对应的梯度小了一百万倍!通过梯度说明，我们发明这个架构无法捕获恒久依靠。

四、说明模子猜测

你也许已经通过调查像 AUROC 僻静均绝对偏差这样的指标说明白模子猜测。你还可以用更多的说明来领略模子的举动。

譬喻，我们好奇 DNN 是否真的专心率输入来天生猜测，可能说它的进修是不是严峻依靠于所提供的元数据——我们用性别、年数这样的用户元数据来初始化 LSTM 的状态。为了领略这个，我们将模子与在元数据上实习的 logistic 回归模子做了比拟。

DNN 模子吸取了一周的用户数据，以是在下面的散点图中，每个点代表的是一个用户周。

这幅图验证了我们的意料，由于猜测功效并不是高度相干的。

除了举办汇总说明，查察最好和最坏的样本也是很有开导性的。对一个二分类使命而言，你必要查察最令人震惊的假阳性和假阴性(也就是猜测间隔标签最远的环境)。实行辨别丧失模式，然后过滤掉在你的真阳性和真阴性中呈现的这种模式。

一旦你对丧失模式有了假设，就通过度层说明举办测试。譬喻，，假如最高丧失所有来自第一代 Apple Watch，我们可以用第一代 Apple Watch 计较我们的调优集顶用户集的精确率指标，并将这些指标与在剩余调优集上计较的指标举办较量。

原文链接：https://blog.cardiogr.am/4-ways-to-debug-your-deep-neural-network-e5edb14a12d7

【本文是51CTO专栏机构“呆板之心”的原创译文，微信公家号“呆板之心( id: almosthuman2014)”】

戳这里，看该作者更多好文

【编辑保举】

1. 人脸辨认技能总结：从传统要领到深度进修
2. 呆板进修中如那里理赏罚不服衡数据？
3. 呆板进修的七大讹传，这都是根深蒂固的执念吧
4. “假设”家属大起底！怎样正确区分科学假设、统计假设和呆板进修假设？
5. 呆板进修必学10大算法

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!