TensorRT怎样加快人脸辨认
发布时间：2020-06-12 17:05:50 所属栏目：创业 来源：站长网
导读：副问题#e# 为了进步人脸识此外及时性，我们团队将传统的操作神经收集框架推理进级至同一的 TensorRT 加快推理。经尝试比拟，经 TensorRT FP16 模式推理加快后的人脸辨认不只险些无损精度，乃至于在部门场景精度有晋升，辨认速率晋升为原本的 2.3 倍。同一加
|
个中绿色粗线左边的 PRelu 是 mxnet 中支持运行的模式，这是 mxnet 导出 onnx 的默认 PRelu 模式。绿色粗线右边带有 Reshape 的 PRelu 则是 TensorRT 中支持的模式。为此我们通过手动修改 mxnet 的对应 onnx 转换的源码，将导出的 onnx 文件的 Prelu 修改为图右边的模式。除另外，团队里有其他深度进修的使命在转 onnx 名目时还遇到过如 softmaxactivation、upsampling、crop 等算子的支持题目。除了修改 mxnet 的源码的办理方法以外，还可以通过修改原始的神经收集布局为支持 TensorRT 的，然后从头举办模子的实习，但从头调参实习模子在部门营业场景下所耗损的时刻和精神本钱较量大。也可以通过 TensorRT 提供的 plugin 成果来自行实现有些尚未支持的算子和收集层的理会。 ③ 差异的显卡对计较模式的支持度差异 （编辑：湖南网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
