腾讯优图开源人脸识别推理框架

　　TNN是一款移动端推理框架，具有高机能、轻量级的特点，拥有跨平台、高机能、模子压缩、代码裁剪等浩瀚上风。今朝TNN已经在手机QQ、微视、P图等应用中落地。

　　TNN框架在原有Rapidnet、ncnn框架的基本长进一步增强了对移动端装备的支持，在机能方面也有所优化，同时小心了业界主流开源框架的利益，高机能和精采拓展性。

　　这次腾讯优图开源TNN，也是但愿其推理框架可以或许进一步完美，配合为AI构建一个开放共进的生态情形，同时保持不绝的迭代更新。

　　腾讯优图已在GitHub上开源的TNN，可以通过下面的网址进入

　　https://github.com/Tencent/TNN

　　计较优化，算力强

　　TNN对主流平台的顺应性强，对CPU: ARMv7， ARMv8， GPU: Mali， Adreno， Apple) 深度调优。

　　同时优化了对移动端的顺应性，轻量级，高算力。针对差异架构在硬件指令发射、吞吐、耽误、缓存带宽、缓存耽误、寄存器数目等特点，深度优化底层算子，极致操作硬件算力。

　　CNN 焦点卷积运算通过 Winograd，Tile-GEMM， Direct Conv 等多种算法实现，担保差异参数、计较标准下高效计较。

　　担保低精度优化，支持 INT8， FP16 低精度计较，镌汰模子巨细、内存耗损，同时操作硬件低精度计较指令加快计较;支持 INT8 Winograd 算法，(输入6bit)， 在精度满意要求的环境下，进一步低落模子计较伟大度;支持单模子多种精度殽杂计较，加快计较同时担保模子精度。　　      

      内存优化，轻量级匹配深度进修

　　通过 DAG 收集计较图说明，实现无计较依靠的节点间复用内存，低落 90% 内存资源耗损。同时支持外部及时指定用于收集内存，实现「多个模子，单份内存」。

      TNN上手轻易，三个步调就能完成模子在方针平台上的陈设。实习好的模子可以用TNN提供的器材转换成TNN模子;然后编译方针平台的TNN引擎;最后在本身的应用措施中嵌入对TNN的挪用，都有具体的模子来帮助完成。

     腾讯优图不绝对优质项目一连开源，促进构建友爱开拓者生态，为中国企业的科技力气添砖加瓦。

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!