Facebook 开源 FBGEMM，处事器端推理优化库

Facebook 开源了 FBGEMM，一个针对处事器推理优化的高机能焦点库。 与其他库差异，FBGEMM 最洪流平优化了 CPU 机能，，通过低落精度计较来加快深度进修模子。 今朝 Facebook 已经在本身的处事中行使该库，与今朝的出产基准对比，它带来了两倍的机能晋升。

FBGEMM 的最大特点是优化低精度数据。 与科学计较中行使的传统线性代数库差异，FBGEMM 不行使 FP32 或 FP64 精度，可觉得小批量提供有用的低精度通用矩阵乘法（GEMM）运算，并支持准确丧失最小化技能，譬喻行式（Row-wise）量化和非常值感知量化。

FBGEMM 已在 Facebook 上大局限陈设，加快了很多端到端人工智能处事，包罗将英语翻译成西班牙语的速率进步 1.3 倍，镌汰了 40％ 的保举体系信息源动态内存带宽的行使 ，并将呆板进修体系 Rosetta 的字符检测速率晋升2.4倍（Rosetta 是 Facebook 用来领略文本，图像和视频内容的体系。）

详情请看这里的先容。

【编辑保举】

1. 微软也许是环球最大的开源孝顺者, 但开拓者好像并不买账
2. 阿里巴巴又一开源项目被列入 CNCF 云原生全景图
3. Edge的忧伤：开拓者器材瘫痪多日无人反馈
4. 马化腾：来岁将推VR版微信 正在开拓阶段
5. 开拓者观测表现他们对 Python 和 Go 异常满足

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!