浪潮AI服务器创全球权威MLPerf基准测试18项AI性能纪录

美国东部时刻10月21日，环球备受瞩目标势力巨子AI基准测试MLPerf发布本年的推理测试榜单，海潮AI处事器NF5488A5一举缔造18项机能记载，在数据中心AI推理机能上遥遥领先其他厂商产物。

MLPerf是当前环球最具影响力的AI计较基准评测组织，由图灵奖得主大卫·帕特森（DavidPatterson）连系谷歌、斯坦福、哈佛大学等单元配合创立，每年组织环球AI实习和AI推理机能测试并发榜。此次MLPerf的AI推理基准测试有环球23家公司和单元参加，在数据中心及边沿等场景举办AI计较产物的机能比试。本年MLPerf实习榜单已于7月发布。

海潮NF5488A5获数据中心AI机能绝对上风

此次海潮NF5488A5一举缔造18项MLPerf推理机能记载，成为创记载最多的AI处事器。本年的测试中，数据中心AI机能最受存眷，所有参加机构提交了507项机能测试数据。海潮NF5488A5创下了数据中心22个赛项中的13项机能记载以绝对上风领先，NVIDIA DGX取得了5项数据中心机能记载。而在此前的MLPerf实习榜单中，NF5488A5在最焦点的Resnet50实习使命中也创下了机能记载，单机机能高居榜首。

海潮NF5488A5缔造18项MLPerf推理机能记载

机能大幅晋升3倍，全栈AI手段上风凸显

在此次基准测试中，海潮AI处事器NF5488A5在开放优化(Open)和牢靠使命(Closed)的ResNet50基准机能测试中，均示意优秀，对比2019年MLPerf推理榜单的处事器最好机能晋升高达3倍。

MLPerf ResNet50推理机能2019 VS 2020比拟

NF5488A5是海潮自研的新一代AI处事器，是此次MLPerf环球比赛中独一可以在4U空间内支持8块安培架构A100芯片实现NVLink高速互联的AI处事器。海潮NF5488A5在体系拓扑上回收了超低耽误计划，支持PCIe 4.0全链路极致优化，高频通讯单位回收一级拓扑最近毗连，最大限度晋升处理赏罚器到AI芯片间的通讯机能。同时，通过设置NUMA节点，确保每颗处理赏罚器与其直连的GPU之间通讯机能最优，最大限度低落通讯耽误。另外，NF5488A5通过深度优化体系布局计划，确保装备可在高温情形下不变运行。

本次基准测试中，海潮展示出了卓越的AI计较软硬件协同优化手段。在硬件层面，通过对CPU、GPU硬件机能的风雅校准和全面优化，使CPU机能、GPU机能、CPU与GPU之间的数据通路均处于对AI推理最优状态；在软件层面，团结GPU硬件拓扑对多GPU的轮询调治优化使单卡至多卡机能到达了近似线性扩展；在深度进修算法层面，团结GPU Tensor Core 单位的计较特性，通过自研通道压缩算法乐成实现了模子的极致机能优化，在精度无损的环境下机能晋升近2倍。

各处事器MLPerf AI推理机能比拟（以海潮NF5488A5为基准，越高越好）

海潮是环球领先的AI计较率领厂商，其AI处事器在中国的市场份额已持续三年保持在50%以上。海潮致力于AI计较平台、资源平台和算法平台的研发创新，并通过元脑生态与AI领先企业配合推进AI财富化和财富AI化历程。

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!