快手AI的背后：有温度的科技和前沿创新力的荟萃——英特尔

快手的专家暗示，英特尔傲腾数据中心级耐久内存在硬件层面上办理了模子实习方面的题目，晋升了模子实习的速率。在快部下一步的筹划傍边，傲腾耐久内存将在Spark等大数据相干的营业中大范畴行使。

如安在承载岑岭期每秒数十万并发挪用量的同时，从上百亿级此外短视频库中，通过千亿参数级此外深度模子将内容揭示给用户？快手计划了基于异构计较打造的先辈保举体系，力争在日益增添的用户量攻击下，并基于保举体系高可用的基本上，及时、高效、精准地向用户保举优质内容。

快手异构计较架构师钟辉暗示，一方面CPU的机能每年以3%的速率晋升，可是数据的增添率是30%，以是供需之间有一个庞大的缺口。办理这一个题目独一途径就是硬件回收特定域的架构（Domain Specific Architecture），也就是异构计较，即CPU加上各类加快器，这些加快器可以实FPGA也可所以GPU、ASIC。

每种加快器都有本身的上风和劣势，好比GPU善于实习，可是在及时推理方面有所短缺。FPGA相对GPU的上风是低耽误、低功耗、高机能，由于FPGA自带网口，善于通讯。ASIC的开拓周期很长，NRE（一次性工程用度）很是高。

钟辉暗示，快手在数据中心陈设FPGA的挑衅可以归结为既要“上天”又要“入地”。“上天”是说FPGA是陈设在云端，以是必要办理的主要题目是在数据中心找到吻合的营业场景，提供有代价的办理方案，它需有必然的通用性和局限化；“入地”则谈的是陈设，在本钱上必然要有竞争力，这样营业才有动力去采购。其它在陈设的靠得住性、不变性、能耗比上也要有竞争力。局限化陈设，容器化也是必须的，从而办理资源的弹性陈设。

基于自身营业需求，快手陈设了英特尔FPGA，应用在典范的AI模子好比CNN、RNN等。今朝，快手异构计较组为公司营业部分提供强盛、高效的计较体系，研发包罗CPU、GPU、FPGA、ASIC等器件的殽杂办理方案。

“从快手来说，应用FPGA举办定制化加快，首要是从本身的营业需求出发，实现降本增效。在FPGA自研、落地场景和陈设局限方面讲，快手在千亿级别保举体系上率先大局限陈设了FPGA，在国际上也是处于领先职位，其乐成履历受到业界瞩目。由于本性化智能保举是今朝互联网行业中成长最快、挑衅最多的技能偏向，有普及的应用场景。”钟辉说。

定制化和可重构是FPGA的两大上风：定制化可觉得营业提供量身定制的最吻合、费效比最高的方案，而可重构则可在陈设中同时加卸载多个差异种类的营业，好比收集、存储、计较等。由于数据中心营业成长迭代很是快，而FPGA是可编程的器件，这对数据中心的资产保值长短常重要的。

通过现实陈设，快手的FPGA方案与CPU方案对比，耽误低落了约1.5倍，最大吞吐或许晋升了1.7倍阁下，功耗有靠近5倍的低落，从功耗服从来说晋升了近8倍。“我们已经在数据中心局限化陈设FPGA用于承载贸易化营业场景，这在业界是较量领先的。”钟辉说，“英特尔FPGA在数据中心上更具前沿性，相干器材链较量成熟。快手选择英特尔尚有一些‘软指标’方面的考量，好比说技能交换、支持、需求相应等。”

除了英特尔FPGA，快手还引入了OpenVINO、英特尔第二代至强可扩展处理赏罚器、共同AI计谋，好比说语音辨认、图像分类、方针检测等方面，第二代英特尔至强可扩展处理赏罚用具备“内置人工智能加快”手段，包罗的MKL-DNN（数学焦点函数库）、高机能编译器和人工智能框架优化方案等，通过一系列优化和改造设施，使得快手的保举体系行使的AI算法服从大幅晋升。

最近英特尔发布了oneAPI，以办理异构情形下的同一编程题目。对此，钟辉暗示，英特尔在数据中心生态上是有上风的，我们会起劲存眷oneAPI。“英特尔的OneAPI可以进步开拓的出产力，又通过编译器优化实现质量和服从，我们虽然乐意实行。”

当前，短视频行业快速成长，数据呈指数级增添，这对付视频网站提出了更高的IT手段建树需求。英特尔以数据为中心的计谋满意短视频行业对计较、存储、人工智能等技能越来越高的需求，从而助力更多应用落地，促进财富成长。将来，快手和英特尔将一连完美从硬件到软件的深度相助，驱动营业的创新成长。

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!