中国三大存储芯片公司之巅峰对决平头哥与英伟达并驾齐驱各自夺得MLPerf基准测试桂冠
深声科技语音播放文章内容：中国三大存储芯片公司的MLPerf基准测试之争，平头哥与英伟达并驾齐驱
在MLPerf组织发布第一个MLPerf Inference v0.5结果之后，中国三大存储芯片公司中的平头哥和英伟达都公布了他们在此次基准测试中的优异成绩。虽然这个基准测试还不够成熟，但它已经吸引了行业巨头的广泛关注。
自成立以来，MLPerf组织一直致力于建立机器学习领域的Benchmarks，以便让机器学习处理器的基准测试能够像CPU那样被评估。该组织囊括了包括英特尔、NVIDIA、Google和百度等知名企业，从技术上讲，它们正在逐步完善这些标准。
早在6月份，该组织就发布了第二个基准测试集MLPerf Inference v0.5，这是一个专门用于衡量各种加速器和系统执行训练后的神经网络性能的工具。尽管这只是一个初期版本，并且目前仅涵盖五个网络/基准，而且没有包括功耗测试指标，但它已经吸引了主要芯片公司的关注。
第一轮官方提交共有近600份结果，这远超过了预期，为行业展示其硬件能力提供了一场盛宴。此外，基于不同的标准，比如总吞吐量、延迟以及每个加速器的吞吐量，每家公司都可以找到成功方案。
作为更新，MLPerf分为五个基准，其中两个是其主基准移动衍生产品。当前这个套件包含图像分类（ResNet50）、对象检测（ResNet34）和机器翻译任务（GNMT）。所有这些都是为了评价各种设备如何执行预先训练好的网络，以及它们如何进行推理计算。
除了封闭分区，还有开放分区允许芯片公司重新训练网络以及进行更广泛的量化工作。这使得每家公司都能以最佳方式展示其解决方案和团队创新的独到之处。
最终，MLPerf收到了从CPU到FPGA、DSP和专用ASIC等各类处理器的大规模反馈。即使是在封闭分区，也有一些预期外的结果，如Raspberry Pi 4和阿里巴巴含光800加速器。在离线测试中，我们看到Google TPUv3拓展性极佳，而NVIDIA Tesla加速器也表现出色；英特尔在CPU中位列前茅，而高通骁龙855则超越SoC水平。
尽管这些早期版本还有待完善，但对于芯片公司来说，他们现在知道自己相对于竞争对手的地位。而随着未来几年内该基准将趋于成熟，我们期待能够将它应用于自己的消费级硬件比较中，更好地了解不同设备之间性能差异。激动人心时刻迫近！
