为何平头哥与英伟达在MLPerf基准测试中并驾齐驱而芯片的奥秘又是如何让它们获得第一的呢
深入探究MLPerf推理基准测试的初步成果：芯片巨头争夺速度与效能优势
自成立以来，MLPerf组织致力于建立机器学习处理器的基准测试标准。为了实现这一目标，该组织邀请了行业内知名企业如英特尔、NVIDIA、Google和百度参与。尽管MLPerf Inference v0.5基准测试仍处于初始阶段，但它已经吸引了广泛关注，并在首次发布后不久就收到了近600份结果。
这些结果分布在40个不同的测试中，涵盖了图像分类、对象检测和机器翻译等多种任务。此外，MLPerf还提供了四种执行方案——单路、多路、服务器和离线，以及两个分区选择——封闭分区和开放分区，以确保公平性并允许芯片公司展示其创新能力。
通过分析初步结果，我们可以看到几乎每家芯片公司都有机会在某些类别中取得成功。在离线测试中，谷歌的TPUv3展现出极大的扩展性，而NVIDIA的Tesla加速器也在一些测试中表现突出。英特尔以其CPU位居榜首，而高通的骁龙855则在官方结果中远超同级产品。
虽然这些早期版本的MLPerf还有待完善，但对于芯片公司来说，它们现在已有了解自己位置及竞争对手情况。这为他们提供了一定的灵活性，可以优化系统以备未来正式测试，并设计更好的新硬件。客户（包括一些MLPerf委员会成员）期待工作进展加快，因此芯片公司正在专注于产品改进，以准备下一轮正式测评。
随着时间推移，预计MLPerf Inference将逐渐成熟，这意味着该基准将更加稳定且易于使用，不仅限于性能实验室，也适用于消费级硬件。此外，组织计划开发移动应用程序以加速智能手机等设备上的测试，我们期待桌面版也将日趋完善。如果幸运的话，将来我们或许能够将MLPerf推理应用到自己的设备上，对比消费级硬件性能，这无疑是令人激动人心的一刻！
