MLPerf.org 发布了其第 3 轮推断结果(MLPerf Inference v1.0)。在本次基准测试中,Xilinx 使用最新 Versal ACAP PCI-e 卡 VCK5000 以 5,921 FPS(提供目录、服务器模式)的速率为数据中心实现了 ResNet-50 推断吞吐量的结果。它在 Xilinx 自适应计算平台上使用针对 AI 推断优化的专用域架构展示了业界领先的性能加速。该演示现在可以在应用商店上免费评估。
供应商: Xilinx
更新日期:2021 年 6 月 11 日
大小: 370MB
容器版本: xilinx/vitis-ai-cpu:1.3.598
该应用是容器化的,可以在几分钟内轻松地在云中或本地运行。
本地 | |
---|---|
Alveo VCK5000 查看 & 购买产品 |
|
请按照部署方法进行操作。
安装后,冷重启机器。对于 CentOS7.4/REHL7.4:
请参考 XBulter Installation (https://github.com/Xilinx/Vitis-AI/tree/master/setup/alveo/u200_u250/packages) 安装 XBulter。安装 Xbulter 后,重新启动 XBulter 服务。
在 docker 中更新 Vitis AI 运行时库
请从 http://image-net.org/challenges/LSVRC/2012/ 下载验证数据集
请注意,MLPerf ResNet50 基准测试结果可能会由于硬件资源配置的不同而略有波动。例如,高级 CPU 处理器和更高 PCIe 带宽将带来更好的性能结果。
注意:TARGET_QPS 默认值为 4000。要获得更好的性能结果,就要修改 TARGET_QPS 值。
--dir 用于指定 imageNet 验证数据集的位置。
e.g. ./run.sh -r 5200 --dir /workspace/CK-TOOLS/dataset-imagenet-ilsvrc2012-val
结果显示在 mlperf_log_summary.txt 中
在 mlperf_log_summary.txt 中查看基准性能结果;
在 accuracy.txt 中查看准确性结果
**如果您有任何问题或技术咨询,请联系bingqing@xilinx.com