本文测试了Modular AI Engine在不同硬件后端上的性能表现，使用BERT-base模型进行二元文本分类测试，并分析了并发性和启用服务器端动态批处理对模型性能的影响。结果显示，Modular AI Engine在AWS Graviton 2、AMD EPYC和Intel Skylake系统上的性能均优于TensorFlow和PyTorch 2.0后端。此外，Modular AI Engine具有通用性和可扩展性，是行业领先的解决方案。