带宽优化新思路:RoCE网卡聚合实现X2增长

💡 原文中文,约4100字,阅读约需10分钟。
📝

内容提要

本文介绍了使用RoCE网卡提升带宽的方法,包括链路聚合、双网卡聚合、PFC流控、RDMA流量测试和统计信息。RoCE网卡的Bond支持三种模式,其中链路聚合模式可提升带宽。提供了Ubuntu和CentOS的操作命令,附有交换机和服务器端的配置。

🎯

关键要点

  • RoCE网卡支持Bond能力,可以形成逻辑网卡以提升带宽。
  • RoCE网卡的Bond支持三种模式:主备、负载均衡和链路聚合。
  • 在Ubuntu中使用netplan工具配置Bond,需设置bond模式为802.3ad。
  • 在CentOS中使用nmcli命令配置Bond,需添加子网卡并激活。
  • 为新网卡开启PFC流控,设置MTU并配置流控策略。
  • 交换机上开启LACP模式,配置eth-trunk口并加入对应网口。
  • 交换机为对应端口开启PFC流控,设置buffer大小。
  • 使用ib_write_bw命令进行RDMA流量带宽测试,支持RoCE V2协议。
  • 通过ethtool查询队列报文数量和网卡温度,监控性能。
  • 本文为操作记录,供交流学习,不一定是最佳实践。
➡️

继续阅读