带宽优化新思路:RoCE网卡聚合实现X2增长
💡
原文中文,约4100字,阅读约需10分钟。
📝
内容提要
本文介绍了使用RoCE网卡提升带宽的方法,包括链路聚合、双网卡聚合、PFC流控、RDMA流量测试和统计信息。RoCE网卡的Bond支持三种模式,其中链路聚合模式可提升带宽。提供了Ubuntu和CentOS的操作命令,附有交换机和服务器端的配置。
🎯
关键要点
- RoCE网卡支持Bond能力,可以形成逻辑网卡以提升带宽。
- RoCE网卡的Bond支持三种模式:主备、负载均衡和链路聚合。
- 在Ubuntu中使用netplan工具配置Bond,需设置bond模式为802.3ad。
- 在CentOS中使用nmcli命令配置Bond,需添加子网卡并激活。
- 为新网卡开启PFC流控,设置MTU并配置流控策略。
- 交换机上开启LACP模式,配置eth-trunk口并加入对应网口。
- 交换机为对应端口开启PFC流控,设置buffer大小。
- 使用ib_write_bw命令进行RDMA流量带宽测试,支持RoCE V2协议。
- 通过ethtool查询队列报文数量和网卡温度,监控性能。
- 本文为操作记录,供交流学习,不一定是最佳实践。
➡️