网卡丢包排查思路 从硬件到系统层层分析

网卡丢包不是单一原因造成的。线缆老化、光模块衰减、Ring Buffer溢出、中断亲和性配置不当——每一层都可能成为瓶颈。本文提供一套从物理层到系统层的分层排查方法，配合 ethtool、ifconfig、dmesg 等诊断命令，帮你快速定位丢包根因。

凌晨三点的告警：丢包从何而来

运维老张被一条告警叫醒：核心业务服务器的 TCP 重传率从 0.01% 飙到 2.3%，应用层响应超时频繁触发。登录机器一看，ifconfig 的 RX dropped 计数在持续跳动。

这种场景并不罕见。丢包的棘手之处在于——它可能发生在数据路径的任何一环。从网线接头氧化到内核协议栈参数不合理，排查思路必须是分层递进的，而不是一上来就怀疑网卡坏了。

物理层：线缆与光模块

超过 40% 的"网卡丢包"最终定位到物理层。排查从这里开始成本最低。

电口场景（RJ45）：

• 检查网线是否弯折过度、水晶头弹片是否松动
• Cat5e 线缆在千兆环境下跑满 100 米已接近极限，超过 80 米建议换 Cat6
• 用 ethtool eth0 查看协商速率，如果显示 100Mbps 而非 1000Mbps，大概率是线缆质量问题

光口场景（SFP/SFP28）：

• 用 ethtool -m eth0 读取光模块的收发光功率（Rx Power / Tx Power）
• Rx Power 低于 -12dBm 说明光路衰减过大，检查光纤弯折、接头脏污
• 光模块与网卡不兼容也会导致间歇性丢包，建议使用同品牌配套模块

硬件层：网卡与交换机端口

排除物理层后，下一步看网卡和交换机端口本身。

网卡硬件状态检查：

# 查看网卡错误计数
ethtool -S eth0 | grep -i "error\|drop\|miss"

# 查看PCIe链路协商状态（确认没有降速）
lspci -vvv -s $(ethtool -i eth0 | grep bus-info | awk '{print $2}') | grep LnkSta

# 查看内核日志中的网卡告警
dmesg | grep -i "eth0\|link\|error" | tail -20

如果 ethtool -S 输出中 rx_missed_errors 持续增长，说明网卡硬件接收队列来不及处理——这通常指向 Ring Buffer 太小或中断处理不及时，而非网卡本身故障。

交换机端口侧：

• 登录交换机查看对应端口的 CRC 错误、Input errors 计数
• 如果交换机端口有错误而网卡侧没有，问题在交换机端口或线缆
• 尝试换端口，排除交换机单端口硬件故障

千兆环境下，LREC9714HT 四口 RJ45 网卡基于 Intel I350 主控，硬件层面支持 TCP/UDP/IP 校验和卸载和 TCP 分段，能有效降低因 CPU 处理不及时导致的接收丢包。四端口设计支持链路聚合，单口故障时可自动切换。

系统层：驱动、Ring Buffer与中断

这是丢包排查中最复杂、也最常出问题的层级。

Ring Buffer 检查与调整：

# 查看当前ring buffer大小
ethtool -g eth0

# 典型输出：
# Ring parameters for eth0:
# Pre-set maximums:
# RX:     4096
# Current hardware settings:
# RX:     512      ← 如果远小于最大值，考虑调大

# 调大RX ring buffer
ethtool -G eth0 rx 2048

Ring Buffer 是网卡 DMA 写入和内核驱动读取之间的缓冲区。流量突发时，如果 Buffer 太小，驱动来不及取走数据，新包就会被硬件丢弃。25G 网卡在满负载下每秒处理约 3700 万个 64 字节小包，Ring Buffer 建议设为最大值的一半以上。

中断亲和性（IRQ Affinity）：

# 查看网卡中断分布
cat /proc/interrupts | grep eth0

# 如果所有中断集中在CPU0，需要手动分散
# 将eth0-rx-0绑定到CPU2
echo 4 > /proc/irq/$(grep eth0-rx-0 /proc/interrupts | awk -F: '{print $1}')/smp_affinity

中断全部打到单核是高速网卡丢包的头号系统层原因。10G 以上网卡通常支持多队列（RSS），确保每个队列的中断分散到不同 CPU 核心。

10G 电口场景推荐 LREC9812BT，基于 Intel X550 主控，支持 2.5G/5G/10G 多速率自适应，兼容现有 Cat6/Cat6a 铜缆布线。硬件级 RSS 多队列支持配合中断亲和性调优，在 10G 满负载下也能保持零丢包。

分层排查流程图

25G及以上：更高层级的排查要点

当网络升级到 25G 或更高速率后，丢包排查还需要关注额外维度：

• PCIe 带宽瓶颈：25G 四口网卡需要 PCIe 4.0 x8 才能跑满带宽。如果主板插槽实际协商为 PCIe 3.0 x4，带宽直接腰斩
• CPU 处理能力：小包场景下 25G 网卡每秒处理数千万个包，CPU 单核 softirq 处理能力成为瓶颈
• NUMA 亲和性：网卡插在远端 NUMA 节点的 PCIe 槽上，跨 NUMA 内存访问延迟翻倍

LRES1027PF-4SFP28 四口 25G SFP28 网卡采用 PCIe 4.0 x8 总线，单卡提供 100Gbps 总带宽。硬件支持 iWARP 和 RoCE v2 RDMA 卸载，在 DPDK 或 RDMA 场景下可绕过内核协议栈，从根本上消除系统层丢包风险。

效果验证

调整完成后，用以下方法确认丢包已消除：

# 持续监控丢包计数（每2秒刷新）
watch -n 2 'ethtool -S eth0 | grep -i "drop\|miss\|error"'

# 用iperf打满带宽测试30分钟
iperf -c 192.168.1.100 -t 1800 -P 4

# 测试期间观察softirq CPU占用
mpstat -P ALL 1 5

验证标准：30 分钟满负载测试期间，rx_missed_errors 和 rx_dropped 计数增量为 0，iperf 报告无重传。

本文涉及产品

• LRES1027PF-4SFP28 — 25G / SFP28 / 四口 / PCIe 4.0 x8 / RDMA
• LREC9812BT — 10G / RJ45 / 双口 / PCIe 3.0 x4
• LREC9714HT — 1G / RJ45 / 四口 / PCIe 2.1 x4

常见问题