普通网络 vs VLAN vs VXLAN:概念、报文、搭建与对比 本文以“两台服务器 A1/A2 25G 网卡 bond1 VXLAN 单播”的测试组网为背景系统梳理普通网络无 VLAN、无 VXLAN、VLAN、VXLAN三种网络模型的原理、报文结构、搭建命令和性能差异并给出可直接落地的配置与排障步骤。一、先给结论模型一句话报文额外开销隔离规模典型场景普通网络裸以太网帧直接转发0无隔离一个广播域直连测试、管理网、小网络VLAN二层帧插 4 字节 802.1Q Tag4 B4094企业接入层网段隔离VXLAN二层帧封装进 UDP跑在三层上50 B(IPv4) / 70 B(IPv6)约 1600 万云/数据中心 Overlay核心关系VXLAN 不是替代普通网络而是叠加在普通网络underlay之上的逻辑隧道VLAN 可以出现在 underlay 物理链路上与 VXLAN 分层共存。二、三种网络模型是什么2.1 普通网络无 VLAN、无 VXLAN最朴素的二层网络。业务报文就是原始以太网帧交换机按 MAC 表直接转发。[以太网头 14B][IP头 20B][TCP/UDP头][业务数据]没有隔离概念所有设备在一个广播域配置最简单性能最好无额外开销规模一大广播风暴、地址冲突问题突出2.2 VLAN802.1Q在以太网帧的源 MAC 之后插入4 字节 802.1Q Tag用 12 位 VLAN ID 划分广播域。[以太网头 14B][VLAN Tag 4B][IP头 20B][TCP/UDP头][业务数据]最多 4094 个 VLAN0 和 4095 保留仍受物理二层域限制跨三层需要路由交换机端口分Access单 VLAN、不打 Tag和Trunk多 VLAN、带 Tag2.3 VXLANOverlay把完整的二层以太网帧封装进 UDP 报文在三层网络上传输。两端是VTEP隧道端点用 24 位VNI标识网络。[外层Eth 14B][外层IP 20B][UDP 8B][VXLAN 8B][原始以太网帧(含内层IP/TCP)]VNI 约 1600 万个隔离能力远超 VLAN可跨三层路由突破物理二层域边界封装开销大对 MTU 敏感对端发现方式单播静态 remote/ 组播 / 头端复制 / EVPN三、报文结构逐层对比以承载一个普通 IP 报文为例① 普通网络 ┌────────┬────────┬──────────┬──────────┐ │ Eth 14 │ IP 20 │ TCP/UDP │ Payload │ └────────┴────────┴──────────┴──────────┘ ② VLAN ┌────────┬──────────┬────────┬──────────┬──────────┐ │ Eth 14 │ VLAN 4 │ IP 20 │ TCP/UDP │ Payload │ └────────┴──────────┴────────┴──────────┴──────────┘ ③ VXLAN无 VLAN ┌────────┬────────┬────────┬────────┬─────────────────────────┐ │ Eth 14 │ IP 20 │ UDP 8 │VXLAN 8 │ 原始以太网帧(含内层IP/TCP) │ └────────┴────────┴────────┴────────┴─────────────────────────┘ 外层头underlay 内层overlay 原始帧 ④ VXLAN VLAN ┌────────┬──────────┬────────┬────────┬────────┬─────────────────────────┐ │ Eth 14 │ VLAN 4 │ IP 20 │ UDP 8 │VXLAN 8 │ 原始以太网帧 │ └────────┴──────────┴────────┴────────┴────────┴─────────────────────────┘MTU 计算表underlay 物理链路 MTU 建议值场景封装开销建议 MTU普通网络01500VLAN4 B1504VXLANIPv450 B≥1550VXLANIPv670 B≥1570建议1600VXLAN VLANIPv454 B≥1560VXLAN VLANIPv674 B≥1600⚠️ MTU 不调大VXLAN 封装报文会分片TCP 吞吐暴跌、UDP 丢包率飙升——这是 VXLAN 测试最常见的“性能杀手”。四、搭建实操以下以两台服务器A1 / A2、网口bond1、underlay 地址192.168.1.11/22、overlay 地址172.16.1.11/22为例。4.1 普通网络直连无 VLAN 无 VXLAN服务器 A1ip addr add 192.168.1.11/24 dev bond1 ip link set bond1 up服务器 A2ip addr add 192.168.1.22/24 dev bond1 ip link set bond1 up验证ping 192.168.1.22 # A1 上执行交换机若接交换机四个口配 Access 同 VLANinterface 25GE1/0/9 port link-type access port default vlan 10 undo shutdown4.2 VLAN 网络方式 AAccess服务器不打 Tag推荐基准测试交换机四个口一致vlan 10 interface 25GE1/0/9 port link-type access port default vlan 10 undo shutdown服务器与 4.1 完全相同underlay 地址直接配 bond1服务器无感知 VLAN。方式 BTrunk 服务器打 Tag交换机四个口一致vlan 10 interface 25GE1/0/9 port link-type trunk port trunk allow-pass vlan 10 port trunk pvid vlan 10 # 关键PVID 必须是 10 undo shutdown服务器 A1ip link add link bond1 name bond1.10 type vlan id 10 ip addr add 192.168.1.11/24 dev bond1.10 ip link set bond1.10 up服务器 A2ip link add link bond1 name bond1.10 type vlan id 10 ip addr add 192.168.1.22/24 dev bond1.10 ip link set bond1.10 up⚠️经典坑Trunk 口pvid vlan 1allow-pass vlan 10服务器不打 Tag → 帧被打上 VLAN 1 但不在 allow-pass 列表 →被丢弃。必须让 PVID 与 allow-pass 的 VLAN 一致或服务器侧打 Tag。4.3 VXLAN 网络单播模式VXLAN 单播 用remote参数静态指定对端 VTEP 的 underlay IP封装后的 UDP 报文一对一单播发出。不依赖组播/EVPN点对点最简单。服务器 A1# 1. 创建 VXLAN 接口VNI 100对端 underlay 192.168.1.22出口 bond1服务器 A2remoteip link add vxlan100 type vxlan id 100 remote 192.168.1.22 dev bond1 dstport 4789 ip link set vxlan100 up 2. 创建网桥 br0 ip link add br0 type bridge ip link set br0 up 3. vxlan100 和 bond1 桥接到 br0 ip link set vxlan100 master br0 ip link set bond1 master br0 4. overlay 地址配在 br0 ip addr add 172.16.1.11/24 dev br0指向 A1其余对称ip link add vxlan100 type vxlan id 100 remote 192.168.1.11 dev bond1 dstport 4789 ip link set vxlan100 up ip link add br0 type bridge ip link set br0 up ip link set vxlan100 master br0 ip link set bond1 master br0 ip addr add 172.16.1.22/24 dev br0 顺序细节ip link set bond1 master br0之后underlay 地址192.168.1.x要配在bond1上或 bond1 的 VLAN 子接口上且 bond1 加入网桥后仍可保留 IPLinux 桥允许成员口带 IP但更推荐把 underlay 配在独立接口或 bond1 上并开启bridge vlan相关设置测试环境直接配 bond1 即可。验证顺序# 1. 先确认 underlay 互通 ping 192.168.1.22 2. 再确认 overlay 互通说明 VXLAN 隧道 OK ping 172.16.1.22 3. 查看 VXLAN 接口详情 ip -d link show vxlan100 应看到 vxlan id 100 ... remote 192.168.1.22 ... dev bond1 ... dstport 4789关键参数对照参数含义注意id 100VNI两端必须一致remote对端 VTEP 的underlayIP写对端 bond1 地址不是br0 地址dev bond1本机出口网口写本机聚合口不是物理成员口dstport 4789目的 UDP 端口两端一致默认 8472/4789 视内核五、三种模型对比总表维度普通网络VLANVXLAN作用层二层裸转发二层插 TagOverlay跑在三层隔离标识无VLAN ID12 位4094 个VNI24 位~1600 万报文开销04 B50 B(IPv4) / 70 B(IPv6)MTU 要求1500≥1504≥1550 / ≥1600跨三层传二层帧❌❌✅ 核心能力交换机配置Access 同 VLANAccess / Trunk 配置仅需普通转发 MTU 调大服务器配置配 IPAccess 无感 / Trunk 加 Tag创建 vxlan 接口 网桥 overlay IP配置复杂度★★★★★★★排障难度低中高分段排查25G 吞吐接近线速略降1%降幅取决于封装/MTU/网桥需实测典型场景直连测试、管理网企业接入层隔离云/数据中心租户 Overlay六、性能测试实践结合 25G bond1 VXLAN 用例6.1 测试拓扑A2 (client) A1 (server) iperf/netperf client iperf/netperf server │ │ br0 172.16.1.22/24 br0 172.16.1.11/24 ← overlay 测试地址 │ │ vxlan100 (VNI 100, remote 192.168.1.11) vxlan100 (VNI 100, remote 192.168.1.22) │ 封装为 UDP 4789 │ bond1 192.168.1.22/24 ←──── 25G ──────→ bond1 192.168.1.11/24 ← underlay │ │ [交换机 Access VLAN 10端口 MTU ≥1600] [交换机 Access VLAN 10]6.2 测试步骤分层递进便于定位基线普通网络直跑bond1 上直接配 underlay IP跑 iperf确认 25G 基础吞吐正常加 VXLAN创建 vxlan100 br0overlay ping 通后跑 iperf对比基线的性能损耗换 IPv6underlay/overlay 换 IPv6重复 1~2。注意封装开销从 50B 变 70BMTU 要求更高多进程/多流iperf-P nn1,2,4,8…netperfUDP_STREAM改 server/client 进程数记录丢包率 1% 时的稳定吞吐仅 100GBond4 双端口多流25G 卡跳过此步若要做交换机必须配 LACP Eth-Trunk6.3 常用命令A1 server iperf -s # TCP 吞吐A2 clientn 进程数 iperf -c 172.16.1.11 -P 4 -t 60 # UDP 吞吐A1 server netperf # UDP 吞吐A2 client netperf -H 172.16.1.11 -l 60 -t UDP_STREAM6.4 25G 卡特别说明方案中步骤 7Bond4 双端口多流仅针对 100G 网卡25G 卡不执行。因此 25G 卡测试不需要交换机配 LACPBond1 主备模式直连或 Access 接入即可。若强行测 Bond4则必须有支持 LACP 的交换机并配置 Eth-Trunk。七、常见坑与排障清单7.1 配置类现象可能原因排查underlay ping 不通交换机 VLAN/PVID 不匹配MTU 不够display port vlan确认 Access/Trunk 与服务器是否打 Tag 配套Trunk 接不打 Tag 的服务器丢包PVID ≠ allow-pass VLANPVID 改成目标 VLAN或服务器打 TagVXLAN 接口创建报错dev接口不存在或未 upip link show bond1确认先 up 再创建overlay ping 不通对端没配 vxlanVNI/dstport 不一致remote 写错两端ip -d link show vxlan100对照7.2 性能类现象可能原因处理VXLAN 吞吐远低于基线MTU 未调大导致分片交换机端口 服务器 bond1 MTU ≥1560/1600UDP 丢包率高流控未开、MTU 分片、CPU 软封装瓶颈开流控调 MTU确认网卡 VXLAN offloadIPv6 比 IPv4 慢封装开销 70B vs 50BMTU 余量更紧MTU 提到 1600属正常现象多进程吞吐不线性单流受限于单核/单队列调 RSS/多队列确认-P与队列匹配7.3 排障口诀先 underlay再 overlay最后业务。underlay 不通查 VLAN/MTU/链路overlay 不通查 VXLAN 参数都通了再跑 iperf/netperf。八、总结普通网络是基线裸帧转发、零开销、无隔离适合直连测试和基准对比。VLAN是二层隔离4 字节 Tag、4094 个域Access 对服务器无感、Trunk 需打 TagPVID 与 allow-pass 必须配套。VXLAN是 Overlay50/70 字节封装、~1600 万 VNI、可跨三层单播模式用remote静态指定对端交换机只当普通网络转发MTU 必须调大。三者不是替代关系而是分层共存VXLAN 跑在普通网络underlay之上underlay 可带可不带 VLAN。性能测试要分层递进普通网络基线 → 加 VXLAN → 换 IPv6 → 多流每层对比才能准确定位损耗来源。本文基于两台服务器 25G 网卡 bond1 VXLAN 单播的测试组网整理交换机配置示例以华为 25GE 接口命令为参考其他品牌命令语义一致、语法略有差异。