note任务生成式多模态情感识别MER——输入视频/人脸语音字幕模型用自然语言说出情绪状态如 “nervous, concerned” 或 “neutral”。输出的结果比如The characters emotional state is nervous, concerned.。Light-MER 的蒸馏从 logits 移到 hidden states最后一层、从 KL/MSE 换成 Sliced Wasserstein DistanceSWD工作用一个 0.6B 的多模态小模型Light-MER 学生通过隐藏态 Wasserstein 蒸馏 GRPO 多奖励精炼两段式训练把 8B 多模态情感语言模型的能力搬过来在 9 个情感识别基准上平均反超教师显存从 20GB 压到 2.5GB。这篇把小模型 MER 不行的锅从参数量甩给了蒸馏目标选错——换 SWD 对齐隐状态几何 GRPO 收输出长度0.6B 能在 2.5GB 显存里打出比 8B 更准更快的生成式情绪识别给端侧情感交互陪伴机器人、车载情绪感知、无障碍辅助直接开了道口子。Light-MER 的蒸馏从“对齐点”升级为“对齐分布几何”对齐目标从 logits 移到 hidden states最后一层传统对齐 vocab 空间的 logits维度几万且尖锐本文对齐 LLM 最后一层隐藏态维度 4096→1024这是多模态证据融合后的语义空间携带了“怎么组织跨模态情感证据”的过程信息对齐的数据形式从 KL/MSE 换成 Sliced Wasserstein DistanceSWD文章目录note一、研究动机为什么质疑大于 1B二、Light-MER 的两段式压缩1SWD-H基于 Sliced Wasserstein 的隐藏态蒸馏主增益来源2M-GRPO多奖励 GRPO 生成精炼后处理三、实验结果9 基准音频视频文本全模消融回答每块值多少)蒸馏策略横向比Table 4M-GRPO 质量权衡GPT-5.4 评判Table 5四、分析与启示五、蒸馏手段和传统做法的区别1、传统蒸馏在做什么对齐“输出概率”2、这篇论文的诊断传统蒸馏在 MER 上“没东西可学”3、Light-MER 的蒸馏从“对齐点”升级为“对齐分布几何”1对齐目标从 logits 移到 hidden states最后一层2对齐数学从 KL/MSE 换成 Sliced Wasserstein DistanceSWD3对齐粒度只在答案 token 位置做4、再加一层蒸馏完还不够用 GRPO 改“生成行为”5、总结区别Reference一、研究动机为什么质疑大于 1BACM MM’26 论文《Do We Really Need Multimodal Emotion Language Models Larger Than 1B Parameters?》项目https://github.com/GAIR-Lab/Light-MER核心是用一个0.6B总参 ~855M的学生模型 Light-MER打脸多模态情感语言模型必须 ≥7B的默认假设它在 9 个基准上平均超过 8B 教师推理显存压到 2.54GB。多模态情感识别MER正从判别分类器输出 happy/sad走向生成式 MLLM 用自然语言解释情绪如 AffectGPT、Emotion-LLaMA但这类生成式 MER 系统几乎都绑着≥7B 的解码器带来三个落地痛点算不动8BCLIP-LHuBERT-L 峰值显存 20GB机器人/手机端跑不了出词慢教师模型 descriptive 模式平均出 104 词时延 6.1s/sample蒸馏老办法失效作者做了诊断——8B 教师输出分布 top-1 概率 0.98KL 蒸馏等价于只学 top-1 硬标签而隐藏层 99.2% 维度呈多峰分布MSE 逐点对齐又忽略流形几何于是论文提出一个反直觉问题高质量生成式 MER是否根本不需要 1B 的部署模型前提是——能把大模型的多模态情感推理结构有效压缩进小模型。二、Light-MER 的两段式压缩教师Qwen3-8B CLIP-ViT-L HuBERT-Large冻结仅训练时用学生Qwen3-0.6B CLIP-ViT-B HuBERT-Base LoRA总参854.93M1SWD-H基于 Sliced Wasserstein 的隐藏态蒸馏主增益来源不对齐 logits对齐最后一层隐藏态分布。把教师/学生隐状态投影到共同 1024 维后随机采 200 个 1D 方向做投影两边各排序后求 L1 距离L S W D 1 R n ∑ r 1 R ∥ sort ( H ~ M T θ r ) − sort ( H ~ M S θ r ) ∥ 1 \mathcal{L}_{SWD}\frac{1}{R n}\sum_{r1}^{R}\left\|\operatorname{sort}\left(\tilde{H}_{M}^{T}\theta_{r}\right)-\operatorname{sort}\left(\tilde{H}_{M}^{S}\theta_{r}\right)\right\|_{1}LSWDRn1r1∑Rsort(H~MTθr)−sort(H~MSθr)1为什么比 Sinkhorn OT 好1D Wasserstein 有闭式解排序即最优传输复杂度 O(R·n log n)无熵正则、不迭代MER 答案序列只有 50–100 个 tokenSinkhorn 在小样本下对正则系数敏感会振荡为什么比 MSE/KL 好把隐状态当经验分布做最优传输保留多峰模态证据的几何位置而不是逐点惩罚位移总损失L C E λ S W D ⋅ min ( t / 5000 , 1 ) ⋅ L S W D \mathcal{L}_{CE} \lambda_{SWD}\cdot\min(t/5000,1)\cdot\mathcal{L}_{SWD}LCEλSWD⋅min(t/5000,1)⋅LSWDSWD 权重前 5000 步线性预热2M-GRPO多奖励 GRPO 生成精炼后处理蒸馏完学生还带着教师啰嗦的生成习惯再用 GRPO无 critic省显存跑一轮策略优化。每组同 prompt 采 4 条补全算 group-relative advantage奖励是 6 项加权r 2.0 r F 1 1.0 r f m t 0.3 r b r e v 0.5 r n o r e a s o n 0.3 r s t o p 0.5 r c o u n t r2.0 r_{F1}1.0 r_{fmt}0.3 r_{brev}0.5 r_{noreason}0.3 r_{stop}0.5 r_{count}r2.0rF11.0rfmt0.3rbrev0.5rnoreason0.3rstop0.5rcount即情绪 F1 格式规范 简洁 抑制多余推理 干净收尾 标签数合理。PPO-style clip(ε0.1) KL 锚定参考模型(β1.0)。设计哲学SWD-H 搬内部表征几何M-GRPO 管输出行为收敛——两段各管一端。三、实验结果9 基准音频视频文本全模模型LLM总参Mean(主指标)显存descriptive 时延AffectGPT(7B)7B-69.77--Teacher(Qwen3-8B)8B9.00B73.9320.04GB6.14sLight-MER0.6B0.855B74.612.54GB3.10s全模平均74.61 vs 教师 73.93超 0.689 个里赢 7 个只在 MER2023、MOSEI 上各输 ~1 点参数量11× 压缩FLOPs 11× 降显存 7.9× 降纯音频文本平均 66.40 vs 教师 65.07纯视频文本 65.71 vs 64.44——小模型跨模态子集也全面反超消融回答每块值多少)CE-only 学生mean 70.61已是教师 95.5%SWD-H74.16 →贡献 3.55占总增益 88.8%M-GRPO74.61 → 再 0.45但把 descriptive 输出从 110.5 词压到 70.8 词时延 4.6s→3.1s-32.8%蒸馏策略横向比Table 4SWD-H(74.16) Sinkhorn-OT-hidden(73.67) Unbalanced-OT(73.63) KL-logits(73.49) Position-OT(72.63)。结论隐状态对齐 logits 对齐SWD 其他 OT 变体短序列下排序解比迭代耦合稳。M-GRPO 质量权衡GPT-5.4 评判Table 5Cls 4.47→4.89Flu 3.72→4.24Con 2.87→4.071.20 最大Det 细节覆盖 4.45→3.62 下降Sem 基本稳 → 核心情绪推理没丢丢的是冗长修饰头对头 54% 胜率四、分析与启示1. 大于 1B 不必要成立但有前提不是裸训 0.6B 能赢 8B而是8B 教师 隐状态几何蒸馏 多奖励精炼这条管道能让学生反超。论文真正证明的是蒸馏该对齐的是内部表征分布不是尖锐输出。2. SWD-H 为何在 MER 特别顺MER 生成答案短50–100 token隐状态点云小Sinkhorn 耦合矩阵对正则超参过敏SWD 用随机投影排序闭式解反而小样本更稳——这是方法选型的因果点不是单纯Wasserstein 更高级。3. M-GRPO 的权衡要清醒看奖励里 brevity 权重压下去后基础情绪 HIT 在 MER2023/IEMOCAP 上略掉枚举词少了但 sentiment WAF 和细粒度 Fs 涨。作者主动选了部署友好短输出不是免费午餐。4. 边界与局限教师本身来自 AffectGPT 系MER-Caption 训练蒸馏上限受教师范式绑定9 基准以中英情感/情绪为主未测极端跨域如生理信号、婴幼儿表情2.54GB 能进边缘 GPU但纯 CPU/MCU 仍吃力direct 模式 0.5s/sample 才是机器人可用路径五、蒸馏手段和传统做法的区别这篇论文的蒸馏方式跟传统的“教师-学生”蒸馏相比核心区别不在“有没有教师学生”而在“蒸馏到底对齐什么、用什么数学工具对齐”。1、传统蒸馏在做什么对齐“输出概率”经典蒸馏Hinton et al., 2015以及后续很多 LLM 蒸馏方法如 DistilBERT、MiniLLM本质上都是在输出层做文章Softmax 温度缩放 KL 散度让学生的输出概率分布去逼近教师的软标签MiniLLM / 反向 KL在输出 logits 上做反向 KL避免教师分布有峰而学生覆盖不全的问题TinyBERT除了输出还加了层级的隐藏态 MSE 对齐但依然是逐点回归这类方法的隐含假设是只要输出分布像了学生的能力就继承了。2、这篇论文的诊断传统蒸馏在 MER 上“没东西可学”作者做了个关键实验Section 3.3对比 8B 教师和 0.6B 学生对比维度发现对蒸馏的启示输出概率分布8B 教师 top-1 概率0.98top-2~20 加起来才 0.016KL 蒸馏退化为“只学 top-1 硬标签”几乎没软监督信号隐藏态激活99.2% 的维度呈多峰分布教师和学生峰值位置/高度不同MSE 只能逐点惩罚位移看不到“分布形状”和“模态结构”结论在生成式 MER 里输出层太尖锐、隐藏层太复杂——传统蒸馏的两个主战场都失效了。3、Light-MER 的蒸馏从“对齐点”升级为“对齐分布几何”1对齐目标从 logits 移到 hidden states最后一层传统对齐 vocab 空间的 logits维度几万且尖锐本文对齐 LLM 最后一层隐藏态维度 4096→1024这是多模态证据融合后的语义空间携带了“怎么组织跨模态情感证据”的过程信息2对齐数学从 KL/MSE 换成 Sliced Wasserstein DistanceSWD这是最本质的区别方法几何感知计算方式小样本表现KL 散度❌ 逐 token 加权不看分布形状闭式但只盯 top-1教师分布尖锐时梯度几乎为零MSE / cosine❌ 逐点回归忽略流形结构闭式简单多峰分布下匹配错位Sinkhorn OT✅ 最优传输耦合迭代矩阵缩放O(Kn²)n50~100 时正则系数敏感训练振荡SWD-H本文✅ 最优传输 投影排序闭式排序解O(R·n log n)短序列下稳定无超参敏感SWD 的核心操作把教师/学生隐藏态投影到 200 个随机 1D 方向每个方向上一维投影值各自排序排序后逐位求 L1 距离 → 这就是 1D Wasserstein 距离的闭式解直观理解传统 MSE 是“把 A 的点强行拽到 B 的点”SWD 是“让 A 的点云整体形状和 B 的点云对齐不管哪个点对应哪个点”。3对齐粒度只在答案 token 位置做传统蒸馏所有序列位置一视同仁本文用ignore_index-100的 shifted mask只在答案 token 位置激活 SWD 对齐原因MER 生成答案通常只有 50~100 个 token每个 token 对应一个隐藏向量点云很小。SWD 在小 n 下比 Sinkhorn 稳定得多这也是消融实验里 SWD-H 赢 Sinkhorn 0.49 点的关键4、再加一层蒸馏完还不够用 GRPO 改“生成行为”传统蒸馏的终点是“学生像教师”。但本文发现蒸馏会连教师的坏习惯一起传——比如生成 100 词的冗长情绪描述所以加了一个后处理阶段M-GRPO基于 GRPO 的多奖励强化学习传统蒸馏训练完直接部署本文蒸馏后再跑一轮 GRPO奖励函数包含 6 项r_F1情绪准确率权重 2.0r_fmt格式规范r_brev简洁权重 0.3r_noreason抑制多余推理权重 0.5r_stop干净收尾r_count标签数合理这一步不是蒸馏是策略优化——把“像教师”升级为“比教师更适合部署”。5、总结区别维度传统教师-学生蒸馏Light-MER 蒸馏对齐位置输出 logits / 所有层 MSE最后一层隐藏态答案 token 位置对齐度量KL / MSE / cosineSliced Wasserstein Distance最优传输闭式解分布假设点匹配 / 逐 token 概率匹配经验分布几何匹配训练终点学生逼近教师蒸馏 GRPO 精炼改生成行为在 MER 上的效果被尖锐输出 多峰隐藏态卡死突破瓶颈0.6B 反超 8B本质创新把蒸馏从“模仿教师的答案”升级为“模仿教师组织多模态证据的内部几何结构”再用 RL 把输出修剪成部署友好的短格式。这不是小修小补是蒸馏目标的范式转换。Reference[1] Do We Really Need Multimodal Emotion Language Models Larger Than 1B Parameters 
长河君 · 2026/8/31 14:59:59 · 阅读 1.2k 【VLM】多模态情感分类-蒸馏小模型Light-MER
note任务生成式多模态情感识别MER——输入视频/人脸语音字幕模型用自然语言说出情绪状态如 “nervous, concerned” 或 “neutral”。输出的结果比如The characters emotional state is nervous, concerned.。Light-MER 的蒸馏从 logits 移到 hidden states最后一层、从 KL/MSE 换成 Sliced Wasserstein DistanceSWD工作用一个 0.6B 的多模态小模型Light-MER 学生通过隐藏态 Wasserstein 蒸馏 GRPO 多奖励精炼两段式训练把 8B 多模态情感语言模型的能力搬过来在 9 个情感识别基准上平均反超教师显存从 20GB 压到 2.5GB。这篇把小模型 MER 不行的锅从参数量甩给了蒸馏目标选错——换 SWD 对齐隐状态几何 GRPO 收输出长度0.6B 能在 2.5GB 显存里打出比 8B 更准更快的生成式情绪识别给端侧情感交互陪伴机器人、车载情绪感知、无障碍辅助直接开了道口子。Light-MER 的蒸馏从“对齐点”升级为“对齐分布几何”对齐目标从 logits 移到 hidden states最后一层传统对齐 vocab 空间的 logits维度几万且尖锐本文对齐 LLM 最后一层隐藏态维度 4096→1024这是多模态证据融合后的语义空间携带了“怎么组织跨模态情感证据”的过程信息对齐的数据形式从 KL/MSE 换成 Sliced Wasserstein DistanceSWD文章目录note一、研究动机为什么质疑大于 1B二、Light-MER 的两段式压缩1SWD-H基于 Sliced Wasserstein 的隐藏态蒸馏主增益来源2M-GRPO多奖励 GRPO 生成精炼后处理三、实验结果9 基准音频视频文本全模消融回答每块值多少)蒸馏策略横向比Table 4M-GRPO 质量权衡GPT-5.4 评判Table 5四、分析与启示五、蒸馏手段和传统做法的区别1、传统蒸馏在做什么对齐“输出概率”2、这篇论文的诊断传统蒸馏在 MER 上“没东西可学”3、Light-MER 的蒸馏从“对齐点”升级为“对齐分布几何”1对齐目标从 logits 移到 hidden states最后一层2对齐数学从 KL/MSE 换成 Sliced Wasserstein DistanceSWD3对齐粒度只在答案 token 位置做4、再加一层蒸馏完还不够用 GRPO 改“生成行为”5、总结区别Reference一、研究动机为什么质疑大于 1BACM MM’26 论文《Do We Really Need Multimodal Emotion Language Models Larger Than 1B Parameters?》项目https://github.com/GAIR-Lab/Light-MER核心是用一个0.6B总参 ~855M的学生模型 Light-MER打脸多模态情感语言模型必须 ≥7B的默认假设它在 9 个基准上平均超过 8B 教师推理显存压到 2.54GB。多模态情感识别MER正从判别分类器输出 happy/sad走向生成式 MLLM 用自然语言解释情绪如 AffectGPT、Emotion-LLaMA但这类生成式 MER 系统几乎都绑着≥7B 的解码器带来三个落地痛点算不动8BCLIP-LHuBERT-L 峰值显存 20GB机器人/手机端跑不了出词慢教师模型 descriptive 模式平均出 104 词时延 6.1s/sample蒸馏老办法失效作者做了诊断——8B 教师输出分布 top-1 概率 0.98KL 蒸馏等价于只学 top-1 硬标签而隐藏层 99.2% 维度呈多峰分布MSE 逐点对齐又忽略流形几何于是论文提出一个反直觉问题高质量生成式 MER是否根本不需要 1B 的部署模型前提是——能把大模型的多模态情感推理结构有效压缩进小模型。二、Light-MER 的两段式压缩教师Qwen3-8B CLIP-ViT-L HuBERT-Large冻结仅训练时用学生Qwen3-0.6B CLIP-ViT-B HuBERT-Base LoRA总参854.93M1SWD-H基于 Sliced Wasserstein 的隐藏态蒸馏主增益来源不对齐 logits对齐最后一层隐藏态分布。把教师/学生隐状态投影到共同 1024 维后随机采 200 个 1D 方向做投影两边各排序后求 L1 距离L S W D 1 R n ∑ r 1 R ∥ sort ( H ~ M T θ r ) − sort ( H ~ M S θ r ) ∥ 1 \mathcal{L}_{SWD}\frac{1}{R n}\sum_{r1}^{R}\left\|\operatorname{sort}\left(\tilde{H}_{M}^{T}\theta_{r}\right)-\operatorname{sort}\left(\tilde{H}_{M}^{S}\theta_{r}\right)\right\|_{1}LSWDRn1r1∑Rsort(H~MTθr)−sort(H~MSθr)1为什么比 Sinkhorn OT 好1D Wasserstein 有闭式解排序即最优传输复杂度 O(R·n log n)无熵正则、不迭代MER 答案序列只有 50–100 个 tokenSinkhorn 在小样本下对正则系数敏感会振荡为什么比 MSE/KL 好把隐状态当经验分布做最优传输保留多峰模态证据的几何位置而不是逐点惩罚位移总损失L C E λ S W D ⋅ min ( t / 5000 , 1 ) ⋅ L S W D \mathcal{L}_{CE} \lambda_{SWD}\cdot\min(t/5000,1)\cdot\mathcal{L}_{SWD}LCEλSWD⋅min(t/5000,1)⋅LSWDSWD 权重前 5000 步线性预热2M-GRPO多奖励 GRPO 生成精炼后处理蒸馏完学生还带着教师啰嗦的生成习惯再用 GRPO无 critic省显存跑一轮策略优化。每组同 prompt 采 4 条补全算 group-relative advantage奖励是 6 项加权r 2.0 r F 1 1.0 r f m t 0.3 r b r e v 0.5 r n o r e a s o n 0.3 r s t o p 0.5 r c o u n t r2.0 r_{F1}1.0 r_{fmt}0.3 r_{brev}0.5 r_{noreason}0.3 r_{stop}0.5 r_{count}r2.0rF11.0rfmt0.3rbrev0.5rnoreason0.3rstop0.5rcount即情绪 F1 格式规范 简洁 抑制多余推理 干净收尾 标签数合理。PPO-style clip(ε0.1) KL 锚定参考模型(β1.0)。设计哲学SWD-H 搬内部表征几何M-GRPO 管输出行为收敛——两段各管一端。三、实验结果9 基准音频视频文本全模模型LLM总参Mean(主指标)显存descriptive 时延AffectGPT(7B)7B-69.77--Teacher(Qwen3-8B)8B9.00B73.9320.04GB6.14sLight-MER0.6B0.855B74.612.54GB3.10s全模平均74.61 vs 教师 73.93超 0.689 个里赢 7 个只在 MER2023、MOSEI 上各输 ~1 点参数量11× 压缩FLOPs 11× 降显存 7.9× 降纯音频文本平均 66.40 vs 教师 65.07纯视频文本 65.71 vs 64.44——小模型跨模态子集也全面反超消融回答每块值多少)CE-only 学生mean 70.61已是教师 95.5%SWD-H74.16 →贡献 3.55占总增益 88.8%M-GRPO74.61 → 再 0.45但把 descriptive 输出从 110.5 词压到 70.8 词时延 4.6s→3.1s-32.8%蒸馏策略横向比Table 4SWD-H(74.16) Sinkhorn-OT-hidden(73.67) Unbalanced-OT(73.63) KL-logits(73.49) Position-OT(72.63)。结论隐状态对齐 logits 对齐SWD 其他 OT 变体短序列下排序解比迭代耦合稳。M-GRPO 质量权衡GPT-5.4 评判Table 5Cls 4.47→4.89Flu 3.72→4.24Con 2.87→4.071.20 最大Det 细节覆盖 4.45→3.62 下降Sem 基本稳 → 核心情绪推理没丢丢的是冗长修饰头对头 54% 胜率四、分析与启示1. 大于 1B 不必要成立但有前提不是裸训 0.6B 能赢 8B而是8B 教师 隐状态几何蒸馏 多奖励精炼这条管道能让学生反超。论文真正证明的是蒸馏该对齐的是内部表征分布不是尖锐输出。2. SWD-H 为何在 MER 特别顺MER 生成答案短50–100 token隐状态点云小Sinkhorn 耦合矩阵对正则超参过敏SWD 用随机投影排序闭式解反而小样本更稳——这是方法选型的因果点不是单纯Wasserstein 更高级。3. M-GRPO 的权衡要清醒看奖励里 brevity 权重压下去后基础情绪 HIT 在 MER2023/IEMOCAP 上略掉枚举词少了但 sentiment WAF 和细粒度 Fs 涨。作者主动选了部署友好短输出不是免费午餐。4. 边界与局限教师本身来自 AffectGPT 系MER-Caption 训练蒸馏上限受教师范式绑定9 基准以中英情感/情绪为主未测极端跨域如生理信号、婴幼儿表情2.54GB 能进边缘 GPU但纯 CPU/MCU 仍吃力direct 模式 0.5s/sample 才是机器人可用路径五、蒸馏手段和传统做法的区别这篇论文的蒸馏方式跟传统的“教师-学生”蒸馏相比核心区别不在“有没有教师学生”而在“蒸馏到底对齐什么、用什么数学工具对齐”。1、传统蒸馏在做什么对齐“输出概率”经典蒸馏Hinton et al., 2015以及后续很多 LLM 蒸馏方法如 DistilBERT、MiniLLM本质上都是在输出层做文章Softmax 温度缩放 KL 散度让学生的输出概率分布去逼近教师的软标签MiniLLM / 反向 KL在输出 logits 上做反向 KL避免教师分布有峰而学生覆盖不全的问题TinyBERT除了输出还加了层级的隐藏态 MSE 对齐但依然是逐点回归这类方法的隐含假设是只要输出分布像了学生的能力就继承了。2、这篇论文的诊断传统蒸馏在 MER 上“没东西可学”作者做了个关键实验Section 3.3对比 8B 教师和 0.6B 学生对比维度发现对蒸馏的启示输出概率分布8B 教师 top-1 概率0.98top-2~20 加起来才 0.016KL 蒸馏退化为“只学 top-1 硬标签”几乎没软监督信号隐藏态激活99.2% 的维度呈多峰分布教师和学生峰值位置/高度不同MSE 只能逐点惩罚位移看不到“分布形状”和“模态结构”结论在生成式 MER 里输出层太尖锐、隐藏层太复杂——传统蒸馏的两个主战场都失效了。3、Light-MER 的蒸馏从“对齐点”升级为“对齐分布几何”1对齐目标从 logits 移到 hidden states最后一层传统对齐 vocab 空间的 logits维度几万且尖锐本文对齐 LLM 最后一层隐藏态维度 4096→1024这是多模态证据融合后的语义空间携带了“怎么组织跨模态情感证据”的过程信息2对齐数学从 KL/MSE 换成 Sliced Wasserstein DistanceSWD这是最本质的区别方法几何感知计算方式小样本表现KL 散度❌ 逐 token 加权不看分布形状闭式但只盯 top-1教师分布尖锐时梯度几乎为零MSE / cosine❌ 逐点回归忽略流形结构闭式简单多峰分布下匹配错位Sinkhorn OT✅ 最优传输耦合迭代矩阵缩放O(Kn²)n50~100 时正则系数敏感训练振荡SWD-H本文✅ 最优传输 投影排序闭式排序解O(R·n log n)短序列下稳定无超参敏感SWD 的核心操作把教师/学生隐藏态投影到 200 个随机 1D 方向每个方向上一维投影值各自排序排序后逐位求 L1 距离 → 这就是 1D Wasserstein 距离的闭式解直观理解传统 MSE 是“把 A 的点强行拽到 B 的点”SWD 是“让 A 的点云整体形状和 B 的点云对齐不管哪个点对应哪个点”。3对齐粒度只在答案 token 位置做传统蒸馏所有序列位置一视同仁本文用ignore_index-100的 shifted mask只在答案 token 位置激活 SWD 对齐原因MER 生成答案通常只有 50~100 个 token每个 token 对应一个隐藏向量点云很小。SWD 在小 n 下比 Sinkhorn 稳定得多这也是消融实验里 SWD-H 赢 Sinkhorn 0.49 点的关键4、再加一层蒸馏完还不够用 GRPO 改“生成行为”传统蒸馏的终点是“学生像教师”。但本文发现蒸馏会连教师的坏习惯一起传——比如生成 100 词的冗长情绪描述所以加了一个后处理阶段M-GRPO基于 GRPO 的多奖励强化学习传统蒸馏训练完直接部署本文蒸馏后再跑一轮 GRPO奖励函数包含 6 项r_F1情绪准确率权重 2.0r_fmt格式规范r_brev简洁权重 0.3r_noreason抑制多余推理权重 0.5r_stop干净收尾r_count标签数合理这一步不是蒸馏是策略优化——把“像教师”升级为“比教师更适合部署”。5、总结区别维度传统教师-学生蒸馏Light-MER 蒸馏对齐位置输出 logits / 所有层 MSE最后一层隐藏态答案 token 位置对齐度量KL / MSE / cosineSliced Wasserstein Distance最优传输闭式解分布假设点匹配 / 逐 token 概率匹配经验分布几何匹配训练终点学生逼近教师蒸馏 GRPO 精炼改生成行为在 MER 上的效果被尖锐输出 多峰隐藏态卡死突破瓶颈0.6B 反超 8B本质创新把蒸馏从“模仿教师的答案”升级为“模仿教师组织多模态证据的内部几何结构”再用 RL 把输出修剪成部署友好的短格式。这不是小修小补是蒸馏目标的范式转换。Reference[1] Do We Really Need Multimodal Emotion Language Models Larger Than 1B Parameters