做通信理论和深度学习交叉方向的人几乎都会撞上同一堵墙硬盘里躺着几百篇文献 PDF收藏夹里塞着十几个开源仓库笔记软件里散着一堆只写了一半的公式推导真到动手复现某个想法时还是得从头翻一遍。我最初也只是想做一个简单的整理后来发现文献、代码和阅读笔记这三样东西如果分开存放它们的价值会互相抵消——论文里的假设条件记不住代码里的实现细节对不上笔记里的疑问半年后连自己都看不懂。所以这个汇集库的核心不是“收藏”而是让这三类材料能互相指认、互相校验。这篇文章适合三类人看刚进入这个交叉方向、正在被海量文献淹没的研究生需要把论文方法落到工程链路上的算法工程师以及已经做过一些复现、但发现自己重复劳动特别多的从业者。我会把自己搭这套东西时的目录约定、文献筛选逻辑、笔记模板、最小学术复现链路的代码骨架以及那些只有真跑过才会知道的坑一次讲清楚。你不需要有多深的深度学习背景但至少要能看懂 OFDM 基带模型和最基本的卷积网络。1. 为什么要建一个文献、代码、笔记三位一体的库1.1 只存论文列表会在三个时刻失效第一个时刻是“我要复现它”。论文正文里的信道模型描述往往是压缩过的比如一句“采用抽头延迟线模型功率时延谱服从指数衰减”这里面至少藏着五个待定参数抽头数、时延间隔、归一化方式、采样率假设、是否含直视径。光看 PDF 你补不全必须去找它的开源实现或者自己在笔记里留过推算过程。如果笔记只记了结论没记假设这一篇就等于白存。第二个时刻是“我要证明自己的方法和它不一样”。做交叉方向最怕的是辛苦三个月发现和别人两年前的思路只差一个激活函数。这时候你需要一个能按“方法类型 信道模型 评估口径”三维检索的库而不是按会议名字排的文件夹。按会议分文件夹是收藏行为按问题分文件夹才是研究行为。第三个时刻是“我要复用代码”。同一个信道仿真器你在三个项目里重写了三遍每遍的参数还略有出入最后连自己都说不清哪一版的结果是可信的。代码如果没有和笔记绑定、没有写清楚它在哪篇文献的哪个假设下成立它就只是一次性脚本不是资产。我给自己定的判断标准很土一条材料如果半年后我自己都读不懂、跑不起来那它就不该进库。宁可不存也不要存一堆需要重新理解一遍的东西。1.2 我最终落地的目录约定试过好几个版本最后稳定下来的结构是这样的一个仓库、四个顶层目录全部纳入版本管理大文件用软链或者外部存储索引不要真的塞进 git。comm-dl-notes/ ├── papers/ # 每篇文献一个文件夹含笔记 元信息 │ └── 2023_conf_chest_deep_unfold/ │ ├── note.md # 三段式阅读笔记 │ ├── meta.yaml # 标题/问题/方法/数据集/评估指标 │ └── refs.md # 它引用的、我需要追的关键文献 ├── code/ │ ├── common/ # 信道生成、调制、评估全库共用 │ │ ├── channel.py │ │ ├── metrics.py │ │ └── seeds.py │ └── exp_chest_cnn/ # 每个实验一个独立可跑目录 │ ├── configs/ │ ├── train.py │ └── README.md # 对应哪篇文献、复现到哪一步 ├── notes/ │ ├── topics/ # 按主题沉淀比如信道估计的评估口径 │ └── daily/ # 流水账允许粗糙 └── runs/ # 训练输出、曲线、日志不进版本库关键在code/common这一层。信道生成、信噪比定义、误码率统计这三个东西只要全库统一你就消灭了后面 80% 的“结果对不上”问题。我踩过最典型的一次坑两个实验目录各自写了一份噪声生成代码一份把噪声功率按导频符号功率归一化一份按全带宽总功率归一化两条误码率曲线差了将近 3 dB排查了整整两天。meta.yaml不是形式主义它是让检索成为可能的唯一手段。我的字段固定为problem解决什么问题、method方法大类如深度展开、自编码器、监督去噪、channel信道模型、metric评估指标、baseline对比对象、repro是否复现、复现到哪一步。这六个字段填完你就已经把那篇论文吃透了三分之一。2. 通信理论与深度学习交叉的问题地图2.1 五个高频交叉点及其落地难度这个领域看着很大实际高频的落点就那么几个。我把它们按“理论成熟度”和“工程落地难度”排了一下这张表我放在库的首页用来快速判断一篇新文献该往哪个格子里塞。交叉方向典型做法理论成熟度落地难度主要瓶颈信道估计与去噪LS/MMSE 后接卷积或 Transformer 去噪、深度展开高低泛化到未训练的信道模型CSI 反馈压缩自编码器 量化编码器在终端、解码器在基站中高中量化与反馈开销的真实建模端到端收发机把调制解调视为自编码器信道作为不可训练层中中高与现有标准链路的兼容信道译码神经网络辅助的置信传播、学习型因子图中高时延、吞吐与硬件实现调制识别与频谱感知IQ 序列分类、时序模型中中真实数据的分布偏移语义/任务导向通信联合信源信道编码、面向任务的特征传输低高评价体系尚未统一这张表最有用的地方不是分类而是提醒我“别在低成熟度方向上死磕复现”。语义通信那块不同论文的评价指标五花八门有的用重建质量有的用下游任务准确率你根本没法横向比较硬复现只会把自己耗死。反过来信道估计与去噪这一格因为基带模型清晰、评估指标单一归一化均方误差加误码率是最适合新手建立完整复现肌肉记忆的入口。我在实际选择时还有一条隐藏标准这篇论文的方法能不能塞进现有的、模块化的链路里。能塞进去的说明它的接口定义清楚塞不进去的往往意味着作者自己也没想清楚输入输出到底是什么。2.2 一篇文献值不值得复现的四个过滤问题文献读多了会有一个错觉觉得每篇都值得动手。我的经验是用四个问题快速过一遍能筛掉八成。第一问它的输入到底是什么是接收信号的原始采样、频域导频观测、还是已经过信道估计的粗估计这个问题答不上来的论文基本可以直接归档不看了因为它的实验部分一定也写得含糊。第二问它的监督信号从哪来很多去噪类工作用的是“真实信道 噪声”合成训练集那就要问训练时的信道分布和测试时的信道分布是不是同一套生成器如果是那它本质上是在学过拟合一个已知分布性能好看但迁移性存疑。这个问题能帮你提前判断复现出来的结果该不该高兴。第三问它的复杂度代价写清楚了没有参数量、推理时延、是否需要迭代。我见过不少论文只报增益不报代价等你复现完发现推理时延是基线的二十倍工程上根本不可用。第四问它的对比基线是不是“调过的”判断方法很朴素看基线的参数有没有说明来源看基线在低信噪比区间的曲线是否异常平滑。基线没有调优的论文增益数字参考价值有限。我的习惯是把这四问的答案直接写进meta.yaml的repro字段写成“值得复现 / 只读结论 / 待观察”三档。三个月后回头看这个字段比任何笔记都省时间。3. 文献整理让半年后的自己还能检索到3.1 命名规则与标签体系文件名是一切的入口。我用的格式是年份_来源_主题关键词_一句话方法.md比如2023_conf_chest_deep_unfold.md、2022_journal_csifeedback_quantized_ae.md。不要用论文原始标题当文件名太长了而且在终端里根本看不清。一句话方法用四到六个字强迫自己压缩这个压缩过程本身就是理解。标签体系我控制在三个维度、每个维度不超过八个值多了就失去意义问题维度信道估计、CSI 反馈、译码、调制识别、端到端方法维度监督去噪、深度展开、自编码器、强化学习、模型驱动场景维度单天线、大规模天线、高移动、低信噪比、量化约束三个维度交叉检索基本能在十秒内定位到你要找的那批文献。这套东西听着简单但一定要在文献量还小的时候建立等到三百篇再回头补标签人的惰性会赢。我还会在每篇笔记的开头写一行“反查指针”这篇解决了哪篇留下的坑又被哪篇超越了。文献不是孤立的点是一条有因果链的线。把这条线画出来你在写自己的论文或者做技术选型时才知道自己站在哪个位置。这一行字我通常是在读完相关工作的第三节之后才敢写因为只有那时候你才知道作者自己认为的对手是谁。3.2 三段式阅读笔记模板笔记模板我用过很多种最后精简到三段超过三段的部分一律放进topics/里单独成文。原因是每篇都写长篇笔记写不动也读不完。第一段一句话结论加一句个人判断。比如“用展开网络替代迭代阈值算法在低信噪比下增益约 2 dB但参数量随迭代次数线性增长工程上要把迭代次数压到 5 以内”。结论必须是可证伪的数字不能是“效果显著提升”这种废话。第二段关键公式与假设条件。这一段的写法有讲究不要抄论文的公式要写下你自己推导时的中间步骤尤其是那些论文跳过的步骤。比如从最小二乘估计推到线性最小均方误差估计中间用到了信道与噪声不相关的假设这个假设在什么情况下不成立一定要写下来。我给自己定的规矩是凡是我抄下来的公式一周后必须能不看原文重新推一遍推不出来说明当时就没懂。第三段复现要点与遗留疑问。写清楚需要哪些输入、输出维度是什么、训练数据怎么来、大概需要多少算力、有哪些地方论文没写清楚。遗留疑问这一栏最有价值我库里的技术方向基本都是从这里长出来的——同一个疑问在不同论文的笔记里反复出现三次那就是一个真问题。举个具体的例子。有一篇讨论深度展开信道估计的文章我在笔记第三段记下的疑问是“展开层数增加后训练集上的归一化均方误差持续下降但验证集在第六层之后开始回升作者没有讨论这个问题。”这个疑问后来变成了我自己做实验的一个切入点展开网络的层数和信道时变速度之间是否存在匹配关系。这种从笔记里长出来的问题比你硬想出来的选题要扎实得多。4. 代码复现从公式到能跑通的最小链路4.1 依赖固化与随机种子代码目录的第一条纪律任何实验目录必须能在新环境里一条命令重建。我的做法是每个实验目录放一个requirements.txt加一个configs/base.yaml版本号全部锁死不用。这不是洁癖是因为深度学习框架的小版本变动会改变默认初始化方式你半年前跑出的结果换个环境就复现不出来。随机种子要单独抽成一个模块统一管理三处数据生成、参数初始化、批次采样。很多人的种子只设了框架那个全局种子忘了数据生成用的是另一套随机数发生器结果每次跑出来的信道实现都不一样曲线抖得厉害还以为是模型不稳定。# code/common/seeds.py import random import numpy as np import torch def set_seed(seed: int 20240101): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark False关掉benchmark会让训练慢一点但换来的是可复现性做研究阶段我认为这笔交易划算。等到做部署性能测试时再单独打开。4.2 一个最小可跑的信道估计实验下面这条链路是我用来给新人练手的标准件也放在code/exp_chest_cnn/里。它足够小单卡几分钟能跑完一轮但把“数据生成 → 传统基线 → 神经网络 → 评估”四个环节全串起来了。先看数据生成。这里用的是典型的多径抽头延迟线模型功率时延谱按指数衰减频域信道通过离散傅里叶变换得到导频均匀插入。# code/common/channel.py import numpy as np N_FFT, N_TAP, N_PILOT 64, 8, 16 P_IDX np.arange(0, N_FFT, N_FFT // N_PILOT) # 每 4 个子载波放一个导频 def gen_batch(batch256, snr_db10.0, rngNone): rng rng or np.random.default_rng(0) # 指数衰减功率时延谱归一化到单位总功率 pdp np.exp(-np.arange(N_TAP) / 2.0) pdp pdp / pdp.sum() # 复高斯抽头 g np.sqrt(pdp / 2) * ( rng.standard_normal((batch, N_TAP)) 1j * rng.standard_normal((batch, N_TAP)) ) # 频域信道响应 H g F^T n np.arange(N_FFT) F np.exp(-2j * np.pi * np.outer(n, np.arange(N_TAP)) / N_FFT) H g F.T # (batch, N_FFT) # 导频符号功率归一为 1噪声方差即 10^(-snr/10) sigma2 10 ** (-snr_db / 10) noise np.sqrt(sigma2 / 2) * ( rng.standard_normal((batch, N_PILOT)) 1j * rng.standard_normal((batch, N_PILOT)) ) H_ls H[:, P_IDX] noise # 导频位置的最小二乘估计 return H, H_ls这里必须写清楚一件事信噪比是按导频子载波上的符号功率定义的。如果你后面把噪声加到全带宽上或者导频符号带了功率提升这个定义就变了曲线立刻对不上。这条注释我要求写在函数里而不是文档里因为看代码的人不看文档。然后是插值基线和网络。基线用线性插值把导频位置的估计扩展到全带宽网络在这个粗估计上做残差修正。这种“传统方法打底、网络做修正”的结构比让网络从零学映射要稳得多收敛也快。# code/common/interp.py import numpy as np def linear_interp(H_ls, n_fftN_FFT): xp P_IDX / (N_FFT - 1) x np.arange(n_fft) / (n_fft - 1) re np.interp(x, xp, H_ls.real) # 沿最后一维插值 im np.interp(x, xp, H_ls.imag) return re 1j * im注意np.interp在边界之外会取端点值也就是外推成常数。这在导频贴着带宽边缘放置时问题不大但如果你的导频图案中间有空洞边界行为会影响误码率平台这一点后面排查章节还会提到。网络部分输入是两个实数通道实部和虚部输出是同样形状的残差# code/exp_chest_cnn/model.py import torch import torch.nn as nn class ResCNN(nn.Module): def __init__(self, ch32): super().__init__() self.body nn.Sequential( nn.Conv2d(2, ch, 3, padding1), nn.ReLU(), nn.Conv2d(ch, ch, 3, padding1), nn.ReLU(), nn.Conv2d(ch, 2, 3, padding1), ) def forward(self, x): # x: (B, 2, N_FFT, 1) return x self.body(x) # 学习残差而非直接映射训练循环里有两个细节值得单独说。一是损失函数我用的是归一化均方误差而不是普通均方误差因为不同批次的信道功率有波动普通均方误差会让网络偏向功率大的样本。二是数据是每步在线生成的不预先存成固定数据集这样每一轮看到的信道实现都不同相当于一种数据增强但也意味着你必须保证生成器的随机性是可复现的。# code/exp_chest_cnn/train.py核心片段 import numpy as np, torch, torch.nn as nn from common.channel import gen_batch from common.interp import linear_interp from common.seeds import set_seed from model import ResCNN set_seed(20240101) rng np.random.default_rng(20240101) net ResCNN().cuda() opt torch.optim.Adam(net.parameters(), lr1e-3) def to_tensor(H): H torch.from_numpy(H).cuda() x torch.stack([H.real, H.imag], dim1) # (B, 2, N_FFT) return x.unsqueeze(-1) # (B, 2, N_FFT, 1) for step in range(20000): snr rng.uniform(-5, 20) # 混合信噪比训练 H, H_ls gen_batch(batch256, snr_dbsnr, rngrng) H_coarse linear_interp(H_ls) x to_tensor(H_coarse) y to_tensor(H) pred net(x) num ((pred - y) ** 2).sum(dim(1, 2, 3)) den (y ** 2).sum(dim(1, 2, 3)) 1e-12 loss (num / den).mean() # 归一化均方误差 opt.zero_grad(); loss.backward(); opt.step()混合信噪比训练这一点是我试过多次之后确定下来的。如果只用单一信噪比训练模型在高信噪比区间几乎不带来增益噪声本来就小在低信噪比区间又会过度平滑用 -5 到 20 dB 的均匀采样模型学到的是“不同噪声水平下该保留多少细节”泛化明显更好。代价是单一信噪比下的峰值性能会略低于专门训练的模型这是个明确的取舍不是缺陷。4.3 评估口径三个指标必须同时报复现最容易翻车的地方不是模型是评估。我要求自己每个实验必须同时报三个数归一化均方误差、误码率、推理耗时。只报前两个的论文工程上没法用只报后两个的看不出方法本身的增益。指标计算方式常见陷阱归一化均方误差误差功率期望除以信道功率期望分母用了估计值而非真值导致指标偏乐观误码率固定调制方式下按比特统计未说明是否含信道编码、是否理想同步推理耗时单批次平均前向时间固定批大小未报告硬件与批大小数字无法比较误码率这一项特别要说清楚如果你的系统里还有信道编码那误码率曲线是编码前的还是编码后的差别巨大两条曲线能差一个数量级。我在meta.yaml里专门加了一个字段记这件事因为横向对比时不统一这个口径所有结论都不成立。还有一个小细节评估阶段必须固定信道生成器的种子而且要和训练用的种子分开。用训练种子评估等于在训练分布上评估数字会虚高。我的做法是训练用 20240101评估用 77777两个种子写死在配置里任何人拉下来跑都是同一批测试信道。5. 踩坑与排查实录5.1 信噪比定义与归一化的三类事故第一类噪声加到哪一级。加在导频观测上、加在接收信号上、加在频域还是时域这四种组合的功率归一化方式完全不同。我见过最隐蔽的一次噪声在时域生成然后做傅里叶变换到频域变换本身不改变总功率但会重新分配如果代码里又按子载波功率补了一次归一化等效信噪比就偏了。解决办法只有一条在数据生成函数的返回值里同时返回实际的信噪比训练前打印一行核对别嫌麻烦。第二类信道功率归一化。多径信道的抽头功率和你设定的功率时延谱之间差一个总功率因子。如果忘了归一化信道整体偏强等效信噪比偏低你会看到所有方法在小信噪比区间都表现很差误以为是模型不行。我现在的做法是在gen_batch里强制断言pdp.sum()接近 1不满足直接报错。第三类网络输出和输入的尺度不一致。残差结构下这个风险小一些但如果你用的是直接映射网络直接输出信道输出层没有约束训练初期预测值可能比真值大好几个数量级梯度直接爆掉。这种情况加个输出归一化或者干脆改成残差结构比调学习率有效得多。提示任何一次实验先在无噪声条件下跑一遍。如果无噪声时归一化均方误差还下不去那问题一定在代码结构上跟噪声、跟模型容量都没关系。5.2 结果对不上时的二分排查法复现结果和论文差距大不要一上来就怀疑模型。我固定用下面这个顺序二分第一步把噪声关掉只留信道。看估计误差是否趋近于零。如果这一步就失败说明数据生成或者网络输入输出对接错了后面所有对比都没意义。第二步去掉神经网络只跑传统基线最小二乘加线性插值。把这个基线在高信噪比下的误码率曲线和理论预期比。如果基线本身就是错的说明你的链路模型和论文不是同一个。第三步把训练集和测试集换成同一批信道实现看模型能不能过拟合到接近零误差。如果连过拟合都做不到那是优化问题学习率、初始化、损失尺度不是泛化问题。第四步恢复正常设置只改变一个变量先只改信噪比范围再只改信道模型再只改网络深度。每次只动一个记下来。这套流程看着笨但它能把“不知道哪里错了”变成“知道哪里没错”。我实际排查中七成的问题都止步于第一步或第二步。还有一类特殊情况值得单独提训练损失正常下降但验证集指标在某个点之后变差。这时候先别怀疑过拟合去看看验证集用的信道模型是不是和训练集不同。如果不同那这不是过拟合是分布偏移解决方案是扩大训练时的信道模型范围而不是加正则化。5.3 常见问题速查表现象大概率原因处理方式误码率曲线整体平移信噪比定义或功率归一化不一致打印实际信噪比核对噪声注入层级训练损失不下降损失尺度太大或学习率过高改用归一化损失学习率降一个数量级验证指标抖动剧烈每轮信道实现数太少增大验证集批次或固定验证信道集高信噪比无增益单一信噪比训练改混合信噪比采样换信道模型后崩溃训练分布过窄扩充抽头数与时延扩展范围推理耗时远超预期网络通道数或层数过多先砍通道数再看深度是否必要复跑结果不一致种子未覆盖数据生成统一管理三处随机源这张表我贴在实验目录的README.md顶部新人进来先看这个能省掉大量重复提问。它不是穷举但它覆盖了实际会遇到的大部分情况。6. 维护节奏与几条个人体会6.1 每周固定动作这套库最大的敌人不是技术难度是停止维护。我给自己定了三个固定动作每个都不超过一小时。每周一是“清空收件箱”把上周存下来但没分类的文献快速过一遍四问分成值得复现、只读结论、归档三档只处理一遍不拖延。每周三是“跑通一次”随便挑一个实验目录从零开始按README.md重建环境跑一遍最少的轮次。这个动作听起来多余但它是唯一能保证“半年后还能跑”的办法我靠它发现过好几次依赖悄悄失效的问题。每周五是“补笔记”把这一周实验里冒出来的疑问写进对应文献的第三段或者独立成一篇topics/文章。三个月下来库里的有效条目会稳定增长而且每一条都是能跑、能读、能追溯的。这比收藏夹里躺三千篇要值钱得多。6.2 关于失败复现的记录价值最后说一个我踩了很久才想明白的点复现失败的记录价值不低于成功的。我早期只记成功案例失败的直接删掉。结果半年后同一个坑又踩了一遍因为我不记得自己试过了。现在的做法是任何一次复现失败都要在README.md里写清楚三件事试到哪一步、卡在什么现象、怀疑是什么原因。哪怕最后没解决这段记录也能让下一次尝试从第三步开始而不是从零开始。有一条具体的经验如果一个方法你复现了两次都没跑出论文的数字第三次就别再硬试了转而去看它的消融实验设计。很多论文的增益其实来自训练技巧或者数据增强而不是它主推的那个结构这些东西正文里往往一笔带过只有在你把消融实验重做一遍时才会暴露出来。我目前库里有三篇文献被标成“增益存疑”都源于此而这个标注本身比复现成功更有信息量。库建起来之后你会发现真正的收益不在“我存了多少”而在“我知道自己不知道什么”。那些反复出现的疑问、反复失败的实验、反复对不上的曲线才是这个方向上真正值得投入的地方。 
长河君 · 2026/11/3 23:52:42 · 阅读 1.2k 通信与深度学习交叉研究：文献、代码与笔记三位一体复现库
做通信理论和深度学习交叉方向的人几乎都会撞上同一堵墙硬盘里躺着几百篇文献 PDF收藏夹里塞着十几个开源仓库笔记软件里散着一堆只写了一半的公式推导真到动手复现某个想法时还是得从头翻一遍。我最初也只是想做一个简单的整理后来发现文献、代码和阅读笔记这三样东西如果分开存放它们的价值会互相抵消——论文里的假设条件记不住代码里的实现细节对不上笔记里的疑问半年后连自己都看不懂。所以这个汇集库的核心不是“收藏”而是让这三类材料能互相指认、互相校验。这篇文章适合三类人看刚进入这个交叉方向、正在被海量文献淹没的研究生需要把论文方法落到工程链路上的算法工程师以及已经做过一些复现、但发现自己重复劳动特别多的从业者。我会把自己搭这套东西时的目录约定、文献筛选逻辑、笔记模板、最小学术复现链路的代码骨架以及那些只有真跑过才会知道的坑一次讲清楚。你不需要有多深的深度学习背景但至少要能看懂 OFDM 基带模型和最基本的卷积网络。1. 为什么要建一个文献、代码、笔记三位一体的库1.1 只存论文列表会在三个时刻失效第一个时刻是“我要复现它”。论文正文里的信道模型描述往往是压缩过的比如一句“采用抽头延迟线模型功率时延谱服从指数衰减”这里面至少藏着五个待定参数抽头数、时延间隔、归一化方式、采样率假设、是否含直视径。光看 PDF 你补不全必须去找它的开源实现或者自己在笔记里留过推算过程。如果笔记只记了结论没记假设这一篇就等于白存。第二个时刻是“我要证明自己的方法和它不一样”。做交叉方向最怕的是辛苦三个月发现和别人两年前的思路只差一个激活函数。这时候你需要一个能按“方法类型 信道模型 评估口径”三维检索的库而不是按会议名字排的文件夹。按会议分文件夹是收藏行为按问题分文件夹才是研究行为。第三个时刻是“我要复用代码”。同一个信道仿真器你在三个项目里重写了三遍每遍的参数还略有出入最后连自己都说不清哪一版的结果是可信的。代码如果没有和笔记绑定、没有写清楚它在哪篇文献的哪个假设下成立它就只是一次性脚本不是资产。我给自己定的判断标准很土一条材料如果半年后我自己都读不懂、跑不起来那它就不该进库。宁可不存也不要存一堆需要重新理解一遍的东西。1.2 我最终落地的目录约定试过好几个版本最后稳定下来的结构是这样的一个仓库、四个顶层目录全部纳入版本管理大文件用软链或者外部存储索引不要真的塞进 git。comm-dl-notes/ ├── papers/ # 每篇文献一个文件夹含笔记 元信息 │ └── 2023_conf_chest_deep_unfold/ │ ├── note.md # 三段式阅读笔记 │ ├── meta.yaml # 标题/问题/方法/数据集/评估指标 │ └── refs.md # 它引用的、我需要追的关键文献 ├── code/ │ ├── common/ # 信道生成、调制、评估全库共用 │ │ ├── channel.py │ │ ├── metrics.py │ │ └── seeds.py │ └── exp_chest_cnn/ # 每个实验一个独立可跑目录 │ ├── configs/ │ ├── train.py │ └── README.md # 对应哪篇文献、复现到哪一步 ├── notes/ │ ├── topics/ # 按主题沉淀比如信道估计的评估口径 │ └── daily/ # 流水账允许粗糙 └── runs/ # 训练输出、曲线、日志不进版本库关键在code/common这一层。信道生成、信噪比定义、误码率统计这三个东西只要全库统一你就消灭了后面 80% 的“结果对不上”问题。我踩过最典型的一次坑两个实验目录各自写了一份噪声生成代码一份把噪声功率按导频符号功率归一化一份按全带宽总功率归一化两条误码率曲线差了将近 3 dB排查了整整两天。meta.yaml不是形式主义它是让检索成为可能的唯一手段。我的字段固定为problem解决什么问题、method方法大类如深度展开、自编码器、监督去噪、channel信道模型、metric评估指标、baseline对比对象、repro是否复现、复现到哪一步。这六个字段填完你就已经把那篇论文吃透了三分之一。2. 通信理论与深度学习交叉的问题地图2.1 五个高频交叉点及其落地难度这个领域看着很大实际高频的落点就那么几个。我把它们按“理论成熟度”和“工程落地难度”排了一下这张表我放在库的首页用来快速判断一篇新文献该往哪个格子里塞。交叉方向典型做法理论成熟度落地难度主要瓶颈信道估计与去噪LS/MMSE 后接卷积或 Transformer 去噪、深度展开高低泛化到未训练的信道模型CSI 反馈压缩自编码器 量化编码器在终端、解码器在基站中高中量化与反馈开销的真实建模端到端收发机把调制解调视为自编码器信道作为不可训练层中中高与现有标准链路的兼容信道译码神经网络辅助的置信传播、学习型因子图中高时延、吞吐与硬件实现调制识别与频谱感知IQ 序列分类、时序模型中中真实数据的分布偏移语义/任务导向通信联合信源信道编码、面向任务的特征传输低高评价体系尚未统一这张表最有用的地方不是分类而是提醒我“别在低成熟度方向上死磕复现”。语义通信那块不同论文的评价指标五花八门有的用重建质量有的用下游任务准确率你根本没法横向比较硬复现只会把自己耗死。反过来信道估计与去噪这一格因为基带模型清晰、评估指标单一归一化均方误差加误码率是最适合新手建立完整复现肌肉记忆的入口。我在实际选择时还有一条隐藏标准这篇论文的方法能不能塞进现有的、模块化的链路里。能塞进去的说明它的接口定义清楚塞不进去的往往意味着作者自己也没想清楚输入输出到底是什么。2.2 一篇文献值不值得复现的四个过滤问题文献读多了会有一个错觉觉得每篇都值得动手。我的经验是用四个问题快速过一遍能筛掉八成。第一问它的输入到底是什么是接收信号的原始采样、频域导频观测、还是已经过信道估计的粗估计这个问题答不上来的论文基本可以直接归档不看了因为它的实验部分一定也写得含糊。第二问它的监督信号从哪来很多去噪类工作用的是“真实信道 噪声”合成训练集那就要问训练时的信道分布和测试时的信道分布是不是同一套生成器如果是那它本质上是在学过拟合一个已知分布性能好看但迁移性存疑。这个问题能帮你提前判断复现出来的结果该不该高兴。第三问它的复杂度代价写清楚了没有参数量、推理时延、是否需要迭代。我见过不少论文只报增益不报代价等你复现完发现推理时延是基线的二十倍工程上根本不可用。第四问它的对比基线是不是“调过的”判断方法很朴素看基线的参数有没有说明来源看基线在低信噪比区间的曲线是否异常平滑。基线没有调优的论文增益数字参考价值有限。我的习惯是把这四问的答案直接写进meta.yaml的repro字段写成“值得复现 / 只读结论 / 待观察”三档。三个月后回头看这个字段比任何笔记都省时间。3. 文献整理让半年后的自己还能检索到3.1 命名规则与标签体系文件名是一切的入口。我用的格式是年份_来源_主题关键词_一句话方法.md比如2023_conf_chest_deep_unfold.md、2022_journal_csifeedback_quantized_ae.md。不要用论文原始标题当文件名太长了而且在终端里根本看不清。一句话方法用四到六个字强迫自己压缩这个压缩过程本身就是理解。标签体系我控制在三个维度、每个维度不超过八个值多了就失去意义问题维度信道估计、CSI 反馈、译码、调制识别、端到端方法维度监督去噪、深度展开、自编码器、强化学习、模型驱动场景维度单天线、大规模天线、高移动、低信噪比、量化约束三个维度交叉检索基本能在十秒内定位到你要找的那批文献。这套东西听着简单但一定要在文献量还小的时候建立等到三百篇再回头补标签人的惰性会赢。我还会在每篇笔记的开头写一行“反查指针”这篇解决了哪篇留下的坑又被哪篇超越了。文献不是孤立的点是一条有因果链的线。把这条线画出来你在写自己的论文或者做技术选型时才知道自己站在哪个位置。这一行字我通常是在读完相关工作的第三节之后才敢写因为只有那时候你才知道作者自己认为的对手是谁。3.2 三段式阅读笔记模板笔记模板我用过很多种最后精简到三段超过三段的部分一律放进topics/里单独成文。原因是每篇都写长篇笔记写不动也读不完。第一段一句话结论加一句个人判断。比如“用展开网络替代迭代阈值算法在低信噪比下增益约 2 dB但参数量随迭代次数线性增长工程上要把迭代次数压到 5 以内”。结论必须是可证伪的数字不能是“效果显著提升”这种废话。第二段关键公式与假设条件。这一段的写法有讲究不要抄论文的公式要写下你自己推导时的中间步骤尤其是那些论文跳过的步骤。比如从最小二乘估计推到线性最小均方误差估计中间用到了信道与噪声不相关的假设这个假设在什么情况下不成立一定要写下来。我给自己定的规矩是凡是我抄下来的公式一周后必须能不看原文重新推一遍推不出来说明当时就没懂。第三段复现要点与遗留疑问。写清楚需要哪些输入、输出维度是什么、训练数据怎么来、大概需要多少算力、有哪些地方论文没写清楚。遗留疑问这一栏最有价值我库里的技术方向基本都是从这里长出来的——同一个疑问在不同论文的笔记里反复出现三次那就是一个真问题。举个具体的例子。有一篇讨论深度展开信道估计的文章我在笔记第三段记下的疑问是“展开层数增加后训练集上的归一化均方误差持续下降但验证集在第六层之后开始回升作者没有讨论这个问题。”这个疑问后来变成了我自己做实验的一个切入点展开网络的层数和信道时变速度之间是否存在匹配关系。这种从笔记里长出来的问题比你硬想出来的选题要扎实得多。4. 代码复现从公式到能跑通的最小链路4.1 依赖固化与随机种子代码目录的第一条纪律任何实验目录必须能在新环境里一条命令重建。我的做法是每个实验目录放一个requirements.txt加一个configs/base.yaml版本号全部锁死不用。这不是洁癖是因为深度学习框架的小版本变动会改变默认初始化方式你半年前跑出的结果换个环境就复现不出来。随机种子要单独抽成一个模块统一管理三处数据生成、参数初始化、批次采样。很多人的种子只设了框架那个全局种子忘了数据生成用的是另一套随机数发生器结果每次跑出来的信道实现都不一样曲线抖得厉害还以为是模型不稳定。# code/common/seeds.py import random import numpy as np import torch def set_seed(seed: int 20240101): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark False关掉benchmark会让训练慢一点但换来的是可复现性做研究阶段我认为这笔交易划算。等到做部署性能测试时再单独打开。4.2 一个最小可跑的信道估计实验下面这条链路是我用来给新人练手的标准件也放在code/exp_chest_cnn/里。它足够小单卡几分钟能跑完一轮但把“数据生成 → 传统基线 → 神经网络 → 评估”四个环节全串起来了。先看数据生成。这里用的是典型的多径抽头延迟线模型功率时延谱按指数衰减频域信道通过离散傅里叶变换得到导频均匀插入。# code/common/channel.py import numpy as np N_FFT, N_TAP, N_PILOT 64, 8, 16 P_IDX np.arange(0, N_FFT, N_FFT // N_PILOT) # 每 4 个子载波放一个导频 def gen_batch(batch256, snr_db10.0, rngNone): rng rng or np.random.default_rng(0) # 指数衰减功率时延谱归一化到单位总功率 pdp np.exp(-np.arange(N_TAP) / 2.0) pdp pdp / pdp.sum() # 复高斯抽头 g np.sqrt(pdp / 2) * ( rng.standard_normal((batch, N_TAP)) 1j * rng.standard_normal((batch, N_TAP)) ) # 频域信道响应 H g F^T n np.arange(N_FFT) F np.exp(-2j * np.pi * np.outer(n, np.arange(N_TAP)) / N_FFT) H g F.T # (batch, N_FFT) # 导频符号功率归一为 1噪声方差即 10^(-snr/10) sigma2 10 ** (-snr_db / 10) noise np.sqrt(sigma2 / 2) * ( rng.standard_normal((batch, N_PILOT)) 1j * rng.standard_normal((batch, N_PILOT)) ) H_ls H[:, P_IDX] noise # 导频位置的最小二乘估计 return H, H_ls这里必须写清楚一件事信噪比是按导频子载波上的符号功率定义的。如果你后面把噪声加到全带宽上或者导频符号带了功率提升这个定义就变了曲线立刻对不上。这条注释我要求写在函数里而不是文档里因为看代码的人不看文档。然后是插值基线和网络。基线用线性插值把导频位置的估计扩展到全带宽网络在这个粗估计上做残差修正。这种“传统方法打底、网络做修正”的结构比让网络从零学映射要稳得多收敛也快。# code/common/interp.py import numpy as np def linear_interp(H_ls, n_fftN_FFT): xp P_IDX / (N_FFT - 1) x np.arange(n_fft) / (n_fft - 1) re np.interp(x, xp, H_ls.real) # 沿最后一维插值 im np.interp(x, xp, H_ls.imag) return re 1j * im注意np.interp在边界之外会取端点值也就是外推成常数。这在导频贴着带宽边缘放置时问题不大但如果你的导频图案中间有空洞边界行为会影响误码率平台这一点后面排查章节还会提到。网络部分输入是两个实数通道实部和虚部输出是同样形状的残差# code/exp_chest_cnn/model.py import torch import torch.nn as nn class ResCNN(nn.Module): def __init__(self, ch32): super().__init__() self.body nn.Sequential( nn.Conv2d(2, ch, 3, padding1), nn.ReLU(), nn.Conv2d(ch, ch, 3, padding1), nn.ReLU(), nn.Conv2d(ch, 2, 3, padding1), ) def forward(self, x): # x: (B, 2, N_FFT, 1) return x self.body(x) # 学习残差而非直接映射训练循环里有两个细节值得单独说。一是损失函数我用的是归一化均方误差而不是普通均方误差因为不同批次的信道功率有波动普通均方误差会让网络偏向功率大的样本。二是数据是每步在线生成的不预先存成固定数据集这样每一轮看到的信道实现都不同相当于一种数据增强但也意味着你必须保证生成器的随机性是可复现的。# code/exp_chest_cnn/train.py核心片段 import numpy as np, torch, torch.nn as nn from common.channel import gen_batch from common.interp import linear_interp from common.seeds import set_seed from model import ResCNN set_seed(20240101) rng np.random.default_rng(20240101) net ResCNN().cuda() opt torch.optim.Adam(net.parameters(), lr1e-3) def to_tensor(H): H torch.from_numpy(H).cuda() x torch.stack([H.real, H.imag], dim1) # (B, 2, N_FFT) return x.unsqueeze(-1) # (B, 2, N_FFT, 1) for step in range(20000): snr rng.uniform(-5, 20) # 混合信噪比训练 H, H_ls gen_batch(batch256, snr_dbsnr, rngrng) H_coarse linear_interp(H_ls) x to_tensor(H_coarse) y to_tensor(H) pred net(x) num ((pred - y) ** 2).sum(dim(1, 2, 3)) den (y ** 2).sum(dim(1, 2, 3)) 1e-12 loss (num / den).mean() # 归一化均方误差 opt.zero_grad(); loss.backward(); opt.step()混合信噪比训练这一点是我试过多次之后确定下来的。如果只用单一信噪比训练模型在高信噪比区间几乎不带来增益噪声本来就小在低信噪比区间又会过度平滑用 -5 到 20 dB 的均匀采样模型学到的是“不同噪声水平下该保留多少细节”泛化明显更好。代价是单一信噪比下的峰值性能会略低于专门训练的模型这是个明确的取舍不是缺陷。4.3 评估口径三个指标必须同时报复现最容易翻车的地方不是模型是评估。我要求自己每个实验必须同时报三个数归一化均方误差、误码率、推理耗时。只报前两个的论文工程上没法用只报后两个的看不出方法本身的增益。指标计算方式常见陷阱归一化均方误差误差功率期望除以信道功率期望分母用了估计值而非真值导致指标偏乐观误码率固定调制方式下按比特统计未说明是否含信道编码、是否理想同步推理耗时单批次平均前向时间固定批大小未报告硬件与批大小数字无法比较误码率这一项特别要说清楚如果你的系统里还有信道编码那误码率曲线是编码前的还是编码后的差别巨大两条曲线能差一个数量级。我在meta.yaml里专门加了一个字段记这件事因为横向对比时不统一这个口径所有结论都不成立。还有一个小细节评估阶段必须固定信道生成器的种子而且要和训练用的种子分开。用训练种子评估等于在训练分布上评估数字会虚高。我的做法是训练用 20240101评估用 77777两个种子写死在配置里任何人拉下来跑都是同一批测试信道。5. 踩坑与排查实录5.1 信噪比定义与归一化的三类事故第一类噪声加到哪一级。加在导频观测上、加在接收信号上、加在频域还是时域这四种组合的功率归一化方式完全不同。我见过最隐蔽的一次噪声在时域生成然后做傅里叶变换到频域变换本身不改变总功率但会重新分配如果代码里又按子载波功率补了一次归一化等效信噪比就偏了。解决办法只有一条在数据生成函数的返回值里同时返回实际的信噪比训练前打印一行核对别嫌麻烦。第二类信道功率归一化。多径信道的抽头功率和你设定的功率时延谱之间差一个总功率因子。如果忘了归一化信道整体偏强等效信噪比偏低你会看到所有方法在小信噪比区间都表现很差误以为是模型不行。我现在的做法是在gen_batch里强制断言pdp.sum()接近 1不满足直接报错。第三类网络输出和输入的尺度不一致。残差结构下这个风险小一些但如果你用的是直接映射网络直接输出信道输出层没有约束训练初期预测值可能比真值大好几个数量级梯度直接爆掉。这种情况加个输出归一化或者干脆改成残差结构比调学习率有效得多。提示任何一次实验先在无噪声条件下跑一遍。如果无噪声时归一化均方误差还下不去那问题一定在代码结构上跟噪声、跟模型容量都没关系。5.2 结果对不上时的二分排查法复现结果和论文差距大不要一上来就怀疑模型。我固定用下面这个顺序二分第一步把噪声关掉只留信道。看估计误差是否趋近于零。如果这一步就失败说明数据生成或者网络输入输出对接错了后面所有对比都没意义。第二步去掉神经网络只跑传统基线最小二乘加线性插值。把这个基线在高信噪比下的误码率曲线和理论预期比。如果基线本身就是错的说明你的链路模型和论文不是同一个。第三步把训练集和测试集换成同一批信道实现看模型能不能过拟合到接近零误差。如果连过拟合都做不到那是优化问题学习率、初始化、损失尺度不是泛化问题。第四步恢复正常设置只改变一个变量先只改信噪比范围再只改信道模型再只改网络深度。每次只动一个记下来。这套流程看着笨但它能把“不知道哪里错了”变成“知道哪里没错”。我实际排查中七成的问题都止步于第一步或第二步。还有一类特殊情况值得单独提训练损失正常下降但验证集指标在某个点之后变差。这时候先别怀疑过拟合去看看验证集用的信道模型是不是和训练集不同。如果不同那这不是过拟合是分布偏移解决方案是扩大训练时的信道模型范围而不是加正则化。5.3 常见问题速查表现象大概率原因处理方式误码率曲线整体平移信噪比定义或功率归一化不一致打印实际信噪比核对噪声注入层级训练损失不下降损失尺度太大或学习率过高改用归一化损失学习率降一个数量级验证指标抖动剧烈每轮信道实现数太少增大验证集批次或固定验证信道集高信噪比无增益单一信噪比训练改混合信噪比采样换信道模型后崩溃训练分布过窄扩充抽头数与时延扩展范围推理耗时远超预期网络通道数或层数过多先砍通道数再看深度是否必要复跑结果不一致种子未覆盖数据生成统一管理三处随机源这张表我贴在实验目录的README.md顶部新人进来先看这个能省掉大量重复提问。它不是穷举但它覆盖了实际会遇到的大部分情况。6. 维护节奏与几条个人体会6.1 每周固定动作这套库最大的敌人不是技术难度是停止维护。我给自己定了三个固定动作每个都不超过一小时。每周一是“清空收件箱”把上周存下来但没分类的文献快速过一遍四问分成值得复现、只读结论、归档三档只处理一遍不拖延。每周三是“跑通一次”随便挑一个实验目录从零开始按README.md重建环境跑一遍最少的轮次。这个动作听起来多余但它是唯一能保证“半年后还能跑”的办法我靠它发现过好几次依赖悄悄失效的问题。每周五是“补笔记”把这一周实验里冒出来的疑问写进对应文献的第三段或者独立成一篇topics/文章。三个月下来库里的有效条目会稳定增长而且每一条都是能跑、能读、能追溯的。这比收藏夹里躺三千篇要值钱得多。6.2 关于失败复现的记录价值最后说一个我踩了很久才想明白的点复现失败的记录价值不低于成功的。我早期只记成功案例失败的直接删掉。结果半年后同一个坑又踩了一遍因为我不记得自己试过了。现在的做法是任何一次复现失败都要在README.md里写清楚三件事试到哪一步、卡在什么现象、怀疑是什么原因。哪怕最后没解决这段记录也能让下一次尝试从第三步开始而不是从零开始。有一条具体的经验如果一个方法你复现了两次都没跑出论文的数字第三次就别再硬试了转而去看它的消融实验设计。很多论文的增益其实来自训练技巧或者数据增强而不是它主推的那个结构这些东西正文里往往一笔带过只有在你把消融实验重做一遍时才会暴露出来。我目前库里有三篇文献被标成“增益存疑”都源于此而这个标注本身比复现成功更有信息量。库建起来之后你会发现真正的收益不在“我存了多少”而在“我知道自己不知道什么”。那些反复出现的疑问、反复失败的实验、反复对不上的曲线才是这个方向上真正值得投入的地方。