简介这份文档是南京邮电大学通达学院《机器学习》期末大作业的参考报告面向需要完成医疗保健智能系统设计任务的高校学生重点解决从选题构思、系统框架到实验评估设计的写作难题。压缩包内仅含1个docx文件大小约29KB正文以膀胱癌诊断为例梳理数据收集、特征提取与模型选择、交叉验证及准确率、召回率、F1分数等评估指标的设计思路并围绕系统示意图与不少于1500字的报告结构展开便于对照课程要求组织内容。目前已有1024人学习下载适合用作课程作业参考、系统设计思路借鉴与医疗机器学习案例学习也可为后续相关项目提供可复用的报告框架和案例素材。1. 医疗机器学习为什么 95% 的准确率往往不是模型的功劳一份医学影像的机器学习报告里出现「准确率 95%」多数人的第一反应是模型选得漂亮。真实的因果链通常相反决定这个数字的是数据进模型之前那几百行预处理代码以及样本被怎么切分。同一个单隐层网络归一化放在划分之前还是之后报告上的数字能差出二十个百分点。这份课程设计围绕膀胱癌的无创诊断、分级、治疗预后展开覆盖影像、尿脱落细胞、基因表达三类数据本质上是把「数据收集、数据处理、实验评估」这三步走了一遍。值得搞懂的地方不在于它用了什么算法而在于每一步的误差是怎么被放大或压住的——看懂这层你才能判断一个 97% 是真本事还是数据泄漏留下的痕迹。下面从数据管线开始一层层拆到反向传播和阈值选择。2. 数据管线为什么去噪和归一化的顺序决定了模型上限2.1 从一张 MRI 到一行特征向量原始影像对模型来说是不可读的不同设备、不同层厚、不同扫描参数像素灰度值的绝对大小根本没有跨样本可比性。研究里常见的做法是先把盆腔 MRI 按肿瘤所在层面挑出来一个患者取四个不同水平的切层四十例凑成一百六十张图这个数量级决定了后面所有设计的上限。接着是分割。把肿瘤区域从背景里抠出来只保留感兴趣区这一步的精度直接决定后面形状特征有没有意义——分割边界抖动两个像素球形度就能变一个量级。分割之后才轮到去噪和归一化再往后是特征提取。常见的特征族大致分四类各自的噪声敏感度差别很大特征族代表量对噪声敏感度典型维度一阶灰度统计均值、方差、偏度、峰度低4 到 8灰度共生矩阵纹理对比度、能量、相关性、同质性高20 到 50形状描述面积、周长、球形度、紧致度中依赖分割质量5 到 10小波高频能量各频段能量比很高100 以上一百六十个样本配上一百多维特征是典型的宽数据。我一般会这么理解纹理特征之所以在论文里表现忽好忽坏是因为它统计的是相邻像素的联合分布噪声斑点会系统性地抬高对比度、压低同质性相当于给每个样本加了一个与标签无关但方差不小的扰动项。把特征压到十几维、以形状和一阶统计为主模型反而更稳。2.2 顺序问题先去噪再归一化还是反过来这两步看起来都是「让数据变干净」但作用对象完全不同。去噪处理的是像素级的离群值归一化处理的是样本级的尺度差异。顺序一旦颠倒后果很直接先做 z-score少数几个高亮噪点会剧烈拉高均值、拉大标准差真正有信息的组织灰度被压缩到一个很窄的区间里后面再怎么裁剪都救不回来。import numpy as np def normalize_slice(vol, clip_percent(1, 99)): MRI 单层归一化先百分位截尾去极值再 z-score。 顺序不能反先 z-score 会让少数高亮噪点主导均值与方差。 lo, hi np.percentile(vol, clip_percent) # 取 1% 和 99% 分位作为上下界 vol np.clip(vol, lo, hi) # 截尾压掉极亮/极暗噪点 mu, sigma vol.mean(), vol.std() return (vol - mu) / (sigma 1e-8) # 加极小量防止常数层除零 def normalize_ct(vol, window(-100, 300)): CT 走的是另一套HU 值有物理意义用固定窗宽窗位裁剪即可。 vol np.clip(vol, *window) return (vol - window[0]) / (window[1] - window[0])clip_percent取 1 和 99 而不是 0 和 100是因为影像边缘常有一圈接近饱和的伪影截掉百分之一的尾部就能把它们排除同时保留软组织的主要动态范围。CT 不一样HU 值是标定过的物理量水的 HU 是 0、空气接近 -1000所以用固定窗裁剪比用分位数更合理——同一窗宽下不同医院的图像可以直接比较这也是为什么 CT 的跨中心迁移通常比 MRI 容易。这里埋了一个雷mu和sigma必须来自训练集再原样作用到验证集和测试集。如果对全量数据统一算均值和标准差测试集的分布信息就提前泄漏进了训练过程第五章会专门拆这个现场。2.3 基因表达矩阵五万多个探针怎么走到十几个基因影像那条路的瓶颈是样本量基因表达这条路的瓶颈是维度。一次微阵列分析产出五万多个探针的荧光强度而样本往往只有几十例——四十六例样本配五万六千维特征任何分类器都能在训练集上做到 100%所以这条路的全部技术含量都在降维上。常见的处理顺序是这样的先把探针映射到基因符号一个基因对应多个探针时取表达量最大的那个或取均值再做 log2 变换把乘性噪声变成加性然后用表达量下限和方差下限过滤掉在样本间几乎不变的基因五万多个探针通常能砍到几千接下来是统计筛选对每个基因做两组间的检验按统计量排序取前几百个在这个维度上做层次聚类看样本能不能自然分成两群——这是无监督的一步作用是确认数据里确实存在可分结构而不是硬凑最后才是有监督的特征选择和交叉验证把候选基因压到十几个构建分类器。一套完整走下来最终十几个基因构成的分类器在预测上做到七成多的准确率。这个数字比影像那篇的 95% 低很多但可信度反而更高四十六例样本、五万维输入任何漂亮的数字都要先怀疑筛选过程有没有混进标签信息。真正扎实的结论往往长得不好看。顺带说一句另一项研究用的是遗传规划做特征组合——把「某个基因表达量高于阈值」当成一条布尔规则让规则在交叉、变异、选择中迭代最后挑出几条规则做投票。这种做法的好处是输出天然可读医生能看懂「这三条规则里满足两条就判为高复发风险」代价是搜索空间大、容易在训练集上过拟合第四章会拿它做例子讲清楚。3. 人工神经网络为什么它能把年龄、分期和染色结果塞进同一个向量3.1 一个神经元就是一次带偏置的加权求和把所有输入掰开看单个神经元的计算只有两步先把每个输入乘上对应权重再求和、加偏置得到 z再对 z 做一次非线性变换得到输出。写成式子就是 z 等于各输入的加权和输出等于激活函数作用在 z 上。逻辑回归也是这个结构区别只在于它直接把 z 送进 sigmoid 就完事中间不插隐藏层。这个差别听起来很小实际决定了模型能不能吃下医学数据。临床变量和结局之间的关系极少是单调线性的肿瘤大小和复发风险不是一条直线分期和生存率的关系在某个点上会陡降年龄的影响在两端都不单调。逻辑回归要拟合这种关系得靠人工构造平方项、交互项而人工构造的前提是你已经知道该构造什么——这恰恰是研究想回答的问题。隐藏层的作用就是把这件事自动化多个神经元各自在输入空间里切出一个方向下一层再把这些切分组合起来等价于自己学出了交互项。代价是可解释性。逻辑回归的系数能直接读成「这个指标每升高一个单位风险的优势比变成多少」而一个八维输入、八个隐藏单元的网络里权重矩阵乘起来之后没有任何一行对临床医生有意义。这个取舍在最后一章还会回来。3.2 反向传播误差怎么被分摊到每个权重上原文里那句「为了减少误差神经元和权重需重新调整后再进入下一个训练周期迭代直到分类错误达到最小值」说的就是梯度下降加反向传播只是没展开。把它写出来大概长这样import numpy as np def sigmoid(z): return 1.0 / (1.0 np.exp(-z)) def train_mlp(X, y, hidden8, lr0.05, epochs3000, patience100): 单隐层 MLPX 为标准化后的特征矩阵y 为 0/1 标签列向量。 n, d X.shape rng np.random.default_rng(0) # He 初始化方差随输入维度缩放避免深层激活值塌缩 W1 rng.normal(0, np.sqrt(2.0 / d), (d, hidden)); b1 np.zeros(hidden) W2 rng.normal(0, np.sqrt(2.0 / hidden), (hidden, 1)); b2 np.zeros(1) best, wait, best_params np.inf, 0, None for epoch in range(epochs): # 前向z1 - ReLU - z2 - sigmoid z1 X W1 b1 a1 np.maximum(z1, 0.0) p sigmoid(a1 W2 b2) eps 1e-9 loss -np.mean(y * np.log(p eps) (1 - y) * np.log(1 - p eps)) # 反向交叉熵对 z2 的梯度恰好是 (p - y) / n dz2 (p - y) / n dW2 a1.T dz2; db2 dz2.sum(axis0) da1 dz2 W2.T dz1 da1 * (z1 0) # ReLU 的导数正区间为 1其余为 0 dW1 X.T dz1; db1 dz1.sum(axis0) W1 - lr * dW1; b1 - lr * db1 W2 - lr * dW2; b2 - lr * db2 if loss best - 1e-6: # 早停连续 patience 轮没有改善就退出 best, wait, best_params loss, 0, (W1, b1, W2, b2) else: wait 1 if wait patience: break return best_params, best几个参数的实际含义值得说清楚。hidden设成 8 是因为输入只有八维左右隐藏单元数远大于输入维度在小样本上几乎没有收益只会让每次初始化的结果差异变大。lr取 0.05 配合标准化后的输入比较稳输入没标准化时梯度尺度差异会大到让训练直接发散。patience控制早停配合验证集损失使用——盯训练损失早停是没有意义的它只会单调下降。最关键的一行是dz2 (p - y) / n。交叉熵配 sigmoid 时损失对输出的梯度会退化成「预测减真值」这么简洁的形式这是这套组合在分类任务里被默认使用的原因之一。也正因为梯度正比于残差那些预测已经很准的样本几乎不再贡献梯度模型会自动把注意力转向分错的样本——这在阳性样本稀少时是好事但也会放大噪声样本的影响所以标签质量差的队列里MLP 往往不如逻辑回归稳。3.3 输入层编码八个字段变成多少维一项针对灌注治疗后复发预测的研究输入是年龄、性别、肿瘤分期、分级、原位癌、肿瘤大小、多发性和某个免疫组化染色指标输出是是否复发。原始表格是八列但直接把这八列喂进网络是最常见的翻车点。年龄做标准化除以标准差之后梯度尺度才和其他变量一致。性别是天然的 0/1。分期和分级是序数变量用序号编码会把「分级 1 和分级 3 的距离是分级 1 和分级 2 的两倍」这个假设强加给模型而病理上这个距离没有意义用 one-hot 编码则把每一级当成独立类别维度涨上去小样本下更稀疏。折中的做法是保留序数编码但对非线性关系留一层隐藏单元去拟合或者干脆两种编码都跑一遍做对比——如果结果差很多说明数据量不足以支撑这个假设。肿瘤大小通常取对数因为体积和风险的关系更接近乘性。染色指标是连续百分比标准化即可。缺失值要单独处理均值填充会把缺失样本拉向人群中心让模型误以为这个患者「正常」更稳的做法是填充中位数的同时加一个「是否缺失」的指示列让模型自己决定要不要相信这个值。八列经过 one-hot 之后大概三十维左右对一百多例样本来说已经接近上限。这也是为什么这类研究里经常看到直接用逻辑回归做基线——在三百维以下、样本两百例以内的场景两者差距常常落在置信区间里。4. 评估设计为什么 100% 的验证集准确率比 79% 更可疑4.1 三分法与 k 折划分的粒度决定结论的强度一项尿脱落细胞研究把一百一十五例样本按比例分成训练组七十九例、验证组十八例、测试组十八例训练后在验证组上做到全部正确在测试组上错了一例。这三个数字放在一起看才有意义验证组的 100% 说明模型拟合得不错测试组的九成四说明泛化性能两者之间的落差才是真实信息。三分法的问题是方差大。十八例的测试集错一例就从 100% 掉到 94.4%再错一例就掉到 89%。样本量这么小的时候单次划分得到的数字基本没有统计意义。k 折交叉验证解决的是这个问题把数据切成 k 份轮流留一份做验证最后报告均值加标准差。真正要报告的从来不是某个点估计而是「在多次划分下这个模型的准确率稳定在什么区间」。from sklearn.pipeline import Pipeline from sklearn.preprocessing import StandardScaler from sklearn.linear_model import LogisticRegression from sklearn.model_selection import StratifiedGroupKFold, cross_validate from sklearn.metrics import make_scorer, recall_score, roc_auc_score # 预处理必须放进 Pipeline每一折内部只 fit 训练部分避免归一化泄漏 pipe Pipeline([ (sc, StandardScaler()), (clf, LogisticRegression(max_iter1000, class_weightbalanced)), ]) cv StratifiedGroupKFold(n_splits5) # 分层 按患者分组同一患者的多张切片不会跨折 scoring { acc: accuracy, sen: make_scorer(recall_score), # 敏感度 召回率 spe: make_scorer(recall_score, pos_label0), # 特异度 阴性类的召回率 auc: roc_auc, } res cross_validate(pipe, X, y, groupspatient_id, cvcv, scoringscoring)这段代码有两处容易被忽略。第一StandardScaler放在Pipeline里面交叉验证每一折都会重新fit测试折的均值方差不会污染训练如果把它拿出来在循环外面先fit_transform一遍得到的分数会显著偏高而且偏高的幅度随特征维度增加而变大。第二StratifiedGroupKFold的groups参数按患者编号分组同一个患者的多个切层必须落在同一折里——同一个人不同层面的图像高度相似分到两边等于让模型在考试前看过答案。4.2 敏感度、特异度与投票规则三基因为什么赢过五基因另一项针对术后五年复发的研究走的是遗传规划那条路最终得到两组候选规则三个基因的组合和五个基因的组合各自构成投票分类器。结果看起来有点反直觉规则组合训练集敏感度测试集敏感度训练集特异度测试集特异度五基因投票77%69%85%62%三基因投票80.4%71%90%67%训练集上三基因的敏感度略高测试集上也是三基因更好同时特异度全面领先。规则更少反而更准原因在于规则的来源遗传规划在搜索过程中不断组合规则每多加一条规则就多一个可以在训练集上拟合的旋钮而一百多例样本根本撑不起这个自由度。五条规则里有两条大概率是在拟合训练集的噪声到了测试集反而拖后腿。这也是为什么这类研究报告里必须同时给出训练集和测试集四个数字。只报测试集的 71% 看不出问题只报训练集的 80.4% 会被误认为是过拟合只有并排放在一起读者才能判断模型是真的学到了规律还是记住了样本。投票机制本身也值得说一句。多数投票等价于给每个弱规则相同的权重而加权投票让表现好的规则说话更响。在小样本场景下多数投票通常更稳因为权重本身也是从有限数据里估出来的估得不准时加权反而放大误差。4.3 阈值分类器输出的是概率判定是另一件事几乎所有报告都默认用 0.5 做判定阈值但这个默认值没有任何临床依据。模型输出的是一个概率把概率映射成「阳性/阴性」是一次决策决策要考虑的是两类错误的代价。以复发预测为例漏掉一个真正会复发的患者代价是错过干预窗口把一个不会复发的患者判为高风险代价是多一次随访或者一次不必要的治疗。这两者的代价显然不对等所以在保证特异度可接受的前提下阈值应该往下调让更多可疑样本被判为阳性。调整之后准确率通常会下降敏感度会上升——这时候准确率就不是合适的汇报指标了应该报 ROC 曲线下面积它衡量的是模型在所有阈值下的排序能力与阈值选择无关。还有一个常被忽略的点是概率校准。网络输出的 0.8 不一定意味着八成概率尤其在正负样本比例悬殊时模型会系统性地把概率压向多数类。用 Platt 缩放或者等渗回归在验证集上做一次校准输出的数字才能直接拿去和医生沟通。这一步不改变 AUC但会改变阈值选择的结果进而改变最终报告里的敏感度和特异度。5. 避坑与排查五个把 95% 打回 70% 的现场5.1 归一化写在划分之前现象交叉验证准确率 96%换一批外部数据立刻掉到 70% 出头两个数字对不上。原因全量数据先做了 z-score 再划分测试集的均值和方差参与了训练阶段的标准化。特征维度越高、样本越少这个泄漏带来的虚高越明显——五万维基因数据上虚高可以到二十个百分点以上。解决所有依赖数据分布的预处理都塞进Pipeline让它在每一折内部只对训练部分fit。外部验证时直接用训练集保存下来的均值方差不要重新算。5.2 同一患者的多张切片跨了训练集和测试集现象模型在测试集上表现极好但换成另一家医院的数据就崩了且崩得很不规律。原因一个患者取四个层面的图像这四张图高度相似。随机划分把它们分到两边测试集里有一半样本在训练集里存在「近亲」模型相当于提前见过答案。解决划分时按患者 ID 分组GroupKFold或者StratifiedGroupKFold。数据里如果没有患者 ID 字段先去补补不出来就别做患者级结论。5.3 类别不平衡下的准确率幻觉现象阳性样本只占两成模型准确率 80%看起来还不错但敏感度接近于零。原因全部预测为阴性就能拿到 80% 的准确率这个基线被忽略了。小样本医学数据里阳性比例天然偏低靠准确率挑模型等于在奖励偷懒。解决先算出多数类基线报告里必须写损失函数加类别权重或者用重采样评估指标换成敏感度、特异度、F1、AUC 一起看。任何一个单独的数字都不足以支撑结论。5.4 拿测试集调超参数现象反复调整隐藏层单元数、学习率、正则强度每次都在测试集上看一眼效果最后测试集准确率 94%换个队列就剩 65%。原因测试集被当成了第二个验证集调参过程本身就是一次对测试集的拟合。试过二十组配置后报出来的最优值已经包含了测试集的信息。解决划分出独立的验证集做模型选择测试集只在最后用一次用完就封存。样本实在不够时用嵌套交叉验证——内层调参、外层评估报告的分数才是无偏的。5.5 特征重要度没人看得懂现象模型说最重要的特征是某个灰度共生矩阵的同质性分量临床医生听完没有任何反应项目推进不下去。原因纹理特征和医生描述肿瘤时使用的高级语义边界是否清晰、强化是否均匀之间没有直接映射。模型的「解释」在统计上成立在语义上断裂。解决报告里同时给两级解释一级是统计特征的重要度另一级是把特征回溯到可观察的影像表现或者直接换成能输出规则、能画决策路径的模型牺牲一点精度换可沟通性。这件事没有技术捷径只能靠和临床方反复对齐。6. 设计取舍可解释性、样本量与进入临床之间的距离把这些研究放在一起看会发现准确率的分布很有规律影像分级诊断能到 95% 上下尿细胞学辅助诊断在九成左右而术后五年生存率预测普遍在七成到八成之间。这个梯度不是算法水平的差异是任务本身的难度差异——影像判读的标签来自病理金标准噪声小生存率预测的标签混杂了治疗方案、随访质量、患者依从性同一个模型再怎么调也压不住这部分方差。看到数字先问任务再看模型顺序不能反。模型选型在两百例以内的数据集上其实没有多大腾挪空间模型小样本下的稳定性可解释性调参成本报告里怎么论证逻辑回归高方差小强系数可直接读低作为基线其余模型需显著优于它单隐层 MLP中随初始化波动弱中需多次随机种子给区间不能只报最优树集成中偏高中有特征重要度中重要度排序需与领域知识对照正则化极限学习机中训练快弱低需说明正则项如何选定真正决定一个系统能不能往临床走的往往不是表里任何一列。数据收集阶段如果只拿到单一中心、单一设备的影像模型学到的可能是设备的成像特性而不是疾病本身特征工程阶段如果筛掉的基因恰好是生物学上更本质的那批模型精度再高也只是在拟合样本实验评估阶段如果只报一个点估计而不报波动范围读者无从判断这个数字离随机猜有多远。这份课程设计文档把三步走的骨架、各类数据的处理路径和评估指标都摊开了对着跑一遍比看十篇综述更能建立直觉。我自己的习惯是拿到任何一份带准确率的医学机器学习结果先翻到数据划分那一节看归一化到底是在划分前还是划分后做的看分组依据是患者还是图像。这个动作救过我很多次也让我养成了写报告时把预处理顺序画进流程图的习惯——不然三个月后回头看自己的代码根本想不起来当时为什么那么写。希望帮到你。本文还有配套的精品资源点击获取 
长河君 · 2026/11/3 2:57:52 · 阅读 1.2k 医疗机器学习准确率背后的数据泄漏与评估设计
简介这份文档是南京邮电大学通达学院《机器学习》期末大作业的参考报告面向需要完成医疗保健智能系统设计任务的高校学生重点解决从选题构思、系统框架到实验评估设计的写作难题。压缩包内仅含1个docx文件大小约29KB正文以膀胱癌诊断为例梳理数据收集、特征提取与模型选择、交叉验证及准确率、召回率、F1分数等评估指标的设计思路并围绕系统示意图与不少于1500字的报告结构展开便于对照课程要求组织内容。目前已有1024人学习下载适合用作课程作业参考、系统设计思路借鉴与医疗机器学习案例学习也可为后续相关项目提供可复用的报告框架和案例素材。1. 医疗机器学习为什么 95% 的准确率往往不是模型的功劳一份医学影像的机器学习报告里出现「准确率 95%」多数人的第一反应是模型选得漂亮。真实的因果链通常相反决定这个数字的是数据进模型之前那几百行预处理代码以及样本被怎么切分。同一个单隐层网络归一化放在划分之前还是之后报告上的数字能差出二十个百分点。这份课程设计围绕膀胱癌的无创诊断、分级、治疗预后展开覆盖影像、尿脱落细胞、基因表达三类数据本质上是把「数据收集、数据处理、实验评估」这三步走了一遍。值得搞懂的地方不在于它用了什么算法而在于每一步的误差是怎么被放大或压住的——看懂这层你才能判断一个 97% 是真本事还是数据泄漏留下的痕迹。下面从数据管线开始一层层拆到反向传播和阈值选择。2. 数据管线为什么去噪和归一化的顺序决定了模型上限2.1 从一张 MRI 到一行特征向量原始影像对模型来说是不可读的不同设备、不同层厚、不同扫描参数像素灰度值的绝对大小根本没有跨样本可比性。研究里常见的做法是先把盆腔 MRI 按肿瘤所在层面挑出来一个患者取四个不同水平的切层四十例凑成一百六十张图这个数量级决定了后面所有设计的上限。接着是分割。把肿瘤区域从背景里抠出来只保留感兴趣区这一步的精度直接决定后面形状特征有没有意义——分割边界抖动两个像素球形度就能变一个量级。分割之后才轮到去噪和归一化再往后是特征提取。常见的特征族大致分四类各自的噪声敏感度差别很大特征族代表量对噪声敏感度典型维度一阶灰度统计均值、方差、偏度、峰度低4 到 8灰度共生矩阵纹理对比度、能量、相关性、同质性高20 到 50形状描述面积、周长、球形度、紧致度中依赖分割质量5 到 10小波高频能量各频段能量比很高100 以上一百六十个样本配上一百多维特征是典型的宽数据。我一般会这么理解纹理特征之所以在论文里表现忽好忽坏是因为它统计的是相邻像素的联合分布噪声斑点会系统性地抬高对比度、压低同质性相当于给每个样本加了一个与标签无关但方差不小的扰动项。把特征压到十几维、以形状和一阶统计为主模型反而更稳。2.2 顺序问题先去噪再归一化还是反过来这两步看起来都是「让数据变干净」但作用对象完全不同。去噪处理的是像素级的离群值归一化处理的是样本级的尺度差异。顺序一旦颠倒后果很直接先做 z-score少数几个高亮噪点会剧烈拉高均值、拉大标准差真正有信息的组织灰度被压缩到一个很窄的区间里后面再怎么裁剪都救不回来。import numpy as np def normalize_slice(vol, clip_percent(1, 99)): MRI 单层归一化先百分位截尾去极值再 z-score。 顺序不能反先 z-score 会让少数高亮噪点主导均值与方差。 lo, hi np.percentile(vol, clip_percent) # 取 1% 和 99% 分位作为上下界 vol np.clip(vol, lo, hi) # 截尾压掉极亮/极暗噪点 mu, sigma vol.mean(), vol.std() return (vol - mu) / (sigma 1e-8) # 加极小量防止常数层除零 def normalize_ct(vol, window(-100, 300)): CT 走的是另一套HU 值有物理意义用固定窗宽窗位裁剪即可。 vol np.clip(vol, *window) return (vol - window[0]) / (window[1] - window[0])clip_percent取 1 和 99 而不是 0 和 100是因为影像边缘常有一圈接近饱和的伪影截掉百分之一的尾部就能把它们排除同时保留软组织的主要动态范围。CT 不一样HU 值是标定过的物理量水的 HU 是 0、空气接近 -1000所以用固定窗裁剪比用分位数更合理——同一窗宽下不同医院的图像可以直接比较这也是为什么 CT 的跨中心迁移通常比 MRI 容易。这里埋了一个雷mu和sigma必须来自训练集再原样作用到验证集和测试集。如果对全量数据统一算均值和标准差测试集的分布信息就提前泄漏进了训练过程第五章会专门拆这个现场。2.3 基因表达矩阵五万多个探针怎么走到十几个基因影像那条路的瓶颈是样本量基因表达这条路的瓶颈是维度。一次微阵列分析产出五万多个探针的荧光强度而样本往往只有几十例——四十六例样本配五万六千维特征任何分类器都能在训练集上做到 100%所以这条路的全部技术含量都在降维上。常见的处理顺序是这样的先把探针映射到基因符号一个基因对应多个探针时取表达量最大的那个或取均值再做 log2 变换把乘性噪声变成加性然后用表达量下限和方差下限过滤掉在样本间几乎不变的基因五万多个探针通常能砍到几千接下来是统计筛选对每个基因做两组间的检验按统计量排序取前几百个在这个维度上做层次聚类看样本能不能自然分成两群——这是无监督的一步作用是确认数据里确实存在可分结构而不是硬凑最后才是有监督的特征选择和交叉验证把候选基因压到十几个构建分类器。一套完整走下来最终十几个基因构成的分类器在预测上做到七成多的准确率。这个数字比影像那篇的 95% 低很多但可信度反而更高四十六例样本、五万维输入任何漂亮的数字都要先怀疑筛选过程有没有混进标签信息。真正扎实的结论往往长得不好看。顺带说一句另一项研究用的是遗传规划做特征组合——把「某个基因表达量高于阈值」当成一条布尔规则让规则在交叉、变异、选择中迭代最后挑出几条规则做投票。这种做法的好处是输出天然可读医生能看懂「这三条规则里满足两条就判为高复发风险」代价是搜索空间大、容易在训练集上过拟合第四章会拿它做例子讲清楚。3. 人工神经网络为什么它能把年龄、分期和染色结果塞进同一个向量3.1 一个神经元就是一次带偏置的加权求和把所有输入掰开看单个神经元的计算只有两步先把每个输入乘上对应权重再求和、加偏置得到 z再对 z 做一次非线性变换得到输出。写成式子就是 z 等于各输入的加权和输出等于激活函数作用在 z 上。逻辑回归也是这个结构区别只在于它直接把 z 送进 sigmoid 就完事中间不插隐藏层。这个差别听起来很小实际决定了模型能不能吃下医学数据。临床变量和结局之间的关系极少是单调线性的肿瘤大小和复发风险不是一条直线分期和生存率的关系在某个点上会陡降年龄的影响在两端都不单调。逻辑回归要拟合这种关系得靠人工构造平方项、交互项而人工构造的前提是你已经知道该构造什么——这恰恰是研究想回答的问题。隐藏层的作用就是把这件事自动化多个神经元各自在输入空间里切出一个方向下一层再把这些切分组合起来等价于自己学出了交互项。代价是可解释性。逻辑回归的系数能直接读成「这个指标每升高一个单位风险的优势比变成多少」而一个八维输入、八个隐藏单元的网络里权重矩阵乘起来之后没有任何一行对临床医生有意义。这个取舍在最后一章还会回来。3.2 反向传播误差怎么被分摊到每个权重上原文里那句「为了减少误差神经元和权重需重新调整后再进入下一个训练周期迭代直到分类错误达到最小值」说的就是梯度下降加反向传播只是没展开。把它写出来大概长这样import numpy as np def sigmoid(z): return 1.0 / (1.0 np.exp(-z)) def train_mlp(X, y, hidden8, lr0.05, epochs3000, patience100): 单隐层 MLPX 为标准化后的特征矩阵y 为 0/1 标签列向量。 n, d X.shape rng np.random.default_rng(0) # He 初始化方差随输入维度缩放避免深层激活值塌缩 W1 rng.normal(0, np.sqrt(2.0 / d), (d, hidden)); b1 np.zeros(hidden) W2 rng.normal(0, np.sqrt(2.0 / hidden), (hidden, 1)); b2 np.zeros(1) best, wait, best_params np.inf, 0, None for epoch in range(epochs): # 前向z1 - ReLU - z2 - sigmoid z1 X W1 b1 a1 np.maximum(z1, 0.0) p sigmoid(a1 W2 b2) eps 1e-9 loss -np.mean(y * np.log(p eps) (1 - y) * np.log(1 - p eps)) # 反向交叉熵对 z2 的梯度恰好是 (p - y) / n dz2 (p - y) / n dW2 a1.T dz2; db2 dz2.sum(axis0) da1 dz2 W2.T dz1 da1 * (z1 0) # ReLU 的导数正区间为 1其余为 0 dW1 X.T dz1; db1 dz1.sum(axis0) W1 - lr * dW1; b1 - lr * db1 W2 - lr * dW2; b2 - lr * db2 if loss best - 1e-6: # 早停连续 patience 轮没有改善就退出 best, wait, best_params loss, 0, (W1, b1, W2, b2) else: wait 1 if wait patience: break return best_params, best几个参数的实际含义值得说清楚。hidden设成 8 是因为输入只有八维左右隐藏单元数远大于输入维度在小样本上几乎没有收益只会让每次初始化的结果差异变大。lr取 0.05 配合标准化后的输入比较稳输入没标准化时梯度尺度差异会大到让训练直接发散。patience控制早停配合验证集损失使用——盯训练损失早停是没有意义的它只会单调下降。最关键的一行是dz2 (p - y) / n。交叉熵配 sigmoid 时损失对输出的梯度会退化成「预测减真值」这么简洁的形式这是这套组合在分类任务里被默认使用的原因之一。也正因为梯度正比于残差那些预测已经很准的样本几乎不再贡献梯度模型会自动把注意力转向分错的样本——这在阳性样本稀少时是好事但也会放大噪声样本的影响所以标签质量差的队列里MLP 往往不如逻辑回归稳。3.3 输入层编码八个字段变成多少维一项针对灌注治疗后复发预测的研究输入是年龄、性别、肿瘤分期、分级、原位癌、肿瘤大小、多发性和某个免疫组化染色指标输出是是否复发。原始表格是八列但直接把这八列喂进网络是最常见的翻车点。年龄做标准化除以标准差之后梯度尺度才和其他变量一致。性别是天然的 0/1。分期和分级是序数变量用序号编码会把「分级 1 和分级 3 的距离是分级 1 和分级 2 的两倍」这个假设强加给模型而病理上这个距离没有意义用 one-hot 编码则把每一级当成独立类别维度涨上去小样本下更稀疏。折中的做法是保留序数编码但对非线性关系留一层隐藏单元去拟合或者干脆两种编码都跑一遍做对比——如果结果差很多说明数据量不足以支撑这个假设。肿瘤大小通常取对数因为体积和风险的关系更接近乘性。染色指标是连续百分比标准化即可。缺失值要单独处理均值填充会把缺失样本拉向人群中心让模型误以为这个患者「正常」更稳的做法是填充中位数的同时加一个「是否缺失」的指示列让模型自己决定要不要相信这个值。八列经过 one-hot 之后大概三十维左右对一百多例样本来说已经接近上限。这也是为什么这类研究里经常看到直接用逻辑回归做基线——在三百维以下、样本两百例以内的场景两者差距常常落在置信区间里。4. 评估设计为什么 100% 的验证集准确率比 79% 更可疑4.1 三分法与 k 折划分的粒度决定结论的强度一项尿脱落细胞研究把一百一十五例样本按比例分成训练组七十九例、验证组十八例、测试组十八例训练后在验证组上做到全部正确在测试组上错了一例。这三个数字放在一起看才有意义验证组的 100% 说明模型拟合得不错测试组的九成四说明泛化性能两者之间的落差才是真实信息。三分法的问题是方差大。十八例的测试集错一例就从 100% 掉到 94.4%再错一例就掉到 89%。样本量这么小的时候单次划分得到的数字基本没有统计意义。k 折交叉验证解决的是这个问题把数据切成 k 份轮流留一份做验证最后报告均值加标准差。真正要报告的从来不是某个点估计而是「在多次划分下这个模型的准确率稳定在什么区间」。from sklearn.pipeline import Pipeline from sklearn.preprocessing import StandardScaler from sklearn.linear_model import LogisticRegression from sklearn.model_selection import StratifiedGroupKFold, cross_validate from sklearn.metrics import make_scorer, recall_score, roc_auc_score # 预处理必须放进 Pipeline每一折内部只 fit 训练部分避免归一化泄漏 pipe Pipeline([ (sc, StandardScaler()), (clf, LogisticRegression(max_iter1000, class_weightbalanced)), ]) cv StratifiedGroupKFold(n_splits5) # 分层 按患者分组同一患者的多张切片不会跨折 scoring { acc: accuracy, sen: make_scorer(recall_score), # 敏感度 召回率 spe: make_scorer(recall_score, pos_label0), # 特异度 阴性类的召回率 auc: roc_auc, } res cross_validate(pipe, X, y, groupspatient_id, cvcv, scoringscoring)这段代码有两处容易被忽略。第一StandardScaler放在Pipeline里面交叉验证每一折都会重新fit测试折的均值方差不会污染训练如果把它拿出来在循环外面先fit_transform一遍得到的分数会显著偏高而且偏高的幅度随特征维度增加而变大。第二StratifiedGroupKFold的groups参数按患者编号分组同一个患者的多个切层必须落在同一折里——同一个人不同层面的图像高度相似分到两边等于让模型在考试前看过答案。4.2 敏感度、特异度与投票规则三基因为什么赢过五基因另一项针对术后五年复发的研究走的是遗传规划那条路最终得到两组候选规则三个基因的组合和五个基因的组合各自构成投票分类器。结果看起来有点反直觉规则组合训练集敏感度测试集敏感度训练集特异度测试集特异度五基因投票77%69%85%62%三基因投票80.4%71%90%67%训练集上三基因的敏感度略高测试集上也是三基因更好同时特异度全面领先。规则更少反而更准原因在于规则的来源遗传规划在搜索过程中不断组合规则每多加一条规则就多一个可以在训练集上拟合的旋钮而一百多例样本根本撑不起这个自由度。五条规则里有两条大概率是在拟合训练集的噪声到了测试集反而拖后腿。这也是为什么这类研究报告里必须同时给出训练集和测试集四个数字。只报测试集的 71% 看不出问题只报训练集的 80.4% 会被误认为是过拟合只有并排放在一起读者才能判断模型是真的学到了规律还是记住了样本。投票机制本身也值得说一句。多数投票等价于给每个弱规则相同的权重而加权投票让表现好的规则说话更响。在小样本场景下多数投票通常更稳因为权重本身也是从有限数据里估出来的估得不准时加权反而放大误差。4.3 阈值分类器输出的是概率判定是另一件事几乎所有报告都默认用 0.5 做判定阈值但这个默认值没有任何临床依据。模型输出的是一个概率把概率映射成「阳性/阴性」是一次决策决策要考虑的是两类错误的代价。以复发预测为例漏掉一个真正会复发的患者代价是错过干预窗口把一个不会复发的患者判为高风险代价是多一次随访或者一次不必要的治疗。这两者的代价显然不对等所以在保证特异度可接受的前提下阈值应该往下调让更多可疑样本被判为阳性。调整之后准确率通常会下降敏感度会上升——这时候准确率就不是合适的汇报指标了应该报 ROC 曲线下面积它衡量的是模型在所有阈值下的排序能力与阈值选择无关。还有一个常被忽略的点是概率校准。网络输出的 0.8 不一定意味着八成概率尤其在正负样本比例悬殊时模型会系统性地把概率压向多数类。用 Platt 缩放或者等渗回归在验证集上做一次校准输出的数字才能直接拿去和医生沟通。这一步不改变 AUC但会改变阈值选择的结果进而改变最终报告里的敏感度和特异度。5. 避坑与排查五个把 95% 打回 70% 的现场5.1 归一化写在划分之前现象交叉验证准确率 96%换一批外部数据立刻掉到 70% 出头两个数字对不上。原因全量数据先做了 z-score 再划分测试集的均值和方差参与了训练阶段的标准化。特征维度越高、样本越少这个泄漏带来的虚高越明显——五万维基因数据上虚高可以到二十个百分点以上。解决所有依赖数据分布的预处理都塞进Pipeline让它在每一折内部只对训练部分fit。外部验证时直接用训练集保存下来的均值方差不要重新算。5.2 同一患者的多张切片跨了训练集和测试集现象模型在测试集上表现极好但换成另一家医院的数据就崩了且崩得很不规律。原因一个患者取四个层面的图像这四张图高度相似。随机划分把它们分到两边测试集里有一半样本在训练集里存在「近亲」模型相当于提前见过答案。解决划分时按患者 ID 分组GroupKFold或者StratifiedGroupKFold。数据里如果没有患者 ID 字段先去补补不出来就别做患者级结论。5.3 类别不平衡下的准确率幻觉现象阳性样本只占两成模型准确率 80%看起来还不错但敏感度接近于零。原因全部预测为阴性就能拿到 80% 的准确率这个基线被忽略了。小样本医学数据里阳性比例天然偏低靠准确率挑模型等于在奖励偷懒。解决先算出多数类基线报告里必须写损失函数加类别权重或者用重采样评估指标换成敏感度、特异度、F1、AUC 一起看。任何一个单独的数字都不足以支撑结论。5.4 拿测试集调超参数现象反复调整隐藏层单元数、学习率、正则强度每次都在测试集上看一眼效果最后测试集准确率 94%换个队列就剩 65%。原因测试集被当成了第二个验证集调参过程本身就是一次对测试集的拟合。试过二十组配置后报出来的最优值已经包含了测试集的信息。解决划分出独立的验证集做模型选择测试集只在最后用一次用完就封存。样本实在不够时用嵌套交叉验证——内层调参、外层评估报告的分数才是无偏的。5.5 特征重要度没人看得懂现象模型说最重要的特征是某个灰度共生矩阵的同质性分量临床医生听完没有任何反应项目推进不下去。原因纹理特征和医生描述肿瘤时使用的高级语义边界是否清晰、强化是否均匀之间没有直接映射。模型的「解释」在统计上成立在语义上断裂。解决报告里同时给两级解释一级是统计特征的重要度另一级是把特征回溯到可观察的影像表现或者直接换成能输出规则、能画决策路径的模型牺牲一点精度换可沟通性。这件事没有技术捷径只能靠和临床方反复对齐。6. 设计取舍可解释性、样本量与进入临床之间的距离把这些研究放在一起看会发现准确率的分布很有规律影像分级诊断能到 95% 上下尿细胞学辅助诊断在九成左右而术后五年生存率预测普遍在七成到八成之间。这个梯度不是算法水平的差异是任务本身的难度差异——影像判读的标签来自病理金标准噪声小生存率预测的标签混杂了治疗方案、随访质量、患者依从性同一个模型再怎么调也压不住这部分方差。看到数字先问任务再看模型顺序不能反。模型选型在两百例以内的数据集上其实没有多大腾挪空间模型小样本下的稳定性可解释性调参成本报告里怎么论证逻辑回归高方差小强系数可直接读低作为基线其余模型需显著优于它单隐层 MLP中随初始化波动弱中需多次随机种子给区间不能只报最优树集成中偏高中有特征重要度中重要度排序需与领域知识对照正则化极限学习机中训练快弱低需说明正则项如何选定真正决定一个系统能不能往临床走的往往不是表里任何一列。数据收集阶段如果只拿到单一中心、单一设备的影像模型学到的可能是设备的成像特性而不是疾病本身特征工程阶段如果筛掉的基因恰好是生物学上更本质的那批模型精度再高也只是在拟合样本实验评估阶段如果只报一个点估计而不报波动范围读者无从判断这个数字离随机猜有多远。这份课程设计文档把三步走的骨架、各类数据的处理路径和评估指标都摊开了对着跑一遍比看十篇综述更能建立直觉。我自己的习惯是拿到任何一份带准确率的医学机器学习结果先翻到数据划分那一节看归一化到底是在划分前还是划分后做的看分组依据是患者还是图像。这个动作救过我很多次也让我养成了写报告时把预处理顺序画进流程图的习惯——不然三个月后回头看自己的代码根本想不起来当时为什么那么写。希望帮到你。本文还有配套的精品资源点击获取