本文收录于专栏化学大模型—— 专栏系统覆盖化学大模型的原理、评测与工程落地点击订阅可跟踪后续更新。上篇介绍化学大模型的12个 Benchmark本篇是化学大模型你想为项目挑一个化学大模型却分不清 Galactica、ChemDFM、ChemCrow 这些名字相似的模型各解决什么问题哪些能直接对话哪些只是分子编码器哪些要外挂工具才干活这篇把 2022–2026 年的 10 个代表模型按四条技术路线从头预训练、通用 LLM 领域化、多模态外挂、工具 Agent逐个讲透训练数据规模、架构设计、关键战绩、开源现状全部从论文原文与官方仓库核对并补进 ChemDFM-v1.5、ChemVLM 入选 AAAI’25 等新进展。读完你能按场景直接选型——对话与文献找 ChemDFM/ChemLLM分子性质与嵌入找 SMI-TED逆合成找 ECNU-ChemGPT搭化学 Agent 参考 ChemCrow 的 18 工具栈直接对标你手头的项目需求。关键字化学大模型、Galactica、ChemDFM、ChemLLM、SMI-TED、ECNU-ChemGPT、ChemVLM、化学 LLM Agent目录§0. 相关教程与核心文献 §1. 场景 §2. 路线一从头预训练 §3. 路线二通用 LLM 领域数据 §4. 路线三多模态外挂 §5. 路线四工具 Agent §6. 十个模型总表与选型 §7. 局限与展望 §8. 结语§0. 相关教程与核心文献资源链接与本文关系Galactica 论文arXiv:2211.09085科学语料从头预训练先驱Meta 2022Coscientist 论文10.1038/s41586-023-06792-0自主化学实验 AgentNature 2023ChemCrow 论文10.1038/s42256-024-00832-818 工具化学 AgentNMI 2024ChemDFM 论文10.1016/j.xcrp.2025.102523化学对话基础模型Cell Rep. Phys. Sci. 2025ChemLLM 论文arXiv:2402.06852模板式指令构建范式上海 AI LabLlaSMol 主页osu-nlp-group.github.io/LLM4ChemSMolInstruct 数据集与 LlaSMol 系列SMI-TED 论文10.1038/s42004-025-01585-0分子编码器-解码器基础模型Commun. Chem. 2025ChemVLM 仓库github.com/AI4Chem/ChemVlm首个开源化学多模态模型AAAI’25ChemDFM-X 论文10.1007/s11432-024-4243-0七模态跨模态化学模型Sci China Inf Sci 2024ECNU-ChemGPT 论文10.31635/ccschem.026.202607359逆合成化学大模型CCS Chemistry 2026§1. 场景化学大模型要跨过的三道坎化学大模型不是通用大模型 化学语料这么简单。三道坎决定了技术路线的分化分子是符号不是词。SMILES 里c1ccccc1的相邻字符被 BPE字节对编码分词器合并切碎后原子计数、官能团定位这类对人而言直觉简单的操作会大面积出错。怎么把分子喂给 LLM本身就是一道坎——于是有了 Galactica 的字符级 SMILES 分词、SMI-TED 的专用分子词表这些表示层方案。化学知识锁在结构化数据库里。PubChem、ChEMBL、USPTO 里的数据是表格而不是文章直接塞进预训练会破坏对话连贯性——ChemLLM 的模板式指令构建、ChemDFM 的 270 万条指令微调都是在解这道题。化学任务要算不要猜。化合价校验、合成路线可行性、谱图解析靠模型参数硬记不如交给 RDKit、反应预测引擎去做——Coscientist 与 ChemCrow 的工具 Agent 路线由此而来。由此衍生出四条技术路线10 个代表模型各占一端路线解决的核心问题代表模型一、从头预训练表示层与语料层从根上适配化学Galactica、SMI-TED二、通用 LLM 领域数据用高质量领域数据把通用模型掰成化学专家ChemDFM、ChemLLM、LlaSMol、ECNU-ChemGPT三、多模态外挂让模型看懂分子图、谱图、实验图片ChemVLM、ChemDFM-X四、工具 Agent模型出推理工具出计算打通实验闭环Coscientist、ChemCrow§2. 路线一从头预训练——Galactica 与 SMI-TED2.1 Galactica科学语料的开山之作定位。Meta AI 2022 年 11 月发布的科学基础模型Ross Taylor 等arXiv:2211.09085目标是自动组织科学——把论文、教科书、知识库、化合物与蛋白数据一次性装进一个模型。数据与架构。语料约 106B tokens含 4,800 万 论文、教科书与讲义、数百万化合物PubChem Compound与蛋白UniProt、百科与科学网站。decoder-only TransformerGeLU 激活、2,048 上下文五个尺寸 125M–120B最大档 96 层 / 10,240 隐藏维 / 80 头训练用 128 张 A100 80GB 节点。两个值得记住的设计一是SMILES/蛋白序列特殊 token[START_SMILES]…[END_SMILES]加字符级切分从根上避开 BPE 切碎化学词的问题二是worktoken引导分步推理——2022 年就做出了后来思维链的效果。关键战绩。LaTeX 公式知识 68.2% vs GPT-3 的 49.0%MATH 基准 20.4% vs PaLM-540B 的 8.8%30B 就能打平 540B数学 MMLU 41.3% vs Chinchilla 35.7%PubMedQA 77.6%、MedMCQA dev 52.9% 双双当时 SOTA。更意外的是 BIG-bench 57 个非科学任务上 48.7%超过 OPT-175B 的 43.4%——高质量精选语料不必然牺牲通用能力。论文还有一个反直觉发现语料重复训练 4 轮验证损失仍在下降。现状与局限。公测 demo 很快因幻觉与毒性争议下线但权重一直开放。它的化学遗产至今有效——LlaSMol 的对照实验里Galactica 仍是四个候选底座之一且它的字符级 SMILES 分词方案是后续所有表示层修分词工作的参照系。2.2 SMI-TED分子表示基础模型对标的是 GNN 不是 GPT定位。IBM Research巴西研究院 Almaden 实验室出品ICLR 2025 报告arXiv:2407.20267正式版发表于 Communications Chemistry 2025。注意它的赛道SMI-TED 是分子编码器-解码器基础模型不是对话模型——它对标的是图神经网络GNN做性质预测、反应产率、分子嵌入。数据与架构。9,100 万条 PubChem 精选 SMILES约 40 亿分子 token自监督预训练。架构是双向 token 编码器 SMILES 编码器-解码器用改良版 RoFormer 注意力词表 2,993 个分子 token。两个配置289M 基础版和 8×289M 的 MoE专家混合版。289M 的量级意味着单张消费级 GPU 就能跑。关键战绩。QM9 的 12 个量子化学任务拿到 11 项最佳或第二MOSES 分子重建与生成指标有效性、FCD、骨架相似度超基线低资源反应产率预测显著优于从头训练的任务专用模型。嵌入空间的定性发现尤其有说服力含氮分子只占数据集 9.10%却占 HOMO 能量前 10% 分子的 32.81%——潜空间自发把化学性质分层了不需要任何任务标签。该嵌入已被 IBM 自家 dZiner 逆分子设计 Agent 集成为实时性质预测引擎权重与代码开源HuggingFace GitHub。§3. 路线二通用 LLM 领域数据——四个掰出来的化学专家这条路线的共同逻辑不动底座架构用高质量化学数据把通用模型改造成专家。四个模型展示了四种不同的掰法。3.1 ChemDFM34B 文献 tokens 继续预训练上交大 X-LANCE 实验室 × 苏州实验室在 LLaMA-13B 上做两阶段特化正式版 Cell Reports Physical Science 6(4), 2025阶段一领域继续预训练约 34B tokens来自 380 万篇化学论文 1,400 本教科书阶段二指令微调270 万条指令构成很有讲究——131K 标准 QAARC/PIQA/SciQ、91.5 万道考试题、PubChem 分子描述 576K 文本逆向设计 576K、MoleculeNet 性质预测 102K、USPTO 反应补全 300K、名称-原子映射 120K。两个阶段都混入大量通用数据防灾难性遗忘。结果是 13B 的它在多数化学任务上超过 GPT-4——尺寸差 10 倍靠数据质量翻盘。它也是目前开源最彻底的化学底座之一OpenDFMGitHub HuggingFace ModelScope 三平台后续还出了 ChemDFM-v1.5-8B 的小尺寸版往够用就好的方向又走了一步。3.2 ChemLLM把结构化数据库翻译成对话上海 AI Lab 联合复旦、武大等六家机构arXiv:2402.06852首个数据 模型 评估全链路开源的化学 LLM。它的核心贡献不是模型而是数据方法论ChemData 700 万条指令用模板式指令构建把 PubChem、ChEMBL、ChEBI、ZINC、USPTO 等结构化数据转成自然对话——先写种子模板再用 GPT-4 扩写出语义一致、措辞多样的变体还用Play as Playwrights策略生成多轮专家对话两阶段指令微调先用 170 万条通用语料训 InternLM2-Base-7B → InternLM2-Chat再混入化学语料第二阶段微调保住通用能力自建 ChemBench4,100 道选择题、9 项化学任务注意与 Nature Chemistry 那个同名基准不是一回事。战绩名称转换 22.0 分 vs GPT-4 的 5.0分子描述 49.0 vs 41.0三项核心任务全部超 GPT-3.5、两项超 GPT-4。它开创的结构化化学知识转对话范式成了后续工作的标配谱系上还有一个闭环——ChemLLM-20B 后来成为 ChemVLM 的语言底座。3.3 LlaSMol数据杠杆 模型规模的最硬证据俄亥俄州立大学 NLP 组项目主页回答一个问题**不继续预训练、只做指令微调能追上专用模型吗**答案是能而且代价极小SMolInstruct 数据集330 万样本、160 万独立分子、4 类共 14 个小分子任务经严格清洗与 SMILES 规范化——至今仍是小分子指令微调数据的标杆四个底座对照Galactica、Llama 2、Code Llama、Mistral 各做 LoRA 微调只调 41.9M 参数0.58%Mistral 表现最好战绩SMILES → 分子式 93.2% 精确匹配GPT-4 只有 4.8%Claude 3 Opus 9.2%逆合成 32.9%GPT-4 约 0.0%Claude 3 Opus 1.1%。14 个任务全面大幅领先 GPT-4。论文还留下三个数据层结论SMILES 规范化能明显提分、SMILES 与 SELFIES 之争里规范化比表示格式更重要、多任务联合训练有协同效应。数据集与模型全部开源osunlp/SMolInstruct、LlaSMol-Mistral-7B。3.4 ECNU-ChemGPT逆合成专精 多模型调度华东师大出品CCS Chemistry 正式版 202610.31635/ccschem.026.202607359预印本 arXiv:2507.01444代表这条路线的最新形态——不是一个模型而是双专家 调度器化学问答专家Qwen2-72B-Instruct 做 LoRA 微调可训参数 862M仅占 1.17%训练数据 84.8 万条教材蒸馏问答 117.6 万条关键词扩展数据逆合成专家T5-Large770M在 378 万条清洗后的 Pistachio 反应数据从 2,400 万条原始反应两步清洗RDKit 标准化去重 化学过滤上微调BrainGPT 调度器ChatGLM3-6B 两阶段微调按用户意图把请求分发给对应专家或工具BrainGPT 已开源。战绩相当硬USPTO-50K 单步逆合成 Top-1 68.3%已知反应类型同任务 GPT-4o-mini 只有 0.06%、DeepSeek-V3 2.76%、DeepSeek-R1 3.12%大学化学题 83.33 分超过底座 Qwen2 的 79.17综合分超 GPT-4o 8.5%、超 DeepSeek-R1 5.7%。更可贵的是它对现实边界的诚实在 1,424 个药物化学期刊真实单步反应上命中 884 个62.1%完整路线 Top-1/3/10 精确匹配只有 19.6%/45.7%/64.6%——正式版口径完整复现 7 条文献与专利报道的药物合成路线预印本口径为 242 条有效预测复现 13 条覆盖托伐普坦、瑞德西韦、阿贝西利、巴瑞替尼等真实药物。Benchmark 高分与真实文献可用性之间差 3 倍以上这篇论文自己把差距摆出来了。§4. 路线三多模态外挂——让模型看见化学化学家日常面对的不只是文本分子结构图、反应式图片、质谱、红外谱。两个模型把化学 LLM 的输入从文本 SMILES扩展到视觉与谱图。4.1 ChemVLM首个开源化学多模态模型AAAI’25上海 AI LabarXiv:2408.07246入选 AAAI 2025采用 LLaVA 式的ViT-MLP-LLM架构InternViT-6B 做图像编码448×448 输入、最多 12 切块 MLP 投影层对齐图文 ChemLLM-20B 做语言底座合计 26B另发 8B 版。训练是两阶段 SFT阶段一冻结 LLM、只训投影层和视觉编码器的 LoRArank 32做模态对齐阶段二给 LLM 加 LoRArank 16做任务微调。训练数据是双语多模态 QA——分子、反应式、化学考题还用 RDKit/RanDepict 做手绘风格、旋转、畸变的数据增广。自建三个评测集ChemOCR 化学图片识别、MMCR-Bench 多模态推理、MMChemBench 分子理解6 个任务拿下 5 个 SOTA分子描述 98.2%GPT-4V 95.2%、性质预测 80.9%GPT-4V 38.6%、化学 OCR 71.0%GPT-4V 15.0%CMMU 中文多模态基准 31.6% 也超过 GPT-4V 的 24.2%。权重开源AI4Chem/ChemVLM-26B。4.2 ChemDFM-X一套权重吃下七种模态上交大 × 苏州实验室Sci China Inf Sci 67(12):220109, 2024把 ChemDFM 从文本 SMILES扩展到7 种输入模态文本、SMILES 之外新增 2D 分子图MoleBERT 编码器、3D 构象Uni-Mol 编码器、分子/反应图片CLIP 编码器、串联质谱 MS2、红外谱 IR。后两种谱图数据最缺——实验贵、量子计算更贵——于是用简化近似计算生成 MS2 数据、用 Chemprop-IR 神经网络预测约 100 万张 IR 谱图。最终从 130 万条种子 SMILES 生成760 万条跨模态指令数据。架构是各模态独立编码器 统一 ChemDFM 解码器冻结工程接口也很清爽每种模态一个特殊 token[MM_FILE_G/C/I/M/R] 标准文件格式.sdf / .xyz / .png / .mgf / .csv。一个有实战价值的发现SMILES 与 3D 构象同时输入时表现最优——多模态不是噱头是互补信息源。13B 权重开源ChemDFM-X-v1.0-13B。§5. 路线四工具 Agent——模型出推理工具出计算前三个路线都在改模型这条路线换了个思路模型不擅长的原子计数、价键校验、合成可行性交给专业工具做模型只负责规划与调度。5.1 CoscientistGPT-4 驱动的自主化学实验CMU Gomes 组Nature 624:570–5782023的标志性工作。多 Agent 架构清晰PlannerGPT-4 主控通过三条命令调度三个模块——GOOGLE走 Web searcher本身是另一个 LLM查互联网PYTHON在隔离 Docker 容器里执行代码EXPERIMENT通过 Documentation 模块翻译出的 API 驱动自动化硬件Opentrons OT-2 液体工作站。代码写错了Planner 会自己读文档修——论文里 OT-2 的 heater-shaker 模块方法名写错后它查文档改对并跑通这是Agent 自我纠错最早的真实案例之一。六类任务里最硬的是钯催化 Suzuki 偶联的条件优化从互联网查反应条件、用 RDKit 算量、写液体工作站代码、执行并优化全程半自主。还有一个贴近实验室日常的功能给它 1,110 个样品的库存目录它能自己定位可用的储备液。对照实验里 GPT-3、Falcon 40B 在布洛芬合成等任务上大面积失败——工具调用 代码执行是能力的分水岭。5.2 ChemCrow18 个工具的化学 Agent 参考实现EPFL 等四家机构Nature Machine Intelligence 6:525–535, 2024目前引用最多的化学 Agent 范式。GPT-4 18 个专家设计的化学工具按五组组织反应类NameRXN 反应分类、ReactionPlanner 多步逆合成、ReactionExecute 机器人执行、分子类Name2SMILES、性质查询、安全类、检索类LitSearch 文献检索、WebSearch、通用类。执行框架是 ReAct/MRKL 式循环Thought → Action → Action Input → Observation循环到得出结论。实战战绩自主规划并执行合成了驱蚊剂 DEET 和三个硫脲有机催化剂Schreiner、Ricci、Takemoto 型走 IBM RoboRXN 云平台真做出来了还指导发现了一个目标性质的新发色团。专家评审的结论比战绩更有价值复杂任务上 ChemCrow 完胜裸 GPT-4简单记忆型任务对乙酰氨基酚合成这种反而是 GPT-4 答得更完整更扎心的是 EvaluatorGPTLLM 当裁判偏爱 GPT-4 那种流畅但幻觉的答案——LLM 评测 LLM 在化学上不可靠这一条至今是领域共识。代码开源ur-whitelab/chemcrow-public。§6. 十个模型总表与选型建议6.1 十个考生总表模型年份机构路线关键数字Galactica2022Meta从头预训练106B tokens / 125M–120BSMILES 字符级分词MATH 20.4% 超 PaLM-540BCoscientist2023CMU工具 AgentPlanner 3 模块Suzuki 偶联自主优化NatureChemDFM2024上交大继续预训练LLaMA-13B 34B tokens 2.7M 指令多数任务超 GPT-4ChemLLM2024上海 AI Lab继续预训练InternLM2-7B ChemData 7M名称转换 22.0 vs GPT-4 5.0LlaSMol2024俄亥俄州立LoRA 微调只调 0.58% 参数分子式 93.2% vs GPT-4 4.8%ChemCrow2024EPFL 等工具 Agent18 工具DEET 3 催化剂真合成NMISMI-TED2024–25IBM从头预训练91M 分子 / 289MMoEQM9 12 任务 11 项前二ChemVLM2024上海 AI Lab多模态外挂26B 6B ViT 20B LLM6 任务 5 SOTAAAAI’25ChemDFM-X2024上交大多模态外挂7 模态 / 7.6M 跨模态指令SMILES3D 同输最优ECNU-ChemGPT2026华东师大继续预训练USPTO-50K Top-1 68.3%GPT-4o-mini 0.06%双专家 BrainGPT6.2 场景选型速查你的场景首选理由与备选化学对话问答、文献理解ChemDFM13B/8B 开源数据配方最扎实中文场景可看 ChemLLM-7B分子性质预测、嵌入检索SMI-TED289M 单卡即用嵌入空间化学分层好量大用 MoE 版逆合成路线设计ECNU-ChemGPTTop-1 68.3% 真实药物路线复现它自己标注了现实边界看图识分子、读反应式图片ChemVLM化学 OCR 71.0% 领先要谱图输入上 ChemDFM-X搭自己的化学 AgentChemCrow 范式18 工具 ReAct 循环是公开参考实现自动化实验看 Coscientist§7. 局限与展望当前限制幻觉与认知校准没有解决。GPT-4 答错时的自信度和答对时一样高ChemCrow 的实验更证明 LLM 当裁判会偏爱流畅的幻觉答案——答对 ≠ 想对目前没有任何模型针对性优化专用微调普遍牺牲通用能力。化学涨分、通用语言能力受损的灾难性遗忘在多个模型上出现ChemDFM/ChemLLM 靠混入通用数据缓解但没根治多模态是最弱一环。ChemVLM 的化学 OCR 才 71%谱图模态ChemDFM-X 的 MS2/IR大量依赖合成数据近似离真实实验谱解析还有距离Agent 缺专用评测。Coscientist/ChemCrow 的能力靠案例展示没有标准化的多步实验规划基准。未来方向表示层的收益可能大于模型层——Galactica 的字符级分词、SMI-TED 的分子词表都在提示先把分子喂对模型能力才能兑现小模型 好数据 对的工具 裸大模型——LlaSMol 用 0.58% 参数逼近专用模型ECNU-ChemGPT 用微调的 T5-Large 吊打通用旗舰的逆合成这个叙事在化学上反复成立过程评估进训练目标——谁能优化推理路径保真度而不是只优化答案谁就可能拿下下一代化学大模型的话语权Agent 级闭环——从工具调用走向设计-合成-测试-分析全自动循环Coscientist 的机器人平台 ChemCrow 的工具栈是两个待合流的方向。§8. 结语10 个考生、四条路线一句话收束化学大模型在知识层已经毕业在推理层还在补课在实验闭环上刚开考。选型上不必追最大对话与文献场景 ChemDFM/ChemLLM 系够用分子性质与嵌入 SMI-TED 单卡即用逆合成认准 ECNU-ChemGPT 这类benchmark 真实路线双验证的工作要搭化学 AgentChemCrow 的LLM 工具范式仍是当前最稳的起点——模型不擅长的计算交给 RDKit 和专业引擎就好。参考来源Taylor R, et al. Galactica: A Large Language Model for Science. arXiv:2211.090852022Boiko D A, et al. Autonomous chemical research with large language models. Nature 624, 570–578 (2023). 10.1038/s41586-023-06792-0Bran A M, et al. Augmenting large language models with chemistry tools. Nature Machine Intelligence 6, 525–535 (2024). 10.1038/s42256-024-00832-8Zhao Z, et al. Developing ChemDFM as a large language foundation model for chemistry. Cell Reports Physical Science 6(4) (2025). 10.1016/j.xcrp.2025.102523代码 OpenDFM/ChemDFMZhang D, et al. ChemLLM: A Chemical Large Language Model. arXiv:2402.068522024Yu B, et al. LlaSMol: Advancing Large Language Models for Chemistry with a Large-Scale Instruction Tuning Dataset. arXiv:2402.09391数据 osunlp/SMolInstructSoares E A, et al. SMI-TED: A large-scale foundation model for materials and chemistry. arXiv:2407.20267ICLR 2025正式版 10.1038/s42004-025-01585-0Li J, et al. ChemVLM: Exploring the Power of Multimodal Large Language Models in Chemistry Area. arXiv:2408.07246AAAI 2025代码 AI4Chem/ChemVlmZhao Z, et al. ChemDFM-X: Towards Large Multimodal Model for Chemistry. Sci China Inf Sci 67(12):220109 (2024). 10.1007/s11432-024-4243-0ECNU-ChemGPT: A Large Language Model for Chemistry and Retrosynthesis Prediction. CCS Chemistry (2026). 10.31635/ccschem.026.202607359预印本 arXiv:2507.01444系列导航专栏全集化学大模型更多专栏蛋白 / 抗体 / 多肽 / 核酸分子模拟 / 动力学 / 对接药物 / 设计 / 案例AI / Agent / 大模型开源蛋白结构预测分子模拟基础小分子药物设计案例AI Agent系列开源蛋白生成方法实践分子动力学模拟-Amber蛋白药物设计案例化学大模型开源多肽设计模型分子动力学模拟-Gromacs多肽药物设计案例《AI Agent原理与实战》开源多肽性质预测分子动力学模拟-OpenMM开源小分子生成设计CADD中的机器学习模型DNA/RNA药物设计結合自由能高效计算配置《MCP 入门实战》siRNA药物设计模型UCSF DOCK系列我胡师兄说药《AI入门实战2026》ASO药物设计模型rDock系列 LeDock系列 gnina系列《经典机器学习实战》 
长河君 · 2026/10/16 8:00:24 · 阅读 1.2k 化学大模型全景（2026）: 10 个代表模型对比与完全综述
本文收录于专栏化学大模型—— 专栏系统覆盖化学大模型的原理、评测与工程落地点击订阅可跟踪后续更新。上篇介绍化学大模型的12个 Benchmark本篇是化学大模型你想为项目挑一个化学大模型却分不清 Galactica、ChemDFM、ChemCrow 这些名字相似的模型各解决什么问题哪些能直接对话哪些只是分子编码器哪些要外挂工具才干活这篇把 2022–2026 年的 10 个代表模型按四条技术路线从头预训练、通用 LLM 领域化、多模态外挂、工具 Agent逐个讲透训练数据规模、架构设计、关键战绩、开源现状全部从论文原文与官方仓库核对并补进 ChemDFM-v1.5、ChemVLM 入选 AAAI’25 等新进展。读完你能按场景直接选型——对话与文献找 ChemDFM/ChemLLM分子性质与嵌入找 SMI-TED逆合成找 ECNU-ChemGPT搭化学 Agent 参考 ChemCrow 的 18 工具栈直接对标你手头的项目需求。关键字化学大模型、Galactica、ChemDFM、ChemLLM、SMI-TED、ECNU-ChemGPT、ChemVLM、化学 LLM Agent目录§0. 相关教程与核心文献 §1. 场景 §2. 路线一从头预训练 §3. 路线二通用 LLM 领域数据 §4. 路线三多模态外挂 §5. 路线四工具 Agent §6. 十个模型总表与选型 §7. 局限与展望 §8. 结语§0. 相关教程与核心文献资源链接与本文关系Galactica 论文arXiv:2211.09085科学语料从头预训练先驱Meta 2022Coscientist 论文10.1038/s41586-023-06792-0自主化学实验 AgentNature 2023ChemCrow 论文10.1038/s42256-024-00832-818 工具化学 AgentNMI 2024ChemDFM 论文10.1016/j.xcrp.2025.102523化学对话基础模型Cell Rep. Phys. Sci. 2025ChemLLM 论文arXiv:2402.06852模板式指令构建范式上海 AI LabLlaSMol 主页osu-nlp-group.github.io/LLM4ChemSMolInstruct 数据集与 LlaSMol 系列SMI-TED 论文10.1038/s42004-025-01585-0分子编码器-解码器基础模型Commun. Chem. 2025ChemVLM 仓库github.com/AI4Chem/ChemVlm首个开源化学多模态模型AAAI’25ChemDFM-X 论文10.1007/s11432-024-4243-0七模态跨模态化学模型Sci China Inf Sci 2024ECNU-ChemGPT 论文10.31635/ccschem.026.202607359逆合成化学大模型CCS Chemistry 2026§1. 场景化学大模型要跨过的三道坎化学大模型不是通用大模型 化学语料这么简单。三道坎决定了技术路线的分化分子是符号不是词。SMILES 里c1ccccc1的相邻字符被 BPE字节对编码分词器合并切碎后原子计数、官能团定位这类对人而言直觉简单的操作会大面积出错。怎么把分子喂给 LLM本身就是一道坎——于是有了 Galactica 的字符级 SMILES 分词、SMI-TED 的专用分子词表这些表示层方案。化学知识锁在结构化数据库里。PubChem、ChEMBL、USPTO 里的数据是表格而不是文章直接塞进预训练会破坏对话连贯性——ChemLLM 的模板式指令构建、ChemDFM 的 270 万条指令微调都是在解这道题。化学任务要算不要猜。化合价校验、合成路线可行性、谱图解析靠模型参数硬记不如交给 RDKit、反应预测引擎去做——Coscientist 与 ChemCrow 的工具 Agent 路线由此而来。由此衍生出四条技术路线10 个代表模型各占一端路线解决的核心问题代表模型一、从头预训练表示层与语料层从根上适配化学Galactica、SMI-TED二、通用 LLM 领域数据用高质量领域数据把通用模型掰成化学专家ChemDFM、ChemLLM、LlaSMol、ECNU-ChemGPT三、多模态外挂让模型看懂分子图、谱图、实验图片ChemVLM、ChemDFM-X四、工具 Agent模型出推理工具出计算打通实验闭环Coscientist、ChemCrow§2. 路线一从头预训练——Galactica 与 SMI-TED2.1 Galactica科学语料的开山之作定位。Meta AI 2022 年 11 月发布的科学基础模型Ross Taylor 等arXiv:2211.09085目标是自动组织科学——把论文、教科书、知识库、化合物与蛋白数据一次性装进一个模型。数据与架构。语料约 106B tokens含 4,800 万 论文、教科书与讲义、数百万化合物PubChem Compound与蛋白UniProt、百科与科学网站。decoder-only TransformerGeLU 激活、2,048 上下文五个尺寸 125M–120B最大档 96 层 / 10,240 隐藏维 / 80 头训练用 128 张 A100 80GB 节点。两个值得记住的设计一是SMILES/蛋白序列特殊 token[START_SMILES]…[END_SMILES]加字符级切分从根上避开 BPE 切碎化学词的问题二是worktoken引导分步推理——2022 年就做出了后来思维链的效果。关键战绩。LaTeX 公式知识 68.2% vs GPT-3 的 49.0%MATH 基准 20.4% vs PaLM-540B 的 8.8%30B 就能打平 540B数学 MMLU 41.3% vs Chinchilla 35.7%PubMedQA 77.6%、MedMCQA dev 52.9% 双双当时 SOTA。更意外的是 BIG-bench 57 个非科学任务上 48.7%超过 OPT-175B 的 43.4%——高质量精选语料不必然牺牲通用能力。论文还有一个反直觉发现语料重复训练 4 轮验证损失仍在下降。现状与局限。公测 demo 很快因幻觉与毒性争议下线但权重一直开放。它的化学遗产至今有效——LlaSMol 的对照实验里Galactica 仍是四个候选底座之一且它的字符级 SMILES 分词方案是后续所有表示层修分词工作的参照系。2.2 SMI-TED分子表示基础模型对标的是 GNN 不是 GPT定位。IBM Research巴西研究院 Almaden 实验室出品ICLR 2025 报告arXiv:2407.20267正式版发表于 Communications Chemistry 2025。注意它的赛道SMI-TED 是分子编码器-解码器基础模型不是对话模型——它对标的是图神经网络GNN做性质预测、反应产率、分子嵌入。数据与架构。9,100 万条 PubChem 精选 SMILES约 40 亿分子 token自监督预训练。架构是双向 token 编码器 SMILES 编码器-解码器用改良版 RoFormer 注意力词表 2,993 个分子 token。两个配置289M 基础版和 8×289M 的 MoE专家混合版。289M 的量级意味着单张消费级 GPU 就能跑。关键战绩。QM9 的 12 个量子化学任务拿到 11 项最佳或第二MOSES 分子重建与生成指标有效性、FCD、骨架相似度超基线低资源反应产率预测显著优于从头训练的任务专用模型。嵌入空间的定性发现尤其有说服力含氮分子只占数据集 9.10%却占 HOMO 能量前 10% 分子的 32.81%——潜空间自发把化学性质分层了不需要任何任务标签。该嵌入已被 IBM 自家 dZiner 逆分子设计 Agent 集成为实时性质预测引擎权重与代码开源HuggingFace GitHub。§3. 路线二通用 LLM 领域数据——四个掰出来的化学专家这条路线的共同逻辑不动底座架构用高质量化学数据把通用模型改造成专家。四个模型展示了四种不同的掰法。3.1 ChemDFM34B 文献 tokens 继续预训练上交大 X-LANCE 实验室 × 苏州实验室在 LLaMA-13B 上做两阶段特化正式版 Cell Reports Physical Science 6(4), 2025阶段一领域继续预训练约 34B tokens来自 380 万篇化学论文 1,400 本教科书阶段二指令微调270 万条指令构成很有讲究——131K 标准 QAARC/PIQA/SciQ、91.5 万道考试题、PubChem 分子描述 576K 文本逆向设计 576K、MoleculeNet 性质预测 102K、USPTO 反应补全 300K、名称-原子映射 120K。两个阶段都混入大量通用数据防灾难性遗忘。结果是 13B 的它在多数化学任务上超过 GPT-4——尺寸差 10 倍靠数据质量翻盘。它也是目前开源最彻底的化学底座之一OpenDFMGitHub HuggingFace ModelScope 三平台后续还出了 ChemDFM-v1.5-8B 的小尺寸版往够用就好的方向又走了一步。3.2 ChemLLM把结构化数据库翻译成对话上海 AI Lab 联合复旦、武大等六家机构arXiv:2402.06852首个数据 模型 评估全链路开源的化学 LLM。它的核心贡献不是模型而是数据方法论ChemData 700 万条指令用模板式指令构建把 PubChem、ChEMBL、ChEBI、ZINC、USPTO 等结构化数据转成自然对话——先写种子模板再用 GPT-4 扩写出语义一致、措辞多样的变体还用Play as Playwrights策略生成多轮专家对话两阶段指令微调先用 170 万条通用语料训 InternLM2-Base-7B → InternLM2-Chat再混入化学语料第二阶段微调保住通用能力自建 ChemBench4,100 道选择题、9 项化学任务注意与 Nature Chemistry 那个同名基准不是一回事。战绩名称转换 22.0 分 vs GPT-4 的 5.0分子描述 49.0 vs 41.0三项核心任务全部超 GPT-3.5、两项超 GPT-4。它开创的结构化化学知识转对话范式成了后续工作的标配谱系上还有一个闭环——ChemLLM-20B 后来成为 ChemVLM 的语言底座。3.3 LlaSMol数据杠杆 模型规模的最硬证据俄亥俄州立大学 NLP 组项目主页回答一个问题**不继续预训练、只做指令微调能追上专用模型吗**答案是能而且代价极小SMolInstruct 数据集330 万样本、160 万独立分子、4 类共 14 个小分子任务经严格清洗与 SMILES 规范化——至今仍是小分子指令微调数据的标杆四个底座对照Galactica、Llama 2、Code Llama、Mistral 各做 LoRA 微调只调 41.9M 参数0.58%Mistral 表现最好战绩SMILES → 分子式 93.2% 精确匹配GPT-4 只有 4.8%Claude 3 Opus 9.2%逆合成 32.9%GPT-4 约 0.0%Claude 3 Opus 1.1%。14 个任务全面大幅领先 GPT-4。论文还留下三个数据层结论SMILES 规范化能明显提分、SMILES 与 SELFIES 之争里规范化比表示格式更重要、多任务联合训练有协同效应。数据集与模型全部开源osunlp/SMolInstruct、LlaSMol-Mistral-7B。3.4 ECNU-ChemGPT逆合成专精 多模型调度华东师大出品CCS Chemistry 正式版 202610.31635/ccschem.026.202607359预印本 arXiv:2507.01444代表这条路线的最新形态——不是一个模型而是双专家 调度器化学问答专家Qwen2-72B-Instruct 做 LoRA 微调可训参数 862M仅占 1.17%训练数据 84.8 万条教材蒸馏问答 117.6 万条关键词扩展数据逆合成专家T5-Large770M在 378 万条清洗后的 Pistachio 反应数据从 2,400 万条原始反应两步清洗RDKit 标准化去重 化学过滤上微调BrainGPT 调度器ChatGLM3-6B 两阶段微调按用户意图把请求分发给对应专家或工具BrainGPT 已开源。战绩相当硬USPTO-50K 单步逆合成 Top-1 68.3%已知反应类型同任务 GPT-4o-mini 只有 0.06%、DeepSeek-V3 2.76%、DeepSeek-R1 3.12%大学化学题 83.33 分超过底座 Qwen2 的 79.17综合分超 GPT-4o 8.5%、超 DeepSeek-R1 5.7%。更可贵的是它对现实边界的诚实在 1,424 个药物化学期刊真实单步反应上命中 884 个62.1%完整路线 Top-1/3/10 精确匹配只有 19.6%/45.7%/64.6%——正式版口径完整复现 7 条文献与专利报道的药物合成路线预印本口径为 242 条有效预测复现 13 条覆盖托伐普坦、瑞德西韦、阿贝西利、巴瑞替尼等真实药物。Benchmark 高分与真实文献可用性之间差 3 倍以上这篇论文自己把差距摆出来了。§4. 路线三多模态外挂——让模型看见化学化学家日常面对的不只是文本分子结构图、反应式图片、质谱、红外谱。两个模型把化学 LLM 的输入从文本 SMILES扩展到视觉与谱图。4.1 ChemVLM首个开源化学多模态模型AAAI’25上海 AI LabarXiv:2408.07246入选 AAAI 2025采用 LLaVA 式的ViT-MLP-LLM架构InternViT-6B 做图像编码448×448 输入、最多 12 切块 MLP 投影层对齐图文 ChemLLM-20B 做语言底座合计 26B另发 8B 版。训练是两阶段 SFT阶段一冻结 LLM、只训投影层和视觉编码器的 LoRArank 32做模态对齐阶段二给 LLM 加 LoRArank 16做任务微调。训练数据是双语多模态 QA——分子、反应式、化学考题还用 RDKit/RanDepict 做手绘风格、旋转、畸变的数据增广。自建三个评测集ChemOCR 化学图片识别、MMCR-Bench 多模态推理、MMChemBench 分子理解6 个任务拿下 5 个 SOTA分子描述 98.2%GPT-4V 95.2%、性质预测 80.9%GPT-4V 38.6%、化学 OCR 71.0%GPT-4V 15.0%CMMU 中文多模态基准 31.6% 也超过 GPT-4V 的 24.2%。权重开源AI4Chem/ChemVLM-26B。4.2 ChemDFM-X一套权重吃下七种模态上交大 × 苏州实验室Sci China Inf Sci 67(12):220109, 2024把 ChemDFM 从文本 SMILES扩展到7 种输入模态文本、SMILES 之外新增 2D 分子图MoleBERT 编码器、3D 构象Uni-Mol 编码器、分子/反应图片CLIP 编码器、串联质谱 MS2、红外谱 IR。后两种谱图数据最缺——实验贵、量子计算更贵——于是用简化近似计算生成 MS2 数据、用 Chemprop-IR 神经网络预测约 100 万张 IR 谱图。最终从 130 万条种子 SMILES 生成760 万条跨模态指令数据。架构是各模态独立编码器 统一 ChemDFM 解码器冻结工程接口也很清爽每种模态一个特殊 token[MM_FILE_G/C/I/M/R] 标准文件格式.sdf / .xyz / .png / .mgf / .csv。一个有实战价值的发现SMILES 与 3D 构象同时输入时表现最优——多模态不是噱头是互补信息源。13B 权重开源ChemDFM-X-v1.0-13B。§5. 路线四工具 Agent——模型出推理工具出计算前三个路线都在改模型这条路线换了个思路模型不擅长的原子计数、价键校验、合成可行性交给专业工具做模型只负责规划与调度。5.1 CoscientistGPT-4 驱动的自主化学实验CMU Gomes 组Nature 624:570–5782023的标志性工作。多 Agent 架构清晰PlannerGPT-4 主控通过三条命令调度三个模块——GOOGLE走 Web searcher本身是另一个 LLM查互联网PYTHON在隔离 Docker 容器里执行代码EXPERIMENT通过 Documentation 模块翻译出的 API 驱动自动化硬件Opentrons OT-2 液体工作站。代码写错了Planner 会自己读文档修——论文里 OT-2 的 heater-shaker 模块方法名写错后它查文档改对并跑通这是Agent 自我纠错最早的真实案例之一。六类任务里最硬的是钯催化 Suzuki 偶联的条件优化从互联网查反应条件、用 RDKit 算量、写液体工作站代码、执行并优化全程半自主。还有一个贴近实验室日常的功能给它 1,110 个样品的库存目录它能自己定位可用的储备液。对照实验里 GPT-3、Falcon 40B 在布洛芬合成等任务上大面积失败——工具调用 代码执行是能力的分水岭。5.2 ChemCrow18 个工具的化学 Agent 参考实现EPFL 等四家机构Nature Machine Intelligence 6:525–535, 2024目前引用最多的化学 Agent 范式。GPT-4 18 个专家设计的化学工具按五组组织反应类NameRXN 反应分类、ReactionPlanner 多步逆合成、ReactionExecute 机器人执行、分子类Name2SMILES、性质查询、安全类、检索类LitSearch 文献检索、WebSearch、通用类。执行框架是 ReAct/MRKL 式循环Thought → Action → Action Input → Observation循环到得出结论。实战战绩自主规划并执行合成了驱蚊剂 DEET 和三个硫脲有机催化剂Schreiner、Ricci、Takemoto 型走 IBM RoboRXN 云平台真做出来了还指导发现了一个目标性质的新发色团。专家评审的结论比战绩更有价值复杂任务上 ChemCrow 完胜裸 GPT-4简单记忆型任务对乙酰氨基酚合成这种反而是 GPT-4 答得更完整更扎心的是 EvaluatorGPTLLM 当裁判偏爱 GPT-4 那种流畅但幻觉的答案——LLM 评测 LLM 在化学上不可靠这一条至今是领域共识。代码开源ur-whitelab/chemcrow-public。§6. 十个模型总表与选型建议6.1 十个考生总表模型年份机构路线关键数字Galactica2022Meta从头预训练106B tokens / 125M–120BSMILES 字符级分词MATH 20.4% 超 PaLM-540BCoscientist2023CMU工具 AgentPlanner 3 模块Suzuki 偶联自主优化NatureChemDFM2024上交大继续预训练LLaMA-13B 34B tokens 2.7M 指令多数任务超 GPT-4ChemLLM2024上海 AI Lab继续预训练InternLM2-7B ChemData 7M名称转换 22.0 vs GPT-4 5.0LlaSMol2024俄亥俄州立LoRA 微调只调 0.58% 参数分子式 93.2% vs GPT-4 4.8%ChemCrow2024EPFL 等工具 Agent18 工具DEET 3 催化剂真合成NMISMI-TED2024–25IBM从头预训练91M 分子 / 289MMoEQM9 12 任务 11 项前二ChemVLM2024上海 AI Lab多模态外挂26B 6B ViT 20B LLM6 任务 5 SOTAAAAI’25ChemDFM-X2024上交大多模态外挂7 模态 / 7.6M 跨模态指令SMILES3D 同输最优ECNU-ChemGPT2026华东师大继续预训练USPTO-50K Top-1 68.3%GPT-4o-mini 0.06%双专家 BrainGPT6.2 场景选型速查你的场景首选理由与备选化学对话问答、文献理解ChemDFM13B/8B 开源数据配方最扎实中文场景可看 ChemLLM-7B分子性质预测、嵌入检索SMI-TED289M 单卡即用嵌入空间化学分层好量大用 MoE 版逆合成路线设计ECNU-ChemGPTTop-1 68.3% 真实药物路线复现它自己标注了现实边界看图识分子、读反应式图片ChemVLM化学 OCR 71.0% 领先要谱图输入上 ChemDFM-X搭自己的化学 AgentChemCrow 范式18 工具 ReAct 循环是公开参考实现自动化实验看 Coscientist§7. 局限与展望当前限制幻觉与认知校准没有解决。GPT-4 答错时的自信度和答对时一样高ChemCrow 的实验更证明 LLM 当裁判会偏爱流畅的幻觉答案——答对 ≠ 想对目前没有任何模型针对性优化专用微调普遍牺牲通用能力。化学涨分、通用语言能力受损的灾难性遗忘在多个模型上出现ChemDFM/ChemLLM 靠混入通用数据缓解但没根治多模态是最弱一环。ChemVLM 的化学 OCR 才 71%谱图模态ChemDFM-X 的 MS2/IR大量依赖合成数据近似离真实实验谱解析还有距离Agent 缺专用评测。Coscientist/ChemCrow 的能力靠案例展示没有标准化的多步实验规划基准。未来方向表示层的收益可能大于模型层——Galactica 的字符级分词、SMI-TED 的分子词表都在提示先把分子喂对模型能力才能兑现小模型 好数据 对的工具 裸大模型——LlaSMol 用 0.58% 参数逼近专用模型ECNU-ChemGPT 用微调的 T5-Large 吊打通用旗舰的逆合成这个叙事在化学上反复成立过程评估进训练目标——谁能优化推理路径保真度而不是只优化答案谁就可能拿下下一代化学大模型的话语权Agent 级闭环——从工具调用走向设计-合成-测试-分析全自动循环Coscientist 的机器人平台 ChemCrow 的工具栈是两个待合流的方向。§8. 结语10 个考生、四条路线一句话收束化学大模型在知识层已经毕业在推理层还在补课在实验闭环上刚开考。选型上不必追最大对话与文献场景 ChemDFM/ChemLLM 系够用分子性质与嵌入 SMI-TED 单卡即用逆合成认准 ECNU-ChemGPT 这类benchmark 真实路线双验证的工作要搭化学 AgentChemCrow 的LLM 工具范式仍是当前最稳的起点——模型不擅长的计算交给 RDKit 和专业引擎就好。参考来源Taylor R, et al. Galactica: A Large Language Model for Science. arXiv:2211.090852022Boiko D A, et al. Autonomous chemical research with large language models. Nature 624, 570–578 (2023). 10.1038/s41586-023-06792-0Bran A M, et al. Augmenting large language models with chemistry tools. Nature Machine Intelligence 6, 525–535 (2024). 10.1038/s42256-024-00832-8Zhao Z, et al. Developing ChemDFM as a large language foundation model for chemistry. Cell Reports Physical Science 6(4) (2025). 10.1016/j.xcrp.2025.102523代码 OpenDFM/ChemDFMZhang D, et al. ChemLLM: A Chemical Large Language Model. arXiv:2402.068522024Yu B, et al. LlaSMol: Advancing Large Language Models for Chemistry with a Large-Scale Instruction Tuning Dataset. arXiv:2402.09391数据 osunlp/SMolInstructSoares E A, et al. SMI-TED: A large-scale foundation model for materials and chemistry. arXiv:2407.20267ICLR 2025正式版 10.1038/s42004-025-01585-0Li J, et al. ChemVLM: Exploring the Power of Multimodal Large Language Models in Chemistry Area. arXiv:2408.07246AAAI 2025代码 AI4Chem/ChemVlmZhao Z, et al. ChemDFM-X: Towards Large Multimodal Model for Chemistry. Sci China Inf Sci 67(12):220109 (2024). 10.1007/s11432-024-4243-0ECNU-ChemGPT: A Large Language Model for Chemistry and Retrosynthesis Prediction. CCS Chemistry (2026). 10.31635/ccschem.026.202607359预印本 arXiv:2507.01444系列导航专栏全集化学大模型更多专栏蛋白 / 抗体 / 多肽 / 核酸分子模拟 / 动力学 / 对接药物 / 设计 / 案例AI / Agent / 大模型开源蛋白结构预测分子模拟基础小分子药物设计案例AI Agent系列开源蛋白生成方法实践分子动力学模拟-Amber蛋白药物设计案例化学大模型开源多肽设计模型分子动力学模拟-Gromacs多肽药物设计案例《AI Agent原理与实战》开源多肽性质预测分子动力学模拟-OpenMM开源小分子生成设计CADD中的机器学习模型DNA/RNA药物设计結合自由能高效计算配置《MCP 入门实战》siRNA药物设计模型UCSF DOCK系列我胡师兄说药《AI入门实战2026》ASO药物设计模型rDock系列 LeDock系列 gnina系列《经典机器学习实战》