一句话看懂它把长文档 OCR 从一页一页翻着抄变成了摊开整本匀速抄——靠的是让模型的记忆KV Cache不再越攒越多而是始终保持一个固定大小。Unlimited-OCR 的整体流程——整份文档一次进Markdown 一次出。一、先说痛点长文档 OCR 卡在哪儿用过端到端 OCR 模型的人大概都踩过两个坑。第一个坑叫分页割裂。传统流程是把 PDF 拆成一页页逐页识别再拼回去。一旦遇到跨页表格、跨页段落、脚注和章节引用上下文就在页面边界被硬生生切断拼出来的东西看着像那么回事进库一查全是错。第二个坑更隐蔽叫越生成越慢。这类模型的解码器本质上是个大语言模型每生成一个 token都要把前面所有 token 的 Key/Value 缓存KV Cache留在显存里。输出越长这份缓存就越滚越大——显存被吃掉注意力计算量也随长度水涨船高。于是模型在第 1 页时健步如飞到第 40 页时已经气喘吁吁这两件事其实是一件事模型记得太多又看不全。Unlimited-OCR 的解法是让它学会像人抄书那样——眼睛始终盯着原书笔尖只看刚写下的几个字。二、Unlimited-OCR 是什么一个被改了一层的 3B 模型它不是一个从零训练的大模型而是一次非常克制的改造底座DeepSeek-OCR。编码器 DeepEncoder 整体冻结只训练解码器继续训练约 4000 步训练样本约 200 万份文档。规模总参数 3BMoE 架构推理时仅激活约 5.7 亿参数部分报道写作约 5 亿 / 570M口径一致。改动把解码器里所有的注意力层换成新方法 R-SWA。就这一层。协议MIT 开源代码与权重公开可免费商用。三、核心创新 R-SWA把 KV Cache 从线性增长压成一条平线R-SWA全称 Reference Sliding Window Attention参考滑动窗口注意力。名字有点唬人道理很朴素。想象你在抄一本书眼睛始终落在书页上手上只关心刚写完的那几个字你不会每写一个字就回头把前面抄过的三千字重读一遍。人也正因为这样抄一整天也不会越抄越慢。R-SWA 做的就是这件事。它把注意力切成两段R-SWA 的两段式注意力。参考段常驻不动滑动窗口像固定长度的队列进一个、出一个。1、参考段Reference全部视觉 token 提示词在整个解码过程中全局可见且状态固定不参与淘汰。2、滑动窗口Sliding Window对已生成文本仅保留最近 128 个 token更早的自动移出。KV Cache 因此变成一个固定长度的队列——进一个出一个。结果就是无论输出 1 万还是 10 万 token显存占用和单 token 的计算开销都保持恒定。这是它和普通滑动窗口注意力SWA的关键差别——普通 SWA 会把视觉 token 和文本 token 一起扔进滑窗写到后面最初的页面图像早被挤出窗口模型对原图越来越糊R-SWA 则让视觉 token 常驻写到第 40 页第 1 页依然清晰。一条斜线一条平线。长文档解析的性能衰减问题本质就是这条斜线。四、数字说话它到底有多强先看精度。在文档解析权威基准 OmniDocBench 上Unlimited-OCR 拿下了端到端模型的第一从 87.01 到 93.92用的是同一个编码器改的只是解码器的注意力。再看长文档能力这是它的主战场五、能拿来干什么从识别工具变成数据入口端到端流水线。输出不是一堆文字而是可直接入库的结构化文档。几个很实际的点输出即可用。直接产出 Markdown可混 HTML 保留表格结构支持表格、数学公式和阅读顺序恢复不用再做一遍版面还原。两种编码模式。Base 模式 1024×1024适合多页长文档Gundam 模式动态分辨率适合单页高精度识别。版式覆盖广。PPT、学术论文、书籍、彩色教材、试卷、杂志、报纸、手写笔记、研究报告都能吃。适合做 RAG 的数据入口。过去知识库建设最脏最累的一环是文档解析跨页表格丢一半、公式变乱码。一次成型的 Markdown直接把这一步的成本砍下来。六、想上手部署与限制用 Transformers 跑一份多页 PDF核心代码就这么几行其中 no_repeat_ngram_size35 是长文档场景的关键开关——它用来压制模型在长序列上复读的倾向这也是 Distinct-35 这个指标名字的由来。需要冷静看待的三件事Unlimited是愿景不是承诺。名字里的无限指架构上不再受长度衰减约束但当前稳妥的处理范围大约在 40–60 页训练上下文窗口为 32K。真拿一本 500 页的书硬塞它也会崩。必须有 GPU。目前明确不支持 CPU 推理纯 CPU 环境只能走云端 API。细节仍需校验。编辑距离 0.11 意味着长文档仍存在少量字符级偏差涉及合同、财务、医疗等关键场景时人工复核这一步省不掉。七、真正值得关注的其实不是 OCRR-SWA 这个机制本质上在回答一个更普遍的问题当生成任务有一个固定不变的参考源时为什么还要为已生成的历史无限买单符合这个特征的任务远不止 OCR语音识别ASR音频特征就是那个参考段转写文本只需要近期上下文。机器翻译源语言句子是参考目标语言生成只需要局部窗口。长视频理解、长音频字幕、代码仓库级生成同理。团队已经明确表示要把 R-SWA 推广到 ASR、翻译等参考型任务上同时计划把训练上下文窗口扩展到 128K并探索 Prefill Pool预填池机制按需调取历史状态。换句话说这是一次注意力机制层面的降本。它没有靠堆参数、堆算力而是把一处明显的结构性浪费给堵上了——3B 的模型、5.7 亿的激活参数跑出了超过一众大参数竞品的效果。这种思路比分数本身更值钱。八、该不该现在就用相关链接GitHubhttps://github.com/baidu/Unlimited-OCRHuggingFacehttps://huggingface.co/baidu/Unlimited-OCR论文https://arxiv.org/pdf/2606.23050 
长河君 · 2026/10/14 21:54:50 · 阅读 1.2k “Unlimited OCR“来了：文档解析从翻页时代进入整本时代
一句话看懂它把长文档 OCR 从一页一页翻着抄变成了摊开整本匀速抄——靠的是让模型的记忆KV Cache不再越攒越多而是始终保持一个固定大小。Unlimited-OCR 的整体流程——整份文档一次进Markdown 一次出。一、先说痛点长文档 OCR 卡在哪儿用过端到端 OCR 模型的人大概都踩过两个坑。第一个坑叫分页割裂。传统流程是把 PDF 拆成一页页逐页识别再拼回去。一旦遇到跨页表格、跨页段落、脚注和章节引用上下文就在页面边界被硬生生切断拼出来的东西看着像那么回事进库一查全是错。第二个坑更隐蔽叫越生成越慢。这类模型的解码器本质上是个大语言模型每生成一个 token都要把前面所有 token 的 Key/Value 缓存KV Cache留在显存里。输出越长这份缓存就越滚越大——显存被吃掉注意力计算量也随长度水涨船高。于是模型在第 1 页时健步如飞到第 40 页时已经气喘吁吁这两件事其实是一件事模型记得太多又看不全。Unlimited-OCR 的解法是让它学会像人抄书那样——眼睛始终盯着原书笔尖只看刚写下的几个字。二、Unlimited-OCR 是什么一个被改了一层的 3B 模型它不是一个从零训练的大模型而是一次非常克制的改造底座DeepSeek-OCR。编码器 DeepEncoder 整体冻结只训练解码器继续训练约 4000 步训练样本约 200 万份文档。规模总参数 3BMoE 架构推理时仅激活约 5.7 亿参数部分报道写作约 5 亿 / 570M口径一致。改动把解码器里所有的注意力层换成新方法 R-SWA。就这一层。协议MIT 开源代码与权重公开可免费商用。三、核心创新 R-SWA把 KV Cache 从线性增长压成一条平线R-SWA全称 Reference Sliding Window Attention参考滑动窗口注意力。名字有点唬人道理很朴素。想象你在抄一本书眼睛始终落在书页上手上只关心刚写完的那几个字你不会每写一个字就回头把前面抄过的三千字重读一遍。人也正因为这样抄一整天也不会越抄越慢。R-SWA 做的就是这件事。它把注意力切成两段R-SWA 的两段式注意力。参考段常驻不动滑动窗口像固定长度的队列进一个、出一个。1、参考段Reference全部视觉 token 提示词在整个解码过程中全局可见且状态固定不参与淘汰。2、滑动窗口Sliding Window对已生成文本仅保留最近 128 个 token更早的自动移出。KV Cache 因此变成一个固定长度的队列——进一个出一个。结果就是无论输出 1 万还是 10 万 token显存占用和单 token 的计算开销都保持恒定。这是它和普通滑动窗口注意力SWA的关键差别——普通 SWA 会把视觉 token 和文本 token 一起扔进滑窗写到后面最初的页面图像早被挤出窗口模型对原图越来越糊R-SWA 则让视觉 token 常驻写到第 40 页第 1 页依然清晰。一条斜线一条平线。长文档解析的性能衰减问题本质就是这条斜线。四、数字说话它到底有多强先看精度。在文档解析权威基准 OmniDocBench 上Unlimited-OCR 拿下了端到端模型的第一从 87.01 到 93.92用的是同一个编码器改的只是解码器的注意力。再看长文档能力这是它的主战场五、能拿来干什么从识别工具变成数据入口端到端流水线。输出不是一堆文字而是可直接入库的结构化文档。几个很实际的点输出即可用。直接产出 Markdown可混 HTML 保留表格结构支持表格、数学公式和阅读顺序恢复不用再做一遍版面还原。两种编码模式。Base 模式 1024×1024适合多页长文档Gundam 模式动态分辨率适合单页高精度识别。版式覆盖广。PPT、学术论文、书籍、彩色教材、试卷、杂志、报纸、手写笔记、研究报告都能吃。适合做 RAG 的数据入口。过去知识库建设最脏最累的一环是文档解析跨页表格丢一半、公式变乱码。一次成型的 Markdown直接把这一步的成本砍下来。六、想上手部署与限制用 Transformers 跑一份多页 PDF核心代码就这么几行其中 no_repeat_ngram_size35 是长文档场景的关键开关——它用来压制模型在长序列上复读的倾向这也是 Distinct-35 这个指标名字的由来。需要冷静看待的三件事Unlimited是愿景不是承诺。名字里的无限指架构上不再受长度衰减约束但当前稳妥的处理范围大约在 40–60 页训练上下文窗口为 32K。真拿一本 500 页的书硬塞它也会崩。必须有 GPU。目前明确不支持 CPU 推理纯 CPU 环境只能走云端 API。细节仍需校验。编辑距离 0.11 意味着长文档仍存在少量字符级偏差涉及合同、财务、医疗等关键场景时人工复核这一步省不掉。七、真正值得关注的其实不是 OCRR-SWA 这个机制本质上在回答一个更普遍的问题当生成任务有一个固定不变的参考源时为什么还要为已生成的历史无限买单符合这个特征的任务远不止 OCR语音识别ASR音频特征就是那个参考段转写文本只需要近期上下文。机器翻译源语言句子是参考目标语言生成只需要局部窗口。长视频理解、长音频字幕、代码仓库级生成同理。团队已经明确表示要把 R-SWA 推广到 ASR、翻译等参考型任务上同时计划把训练上下文窗口扩展到 128K并探索 Prefill Pool预填池机制按需调取历史状态。换句话说这是一次注意力机制层面的降本。它没有靠堆参数、堆算力而是把一处明显的结构性浪费给堵上了——3B 的模型、5.7 亿的激活参数跑出了超过一众大参数竞品的效果。这种思路比分数本身更值钱。八、该不该现在就用相关链接GitHubhttps://github.com/baidu/Unlimited-OCRHuggingFacehttps://huggingface.co/baidu/Unlimited-OCR论文https://arxiv.org/pdf/2606.23050