10月27日,百度发布并开源文心Unlimited OCR 2。官方将其定位为全球首次实现任意页数文档解析,把OCR的处理上限从上一代的数十页推向了“无限”,并在多页与百页级基准上达到端到端SOTA。实测演示的任务之一是连续解析全套7部《哈利·波特》,超过3600页,模型一次性读完,中途没有出现页数导致的截断或崩溃。
这个演示的意义不在于“读了多少页”本身,而在于它对应的那个被解决的技术问题。传统多页OCR依赖“切页+拼接”,误差沿流程累积;上一代Unlimited OCR虽然把连续解析扩展到约40页,但解码时仍然要对所有页面的视觉token做注意力计算,文档越长,每一步的算力与显存开销就越高。当页数从几十页走向几百页,这条成本曲线会直接撞上显存墙。Unlimited OCR 2的改动,就是把这条曲线压平。
SR-SWA:让每一步只翻“正在抄的那几页”
Unlimited OCR 2的核心机制是稀疏参考滑动窗口注意力(SR-SWA)。设计灵感来自人抄书的方式:眼睛主要盯着当前正在抄的那一页,只在需要核对前文或跨页信息时,才回头翻阅相关页面,而不是每写一个字都把整本书从头看一遍。
落到计算上,模型在每一个解码步能够“看到”的内容由两部分拼成:一个固定长度的局部窗口(128个token),加上从相关页面中筛选出的远端视觉块(top-16块 × 每块32个token,合计512个token)。无论文档是10页还是300页,这个工作参考集的大小保持不变。第一层筛选由Page Gate完成,把候选范围从整份文档收窄到与当前页相关的页面;第二层由Token Sieve在候选块中做top-k选择,只保留与当前解码最相关的视觉信息。
这个“固定工作集”的设计直接改变了成本结构。单步解码的视觉参考量不再随页数增长,KV缓存峰值也不再线性膨胀。在百页级单序列测试中,峰值KV缓存从标准解码的47GB降至1.77GB,降幅约96%。作为参照,47GB已经超过不少笔记本电脑的整机内存容量,而这还只是KV缓存本身。
性能:基准分数与单步开销的同时变化
质量侧,Unlimited OCR 2在MPDocBench上的综合得分为84.6分,在专门评估百页级超长文档的MarathonDocBench上为77.06至77.1分,达到端到端性能SOTA。MarathonDocBench包含100份文档,每份103至300页,在这一基准上第二名的得分为33.74分,差距明显。
速度侧的变化同样指向“越读越慢”这个老问题。在百页文档场景中,SR-SWA的单步解码速度分别是Full Attention的7倍和上一代R-SWA的5.6倍。16路并发下的端到端吞吐从360 token/s提升至1315 token/s,约为3.65倍。在演示任务中,884页的英文版《指环王》在42分56秒内解析完成,平均每页约2.9秒,过程中自动标记了466处跨页合并。
一个3B MoE的轻量架构,和它继承的“血统”
从规格上看,Unlimited OCR 2是一个总参数约3.34B的混合专家(MoE)模型,每token实际激活约500M参数。解码器为12层,包含64个路由专家和2个共享专家,每token选择其中6个。视觉侧沿用了DeepEncoder,解码器架构继承自DeepSeek-OCR的路线,BF16权重约6.7GB。模型最大位置长度131072,每页固定消耗273个图像token,一份百页文档对应约27300个输入token。
这个体量的意义在于部署门槛。权重以MIT许可在GitHub和Hugging Face同步开源,单张A800-80GB即可运行百页级解析。上一代Unlimited OCR在开源社区已经积累了超过1000万次下载和约2.86万GitHub Star,第二代在架构上延续了这一路线的工程可及性,同时把长文档场景的显存门槛从“需要多卡或高内存节点”拉低到了单卡可承载的范围。
和PaddleOCR的分工:长文档与单页精度不是同一道题
百度旗下并非只有Unlimited OCR这一条OCR产品线。PaddleOCR-VL面向的是单页复杂版面的精度极限,走“检测+识别+分类”的流水线路线;Unlimited OCR则把OCR重构为一个长程解码问题,专攻多页长文档的连贯性与显存可行性。前者的优势场景是单张票据、表单或复杂版面的精细识别,后者的优势场景是财报、合同、论文、书籍等需要一次性贯通解析的超长文档。两者之间是分工关系,而不是替代关系。
这种分工也解释了Unlimited OCR 2的指标选择:它没有把单页精度作为主要竞争维度,而是把MPDocBench和MarathonDocBench这类多页与百页级基准放在了核心位置,同时在吞吐和KV缓存上给出了与页数解耦的工程数据。对于需要把整本书、整套年报或数百页技术文档交给模型一次性处理的场景,这组取舍比单纯的字符准确率更能说明它解决了什么问题。
(素材来自:百度 智算芯能前沿网综合)
本文由智算芯能前沿网编辑整理,转载请注明出处。
