实盘10倍杠杆平台 DeepSeek开源新模型，用视觉方式压缩一切

（文/陈济深编辑/张广凯）实盘10倍杠杆平台

10月20日，DeepSeek再度开源新模型。

在GitHub（https://github.com/deepseek-ai/DeepSeek-OCR）上可以看到其最新模型名为DeepSeek-OCR，还是一款OCR（光学字符识别）模型，该模型的参数量为3B。

该项目由DeepSeek三位研究员HaoranWei、YaofengSun、YukunLi共同完成。其中一作HaoranWei曾在阶跃星辰工作过，曾主导开发了旨在实现「第二代OCR」的GOT-OCR2.0系统（arXiv:2409.01704），该项目已在GitHub收获了超7800star。也因此，由其主导DeepSeek的OCR项目也在情理之中。

DeepSeek表示，DeepSeek-OCR模型是通过光学二维映射（将文本内容压缩到视觉像素中）来高效压缩长文本上下文。

该模型主要由DeepEncoder和DeepSeek3B-MoE-A570M解码器两大核心组件构成。其中DeepEncoder作为核心引擎，既能保持高分辨率输入下的低激活状态，又能实现高压缩比，从而生成数量适中的视觉token。

实验数据显示，当文本token数量在视觉token的10倍以内（即压缩率

这一结果显示出该方法在长上下文压缩和LLM的记忆遗忘机制等研究方向上具有相当潜力。

此外，DeepSeek-OCR还展现出很高的实用价值。在OmniDocBench基准测试中，它仅使用100个视觉token就超过了GOT-OCR2.0（每页256个token）的表现；同时，使用不到800个视觉token就优于MinerU2.0（平均每页超过6000个token）。在实际生产环境中，单张A100-40GGPU每天可生成超过20万页（200k+）的LLM/VLM训练数据。

DeepSeek探索的方法概括起来就是：利用视觉模态作为文本信息的高效压缩媒介。

简而言之，一张包含文档文本的图像可以用比等效文本少得多的Token来表示丰富的信息，这表明：通过视觉Token进行光学压缩可以实现高得多的压缩率。

基于这一洞见，DeepSeek从以LLM为中心的视角重新审视了视觉语言模型(VLM)，其中，他们的研究重点是：视觉编码器如何提升LLM处理文本信息的效率，而非人类已擅长的基本视觉问答(VQA)任务。DeepSeek表示，OCR任务作为连接视觉和语言的中间模态，为这种视觉-文本压缩范式提供了理想的试验平台，因为它在视觉和文本表示之间建立了自然的压缩-解压缩映射，同时提供了可量化的评估指标。

鉴于此，DeepSeek-OCR便由此而生。这是一个为实现高效视觉-文本压缩而设计的VLM。

如图所示，DeepSeek-OCR采用了一个统一的端到端VLM架构，由一个编码器和一个解码器组成。

DeepSeek-OCR的创新架构不仅实现了高效的视觉-文本压缩，更在实际应用中展现出强大的性能潜力。

这一模型的核心突破在于其独特的双组件设计：DeepEncoder编码器和MoE解码器。

在编码器层面，DeepSeek创造性地将SAM-base的局部感知能力与CLIP-large的全局理解优势相结合。就像一位经验丰富的古籍修复师，它既能用"显微镜"精准识别每个字符的细节（窗口注意力），又能用"广角镜"把握整篇文档的版式结构（全局注意力）。特别值得注意的是其创新的16倍下采样机制——这相当于将一本300页的书籍压缩到20页的体量，却仍能保留97%的关键信息。

而MoE解码器采用的混合专家机制犹如一个专业翻译团队：面对不同语种、不同版式的文档时，系统会自动激活最擅长的6位"专家"协同工作。这种动态资源调配使得3B参数的大模型在实际运行时仅需570M参数的计算开销，在A100显卡上就能实现每天20万页的处理效率——相当于100名专业录入员的工作量。