跳到主要內容
AI News HubLIVE
更多
僅摘要

百度釋出Unlimited OCR:3B引數模型透過恆定KV快取實現長文件高效解析

百度開源了Unlimited OCR,這是一個30億引數的混合專家模型,採用參考滑動視窗注意力機制(R-SWA)保持KV快取恆定,從而在一次前向傳播中高效解析數十頁文件。在OmniDocBench v1.5上達到93.23分,比DeepSeek OCR基線高出6.22分,採用MIT許可證。

來源MarkTechPost作者: Asif Razzaq
百度釋出Unlimited OCR:3B引數模型透過恆定KV快取實現長文件高效解析
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • Unlimited OCR擁有30億總引數,但推理時僅啟用5億引數。
  • 參考滑動視窗注意力(R-SWA)使KV快取大小恆定,不隨輸出長度增長。
  • 在OmniDocBench v1.5和v1.6上取得領先成績,分別為93.23和93.92。
  • 基於MIT許可證開源,支援Transformers和SGLang框架。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。