CPU3DИИ-инструменты для 3D, видео и звука

Baidu выпустила Unlimited-OCR-2 с разбором документов неограниченной длины

Baidu опубликовала на HuggingFace модель Unlimited-OCR-2 с задачей image-text-to-text. Релиз состоялся 26 октября 2026 года. Главное изменение — переход от длинного горизонта разбора к неограниченному за счёт механизма Sparse Reference Sliding Window Attention (SR-SWA), который сжимает взаимодействие текста и визуальных признаков на сверхдлинных последовательностях.

Что это значит

Модель содержит 3,3 млрд параметров, веса выложены в формате safetensors. Самый большой файл занимает 4,7 ГБ, весь репозиторий — 6,2 ГБ. Лицензия — MIT. Запускается через transformers, также заявлена поддержка vLLM. Квантованных сборок на площадке пока нет. Для локального запуска потребуется видеокарта с запасом видеопамяти под 6,2 ГБ весов в полной точности плюс память под активации и кэш внимания. На CPU модель запустить можно, но скорость обработки длинных документов будет заметно ниже. Следить за появлением квантованных версий и других новостей по этой теме можно в ленте CPU3D. Код выложен в открытый доступ, так что при желании модель можно дообучить или адаптировать под свои форматы документов.
Вход Изображение Текст документ любой длины Unlimited-OCR-2 image-text-to-text 3,3 млрд параметров SR-SWA механизм сжатие внимания на длинных последовательностях Репозиторий safetensors 6,2 ГБ всего MIT лицензия Запуск transformers vLLM GPU: 6,2 ГБ весов + память CPU: медленнее на длинных Выход Разобранный текст неограниченная длина дообучение под форматы Квантованные сборки пока отсутствуют — следить в ленте CPU3D
Как устроен метод. Схема нарисована по этой заметке.

Смотрите также