Практика автоматизации · Dev Crabs
OCR, LLM или VLM: как выбрать обработку документов
Начните с результата: прочитать текст, перенести поля в систему или подготовить вывод по содержанию. Для этих задач могут понадобиться разные компоненты. Выбирать стоит по ошибкам на ваших документах и стоимости принятого результата, включая ручные исправления.
Обсудить пилот обработки документов →Сначала определите результат
Распознавание отвечает на вопрос «что написано». Извлечение — «какое значение относится к нужному полю». Интерпретация — «какой вывод можно сделать». Прочитать все символы счёта ещё не значит правильно связать цену с позицией. Найти дату в договоре ещё не значит определить срок исполнения обязательства.
OCR — распознавание текста на изображении. Текстовая LLM обрабатывает переданный ей текст; для скана ей нужен этап получения текста. VLM — модель, работающая с изображением и текстом. Она может участвовать и в распознавании, и в извлечении, и в ответах о документе. Название технологии само по себе не определяет границы готового продукта.
Microsoft в руководстве по обработке документов разделяет специализированное извлечение и подходы с генеративными моделями, учитывая структуру документов, необходимость выводов и усилия на сопровождение. Это руководство поставщика, а не независимое сравнение всех доступных решений.
Наш практический вывод: сначала зафиксируйте поля и допустимые действия. Если нужен перенос пяти реквизитов, оцените качество этих реквизитов. Если нужен вывод, требуйте ещё и доказательство в исходном документе. Красивый пересказ не заменяет ни одну из этих проверок.
Почему OCR и LLM можно использовать вместе
Рабочая схема может выглядеть так: получение файла → проверка страниц → извлечение текста и структуры → выделение полей → проверки → очередь исключений → передача в систему. OCR, специализированный парсер и языковая модель занимают отдельные места в этой цепочке или объединяются внутри одного решения.
Не добавляйте генеративный этап без проверяемой задачи. Для устойчивого шаблона может хватить извлечения и правил. При разнообразной вёрстке имеет смысл сравнить несколько способов разбора. Для объяснения условий понадобится работа со смыслом, но она не исправляет автоматически потерянную при распознавании строку.
Проверяйте весь путь до принятого документа. Сохранённый JSON может соответствовать схеме и при этом содержать чужую сумму. Успешная передача через API подтверждает доставку данных, а не их верность.
Xiaomi-OCR-0: что подтверждено источниками
В официальном репозитории Xiaomi-OCR-0 выпуск весов отмечен 30 сентября 2026 года. Технический отчёт на arXiv подан 28 сентября 2026 года. Более поздние октябрьские сообщения о модели не делают этот выпуск октябрьским релизом.
Авторы описывают модель как VLM с 0,8 млрд параметров для разбора документов и задач понимания их содержимого. В репозитории перечислены получение структурированного Markdown, извлечение заданных полей в JSON и ответы на вопросы по изображениям документов.
Результаты тестов в отчёте и репозитории — измерения авторов на указанных ими наборах. Мы их не воспроизводили, модель для этой статьи не запускали. Они не доказывают точность на русскоязычных счетах конкретной компании и не дают готовой оценки стоимости обработки.
Гипотеза для пилота: компактная VLM может быть полезна для части потока. Проверить предстоит не только распознавание, но и ресурсы, скорость, ручной разбор и качество каждого критичного поля. Рост спроса на такую схему здесь не установлен.
Матрица выбора по типам документов
Это стартовые варианты для сравнения, а не рейтинг моделей. Возьмите самый простой кандидат, который может выполнить задачу, и сравните его с альтернативой на одинаковых входных файлах.
| Документ | Что сравнить | Что проверить |
|---|---|---|
| Печатный счёт с текстовым слоем | Извлечение текста и специализированный разбор полей; OCR — если текстового слоя нет или он испорчен. | Номер, дата, валюта, реквизиты и строки совпадают с оригиналом; текстовый слой тоже проверен. |
| Скан или фотография | OCR с восстановлением структуры; VLM — кандидат для сложной вёрстки и связи текста с изображением. | Мелкий шрифт, поворот, печати поверх текста, пропущенные страницы. Нечитаемый фрагмент должен попасть человеку. |
| Таблица на нескольких страницах | Распознавание структуры таблицы, затем сбор строк и проверка правил; сравните специализированный парсер и VLM. | Переносы строк, повторные заголовки, единицы измерения и итоги. Текст без связей между ячейками недостаточен. |
| Многостраничный договор | Проверенное извлечение текста и структуры, затем LLM для поиска условий и черновика вывода; VLM — для визуально значимых фрагментов. | Каждое найденное условие связано со страницей и цитатой. Приложения учтены, вывод проверяет ответственный специалист. |
Слова «счёт» или «договор» не описывают весь набор. Один вид документа может включать фотографии, цифровые PDF, разные языки и приложения. Разделите эти варианты до сравнения: среднее значение по потоку легко скроет систематическую ошибку на редком формате.
Как построить проверяемый пилот
- Опишите поток. Типы, объём, число страниц, языки, качество сканов, таблицы, новые отправители. Отдельно включите пустые, повреждённые и дублирующиеся файлы.
- Создайте эталон. Для каждого файла зафиксируйте обязательные поля, строки таблиц, допустимое отсутствие значения и страницу-источник. Спорные значения согласует владелец процесса.
- Разделите настройку и приёмку. Не проверяйте результат только на примерах, по которым подбирали правила. Связанные копии одного документа должны оставаться в одной группе; добавьте отложенные документы с другими шаблонами.
- Запишите правила сравнения. Где допустима нормализация пробелов и дат, где нужно точное совпадение, как учитывать пропуск, лишнее поле и неверную связь ячеек. Реквизиты нельзя оценивать как «примерно похожие».
- Сравните одинаковые условия. Зафиксируйте версии моделей, настройки, оборудование или сервис, повторные попытки и обработку длинных файлов. Отдельно измерьте задержку и ручное время.
- Согласуйте критерии запуска заранее. Какие ошибки блокируют передачу, кто разбирает исключения, сколько времени допустимо ждать и какая стоимость приемлема. Универсального процента качества для всех процессов нет.
Считайте долю корректных значений по каждому полю и типу документа; долю документов со всеми обязательными полями без ошибок; пропуски и выдуманные значения; долю ручного разбора. Для автоматической передачи отдельно проверяйте документы, ошибочно пропущенные проверками. Нулевое число ошибок на небольшой выборке не гарантирует их отсутствия в рабочем потоке.
Учебный счёт: две ошибки после извлечения
Полностью синтетический пример. Счёт ДЕМО-042 от 05.11.2026 содержит две позиции: А — 2 штуки по 1 500 ₽, Б — 1 штука за 2 000 ₽. Итог — 5 000 ₽; в этом упрощённом примере нет налогов, скидок и доставки. Значения ниже придуманы для иллюстрации контроля. Это не вывод Xiaomi-OCR-0 или другой запущенной модели и не клиентский кейс.
| Поле | Эталон | Условный ответ | Проверка |
|---|---|---|---|
| Номер счёта | ДЕМО-042 | ДЕМО-042 | Совпадает с эталоном. |
| Дата | 05.11.2026 | Не извлечена | Пропуск обязательного поля: ручная проверка, запись в учётную систему запрещена. |
| Позиция А | 2 × 1 500 = 3 000 ₽ | 2 × 1 500 = 3 000 ₽ | Количество, цена и сумма строки согласованы. |
| Позиция Б | 1 × 2 000 = 2 000 ₽ | 1 × 2 000 = 2 000 ₽ | Строка распознана; единицы и валюта также должны сохраняться. |
| Итого | 5 000 ₽ | 8 000 ₽ | 3 000 + 2 000 ≠ 8 000: расхождение, требуется сверка с оригиналом. |
Обязательность даты обнаруживает пропуск, арифметика — неверный итог. Но совпавшая сумма не доказывает правильность остальных полей: одинаковая ошибка в строках и итоге может пройти арифметическую проверку. Нужны сверка с оригиналом, проверка реквизитов по разрешённому справочнику и обнаружение дублей.
Не подставляйте сегодняшнюю дату вместо отсутствующей и не исправляйте итог молча. Сохраните исходное значение, причину отклонения и исправление проверяющего. Для реального счёта правила должны учитывать его валюту, округление, скидки и налоги.
Почему одного confidence недостаточно
Показатель уверенности полезен лишь после проверки его связи с ошибками на ваших данных. Не принимайте его за универсальную вероятность правильности и не переносите один порог между разными моделями без проверки. Особенно рискованно доверять числу, которое языковая модель просто написала в ответе.
Комбинируйте независимые проверки: обязательные поля, формат значения, справочники, арифметику, связь со страницей и отсутствие дубля. Неизвестный формат, нечитаемый фрагмент, конфликт или недостаток подтверждения должны вести в очередь исключений с понятной причиной.
Для денежных реквизитов, итоговых сумм и значимых выводов по договору предусмотрите контроль ответственного сотрудника до действия. Возможное сокращение ручного контроля обсуждают по результатам пилота и допустимому риску; название модели такого решения не заменяет.
Считайте стоимость принятого документа
Цена распознавания страницы не включает всю работу. Для одного и того же периода сложите вычисления или API, предобработку, повторные попытки, хранение, ручные проверки, исправления и сопровождение. Разделите сумму на количество документов, принятых по согласованным правилам. Затраты на отклонённые файлы тоже остаются в числителе.
Учебный расчёт, не тариф Dev Crabs: пусть обработка партии стоит 1 000 ₽, проверка и исправления — 2 500 ₽, сопровождение этой партии — 500 ₽. Из 100 входящих документов приняты 80. Тогда 4 000 / 80 = 50 ₽ за принятый документ. Деление только стоимости API на 100 дало бы 10 ₽ и скрыло бы основную часть работы.
Разовые затраты на пилот и интеграцию покажите отдельно и укажите, на какой объём их распределяете. Рядом со стоимостью нужны доля принятых документов, время до результата и критичные ошибки: низкая цена за счёт отказа от сложных файлов может не решить задачу бизнеса.
Когда переходить от пилота к интеграции
Переход оправдан, когда согласованная проверочная выборка пройдена, ограничения записаны, для исключений назначен сотрудник и подтверждена работа схемы передачи. Сначала сравнивайте результат с текущим процессом без автоматической записи, затем подключайте ограниченный поток с возможностью остановки.
Храните версию обработчика, идентификатор исходного файла, принятые значения, результаты проверок и журнал исправлений. Повтор после сбоя не должен создавать второй документ в учётной системе. Новая версия модели или новый шаблон отправителя — повод повторить соответствующие проверки.
Если задача — извлечь данные из входящего потока, начните с пилота AI-обработки документов. Для маршрутов, согласований и передачи между сотрудниками нужна автоматизация документооборота. Если внешняя передача документов недопустима, отдельно рассмотрите размещение AI в закрытом контуре: локальное размещение само по себе не повышает точность извлечения.
Итог выбора — проверенный способ получить нужные поля или выводы с известными ограничениями, стоимостью и ответственным за ошибки. Победа в публичном тесте может помочь составить список кандидатов, но не заменяет приёмку на ваших документах.
Частые вопросы
Может ли LLM полностью заменить OCR?
Текстовой LLM нужен уже извлечённый текст. Мультимодальная модель может читать изображение, совмещая несколько этапов. Проверять всё равно нужно итоговые поля, таблицы и пропуски на ваших документах, а не наличие слова OCR в названии продукта.
Что выбрать для распознавания счетов нейросетью?
Сравните специализированное извлечение и вариант с визуальной моделью на одинаковой отложенной выборке. Главные проверки — реквизиты, строки, суммы, пропуски, доля ручного разбора и стоимость принятого счёта. Для PDF с качественным текстовым слоем отдельное OCR может не понадобиться.
Можно ли доверять правильному JSON?
Корректная структура подтверждает только формат. Значения могут быть неверными, пропущенными или выдуманными. Нужны сверка с источником и правила предметной области; при конфликте документ отправляется на проверку.
Доказывают ли тесты Xiaomi-OCR-0 качество на наших документах?
Нет. Публичные результаты относятся к наборам и условиям авторов. Мы не воспроизводили эти измерения. Качество на ваших языках, сканах, таблицах и реквизитах нужно измерить отдельно.
Нужно ли сразу передавать документы во внешний AI-сервис?
Нет. Сначала определите требования к данным и разрешённое место обработки. Состав пилота можно обсудить по описанию типов и полей без передачи конфиденциальных файлов. Выбор сервиса или локального размещения — отдельная часть проектирования.
Первоисточники и актуальность
Факты о формате и продуктах приведены со ссылками. Схема выбора, критерии приёмки и учебный пример — рекомендации Dev Crabs; эффект на процессе компании требует отдельной проверки.
- Microsoft Learn: Choose the right Foundry Tool for document processing ↗
Обновлено 02.06.2026, проверено 05.11.2026. Живая документация поставщика: специализированное извлечение, генеративные подходы и критерии оценки. Это не независимый рейтинг продуктов; доступность и условия конкретного сервиса требуют отдельной проверки.
- Xiaomi-OCR-0 — официальный репозиторий ↗
В News выпуск весов отмечен 30.09.2026; проверено 05.11.2026. Источник описания возможностей и даты выпуска. Публичные показатели — заявления авторов, не наши измерения; октябрьское освещение не считается новым релизом.
- Xiaomi-OCR-0 Technical Report — arXiv:2609.36136 ↗
Первая версия подана 28.09.2026; проверено 05.11.2026. Исследование авторов модели, без независимого повторения в этой статье. Методические рекомендации и учебные расчёты Dev Crabs следует пересмотреть до 05.02.2027; сведения о продуктах — перед выбором решения.