🚀 Docling 2.0: Новый cтандарт предобработки документов для RAG

32,830 звёзд на GitHub за год — Docling от IBM Research завоевывает все большую популярность и становится основным инструментом для подготовки документов к AI обработке.

Что изменилось в версии 2.0:
30x ускорение по сравнению с традиционным OCR:

- 3.1 сек/страница на CPU x86
- 0.49 сек/страница на Nvidia L4 GPU
- 0.35 сек/страница с новой SmolDocling (256M параметров, <500MB VRAM)

Ключевой подход: компьютерное зрение вместо OCR там, где возможно — PDF обрабатываются напрямую через специализированные AI-модели.

Технические преимущества
TableFormer достигает 93.6% точности против 67.9% у Tabula и 73.0% у Camelot — обрабатывает сложные таблицы с частичными границами и иерархическими заголовками.

SmolDocling + формат DocTags — сквозное преобразование документов в один проход.

Новый markup-формат под VLMки.

ASR-поддержка для WAV/MP3 — теперь можно обрабатывать записи встреч и лекций.

Корпоративные внедрения
- Red Hat Enterprise Linux AI использует Docling как ядро InstructLab для кастомизации моделей.
- IBM: уже обработали 2.1M PDF из Common Crawl, планы до 1.8B PDF для обучения Granite.
- Linux Foundation AI & Data — официальное управление с мая 2025, статус enterprise-ready.

Интеграции "из коробки"
- LangChain: DoclingLoader с режимами DOC_CHUNKS и MARKDOWN
- LlamaIndex: DoclingReader + DoclingNodeParser
- Haystack/CrewAI: прямая поддержка агентных workflow
- Унифицированный формат: экспорт в Markdown, HTML, DocTags, JSON

Практическое применение
Когда использовать: сложные документы, где структурная точность критична (финансовые отчёты, юридические контракты, научные статьи).
Когда НЕ использовать: простое извлечение текста — PyMuPDF будет в 50x быстрее.

MIT-лицензия - свободно используем для коммерции.

В планах разработки:
- Извлечение метаданных (авторы, ссылки, язык)
- Понимание диаграмм (уже частично в SmolDocling)
- Химические структуры (молекулы в патентах/исследованиях)

Полезная штука. Добавляем в пул микросервисов.

GitHub

#Docling #Documents #RAG #IBM
———
@tsingular

Для всех вайбкодеров делюсь скриптом, который автоматически установит и поднимет у вас локальный докер с docling, через который вы можете вызывать обработку документов, получать номер очереди потом периодически проверять в нем результат.

Скрипт - просто скачать и запустить в ubuntu. (докер должен быть уже установлен)

а дальше проверить можно так:

curl -s -X POST http://localhost:8080/jobs \
-H "Content-Type: application/json" \
-d '{"source": "https://arxiv.org/pdf/2206.01062"}'

он выдаст номер очереди

дальше по этому номеру очереди забираем результат когда он будет готов:

curl -s http://localhost:8080/jobs/НОМЕР-ОЧЕРЕДИ/result

Спасибо принимаются сюда :)

#docling #docker #dev
------
@tsingular

Docling Graph от IBM: превращаем документы в проверяемые графы знаний с точными связями сущностей

IBM под эгидой фонда LF AI & Data развивает Docling Graph: инструмент, который разбирает неструктурированные документы в валидированные Pydantic-объекты, а затем собирает из них направленный граф знаний с явными семантическими связями.
Заточен под домены, где нужны точные связи сущностей вместо приблизительных векторных представлений: химия, финансы, право.

📦 Предлагает два пути извлечения: локальная визуальная модель через Docling (модели Granite или любая друная) или LLM с глазками напрямую через LiteLLM с поддержкой vLLM, Ollama, OpenAI, Gemini, watsonx и Mistral.
Схема задаётся Pydantic-шаблонами, которые можно сгенерировать из примеров документов или онтологий OWL/RDFS.
Граф строится на NetworkX со стабильными ID и метаданными происхождения, с детерминированной привязкой к координатам в документе, без лишних вызовов модели.
Экспорт в CSV и Cypher, интерактивная визуализация на Cytoscape, слияние нескольких графов в один выполняется детерминированно, без LLM.

🔮 Проект помогает обеспечить структурное извлечение: вместо поиска по приблизительным векторам документ раскладывается на сущности и точные связи.
Для регулируемых доменов это даёт воспроизводимость и аудируемость, которых у наивного RAG нет.

💡 Альтернативные решения: Microsoft GraphRAG, LlamaIndex PropertyGraphIndex и Neo4j LLM graph builder решают ту же задачу.
Отличие Docling Graph: схема задаётся до извлечения и жёстко валидируется, каждая связь получает детерминированное происхождение, а локальный VLM-путь не отправляет документы в облако.

Это уже четвёртый кирпич экосистемы Docling, вслед за конвертером Docling, сервисом docling-serve и форматом DocLang.
IBM продолжает достраивать открытый конвейер от документа к структурированному знанию.

#Docling #GraphRAG #KnowledgeGraph
------
@tsingular

Label Studio научилась размечать документы в DocLang

IBM вместе с HumanSignal выкатили связку для работы с документами: у Label Studio появился интерфейс разметки прямо на страницах и нативный экспорт в DocLang. Это первая платформа разметки с поддержкой открытого стандарта.

🔧 Как устроено:
В чём засада: публичные датасеты никогда не похожи на ваши настоящие бумаги. Поэтому цикл оптимизировали под свои документы:
собираете выборку из своих счетов, договоров и отчётов
Docling через бекенд IBM watsonx сам делает первичную разметку
человек правит предсказание: рамки элементов, порядок чтения, таблицы со склеенными ячейками
вкладка DocLang в реальном времени показывает XML и превью страницы
на выходе архив .dclx со структурой и картинками страниц
Поправить готовое предсказание заметно быстрее, чем размечать с чистого листа.

📊 Зачем оно нужно:
Итог разметки: ваш собственный золотой набор сразу под две задачи.
Первая: гонять каждую новую версию Docling на своих документах и ловить регрессии до продакшна.
Вторая: собирать примеры под файнтюн своих форматов.
Бонусом: бумаги с низкой уверенностью уходят человеку на проверку и возвращаются правильным DocLang.

🌐 Контекст:
DocLang это открытый стандарт представления документов от LF AI & Data, запущенный в июне.
Стандарт поддержан IBM, NVIDIA, Red Hat, ABBYY и HumanSignal.
И теперь у него появился первая независимая реализация в Starter Cloud и Enterprise подписках у Label Studio с пробным периодом в две недели.
Новый аккаунт watsonx даёт 30 дней и 5000 страниц бесплатно.

📎 https://humansignal.com/blog/docling-labelstudio/

Понятно, что у нас это не применишь, но интересно как вектор развития и поскольку стандарт открытый, - можно залабать свою версию.

#DocLang #разметка #OCR #Docling #IBM #LabelStudio
———
@tsingular