data pipeline deepdoctection

deepdoctection – Ein Open-Source Framework für Document AI

Nelson Fernandes

Deepdoctection ist eine Python-Bibliothek, die die Aufgaben der Dokumentextraktion und der Dokumentenlayoutanalyse mit Hilfe von Deep-Learning-Modellen orchestriert.

Deepdoctection konzentriert sich auf Anwendungen und ist für diejenigen gemacht, die reale Probleme im Zusammenhang mit der Dokumentextraktion aus PDFs oder Scans in verschiedenen Bildformaten programmieren möchten.

#!trpst#trp-gettext data-trpgettextoriginal=2259#!trpen#Cet article a été rédigé en allemand, il a été automatiquement traduit dans d'autres langues et traduit en français. Nous vous invitons à nous faire part de vos commentaires à la fin de l'article.#!trpst#/trp-gettext#!trpen#

Websites vs. Dokumente und Scans als Informationsträger

Angenommen Sie möchten von einer Webseite Rezensionen auswerten. Mit ein wenig Programmiererfahrung können Sie in kurzer Zeit umfassende Untersuchungen wie Sentiment Analysen erstellen.

Nun nehmen Sie an, Sie möchten wieder Kundenfeedback auswerten. Diesmal aber liegen die Informationen in gescannten Formularen vor. Vielleicht sind die Formulare nicht alle identisch und einige wurden handschriftlich ausgefüllt. In diesem Fall werden Sie wesentlich mehr Zeit zum Erreichen Ihre Ziele aufwenden müssen.

Aber was ist der große Unterschied?

Sofern Sie Ihre Informationen aus Webseiten beziehen wollen, müssen Sie Ihre Daten per Webcrawling zu sich holen und aufbereiten, so dass aus der rohen HTML-Darstellung nur die Informationen übrigbleiben, die Sie für Ihre Analyse benötigen. Bis zur Analyse reicht ein regelbasierter Ansatz aus.

Nun zu den Formularen: Hier haben Sie vielleicht ein digitalisiertes Dokument, aber dieses Dokument speichert seine Inhalte in Pixelform, das heißt in abertausenden von Zahlen zwischen 0 und 255. Nun können Sie eine OCR-Engine darüber laufen lassen und Sie erhalten eine Kombination von Wörtern und Koordinaten.

Jetzt beginnt die eigentliche Arbeit, denn Sie müssen jetzt dem Formular Struktur geben: Zum Beispiel: Wie erkenne ich die Entitäten in dem Formular? Welche Wortblöcke gehören zusammen? Welche Strukturen gibt es, wie zum Beispiel Tabellen oder Paragrafen?

Um solche Probleme anzugehen, benötigen Sie einen Fundus an Hilfsmitteln. Zum einen kann künstliche Intelligenz Hilfe leisten, zum anderen muss künstliche Intelligenz aber orchestriert werden, um im Gesamtpaket wirkungsvoll zu sein.

deepdoctection – Pipelines für Document AI

deepdoctection ist ein auf Python basierendes Open Source Framework, welches Sie bei der Extraktion von Informationen aus Dokumenten unterstützt. Sie finden den Quellcode bei Github.

deepdoctection

Nutzung von Bild und Text

Im Unterschied zu gängigen Natural Language Processing Frameworks bietet deepdoctection die Möglichkeit, Pipelines zu erstellen, bei denen multimodale Modelle verwendet werden können, die neben Text- auch Bildinformationen einlesen. Hierzu gehören Positionsinformationen von Wörtern und Textsegmenten oder das gesamte Bild. Es hat sich nämlich gezeigt, dass besonders für Dokumente aus der täglichen Geschäftswelt (Formulare, Berichte, Präsentationen), KI-Modelle, die visuelle Informationen berücksichtigen, für die Extraktion besser funktionieren. Hierzu gehört die LayoutLM-Familie, eine Gruppe von Modellen, die von Microsoft entwickelt wurde.

Mit deepdoctection können Sie diese Modelle im Zusammenspiel mit OCR für die Klassifikation von Dokumenten oder der Extraktion von Entitäten ausprobieren.

YouTube

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren

Video laden

Layoutanalyse und Tabellenextraktion

Daneben bietet deepdoctection die Möglichkeit, Modelle für die Dokumenten-Layout-Analyse einzusetzen. Diese sind äußerst nützlich, um eine Strukturierung des Dokumentes in bestimmte Bereiche wie Tabellen, Figuren oder Listenelemente vorzunehmen.

Auch Tabellen können rekonstruiert werden und als csv-Datei oder sogar als HTML-Struktur extrahiert werden. Deepdoctection können Sie einfach online testen.

Live Demo

OCR

OCR ist eine weitere wichtige Komponente und hierfür bietet deepdoctection die Möglichkeit, verschiedene OCR-Frameworks einzusetzen. Hierzu gehört das bekannteste Open Source Framework Tesseract, aber auch das modernere DocTr, welches für viele Use-Cases genauere Ergebnisse liefert.

Open Source Basismodelle

deepdoctection bietet die Möglichkeit, Basismodelle aus verschiedenen hochwertigen Open Source Bibliotheken zu verwenden. Besonders die Ausführung von mehreren KI-Modellen in einem einfachen Aufruf ist die Stärke von deepdoctection.

Trainieren und Evaluieren von Modellen

Kein Modell funktioniert für alle Use-Cases. Aber es lässt sich die Genauigkeit wesentlich verbessern, indem man Modelle auf eigene Daten trainiert. Für verschiedene Basis-Modelle bietet deepdoctection vorkonfigurierte Trainingsskripte, so dass Sie nicht mühevoll nach einem geeigneten Setting suchen müssen.

Bevor man ein Modell produktiv nehmen möchte, muss man es evaluieren, um zu sehen, ob die Vorhersageergebnisse auf noch nicht gesehenen Daten akkurat genug sind. Hierfür bietet deepdoctection Metriken und Evaluierungsinstrumente an, die Sie nutzen können, um die Prognosefähigkeit Ihres Modells umfassend bewerten zu können.

Anlegen von Datasets

deepdoctection bietet die Möglichkeit, eigene Datensätze anzulegen und zu registrieren. Dieses erleichtert das Trainieren von Basismodellen und bietet überdies die Möglichkeit mehrere Datensets zu vereinen.

Schlusswort

Erkunden Sie, was in Document AI alles möglich ist. Nutzen Sie deepdoctection, um Ihre eigenen Use-Cases in Document AI anzugehen.

Tutorials für Einsteiger sowie für fortgeschrittene Themen stehen als Jupyter Notebook zur Verfügung. Darüber finden Sie eine umfassende Dokumentation zur Architektur sowie zur API des Frameworks.

Und sollten Sie Fragen haben, stellen Sie ein Issue ein oder nutzen Sie das Forum auf Github.

Über den Autor von deepdoctection

Janis Meyer

Dr. Janis Meyer arbeitet seit vielen Jahren als selbständiger Machine Learning Engineer und Unternehmensberater.

Der Trigger, sich mit Document AI Themen zu beschäftigen war für ihn ein Projekt, bei dem es darum ging, aus Finanzberichten spezifische Kennzahlen zu extrahieren.

Er hat deepdoctection entwickelt, um in kurzen Iterationszyklen neue Machine Learning Modelle, zur Lösung von Document AI Themen in Pipelines zu integrieren.

Dr. Janis Meyer berät Endkunden und Plattformbetreiber bei Einführungs- und Innovationsthemen von Intelligent Automation Themen. Hierzu gehört allgemeine Beratung, sowie Projekt, Umsetzungs-, Test- und Produktionsmonitoring.

Konfuzio vs. deepdoctection

deepdoctection kann in Konfuzio genutzt werden, um individuelle Anwendungsfälle umzusetzten. Konfuzio bietet dadurch die Möglichkeit in kurzen Iterationszyklen neue Modelle zu testen und bei erfolgreicher Evaluation diese schnell in den Produktionsprozess zu integrieren.

    🐍✨Auf der Suche nach einer neuen Herausforderung?

    Tritt dem AI Comedy Club bei! Tauche ein in eine Welt, in der sich KI und Humor treffen, und nutze diese Bühne für deine Fähigkeiten. Ob aufstrebender Youngster oder erfahrener Entwickler, hier hast du die Chance, dein Python-Können auf eine lustige und innovative Art zu zeigen. Entdecke außerdem Möglichkeiten, einen Beitrag zu leisten und dich sogar für einen Job bei uns zu bewerben.

    Bereit zum Coden, Lachen und Beeindrucken?

    Sieh dir unsere AI Comedy Club Challenge an und finde heraus, wohin dich dein Humor und deine Python-Skills führen können!

    Apply for data scientist, 
backend developer, 
data engineer, 
software developer, 
python software developer jobs.

    Über mich

    #!trpst#trp-gettext data-trpgettextoriginal=1889#!trpen#Autres grands articles#!trpst#/trp-gettext#!trpen#

    Post Logistik Datenautomatisierung Partnerschaft

    Die Zukunft von Postlogistik und Datenautomatisierung durch Partnerschaft erschließen

    Die Partnerschaft zwischen Konfuzio, einer führenden Plattform für intelligente Zeichenerkennung (ICR), optische Zeichenerkennung (OCR) und optische Markierungserkennung (OMR) - und…

    #!trpst#trp-gettext data-trpgettextoriginal=1881#!trpen#Lire l'article#!trpst#/trp-gettext#!trpen#
    Hoverture Konfuzio Partner

    Eine Partnerschaft für die Zukunft zwischen Hoverture und Konfuzio

    Die Geschäftswelt ist ständig im Wandel. Die digitale Transformation schreitet voran und die Wahl der richtigen Fusion ist von entscheidender…

    #!trpst#trp-gettext data-trpgettextoriginal=1881#!trpen#Lire l'article#!trpst#/trp-gettext#!trpen#
    fino Gruppe und fintract logo

    Fintract und fino starten Partnerschaft mit Konfuzio

    Mit großer Freude geben die Helm & Nagel GmbH, der Hersteller der KI-Software Konfuzio, und die beiden führenden FinTech-Unternehmen fino…

    #!trpst#trp-gettext data-trpgettextoriginal=1881#!trpen#Lire l'article#!trpst#/trp-gettext#!trpen#
    Arrow-up