OCR On-Premise oder Cloud-OCR: Laufzeiten im Vergleich

Bevor eine KI ein Dokument versteht, muss der Text darin erkannt werden. Das übernimmt die Texterkennung, kurz OCR (Optical Character Recognition). Sie läuft entweder bei einem Cloud-Dienst oder auf eigener Hardware.

Die Wahl wirkt wie eine Frage des Datenschutzes. Sie ist aber auch eine Frage der Wartezeit. Wir haben beide Wege mit denselben echten Dokumenten gemessen. Dieser Beitrag zeigt die Zahlen, die Gründe und unsere Entscheidung.

Der Aufbau: ein Server in Deutschland, ein Dienst in der EU

On-Premise heißt: Die Texterkennung läuft auf eigener Hardware statt beim Cloud-Anbieter. Gemessen haben wir das auf unserem eigenen Server in einem Rechenzentrum in Deutschland. Im Rechenzentrum eines Kunden funktioniert es genauso.

Der Server ist eine einzelne Maschine mit 8 Prozessorkernen und rund 65 GB Arbeitsspeicher. Darauf läuft die Erkennung als Container, also als abgeschlossenes Softwarepaket. Derselbe Anbieter betreibt diese Erkennung auch als Cloud-Dienst. Dokumente und Ergebnisse liegen auf dem Server nur im Arbeitsspeicher, auf der Festplatte wird nichts gespeichert.

Zum Vergleich diente der Cloud-Dienst desselben Anbieters in einem Rechenzentrum in der EU. Er wird über eine OCR-API aufgerufen. Gemessen haben wir mit öffentlich verfügbaren Geschäftsdokumenten, unter anderem Datenblättern, Geschäftsberichten, Fondsberichten und Sicherheitsdatenblättern.

Alle Zeiten gelten für eine umfassende OCR Erkennung, die auch das Dokumenten-Layout, Tabellen, Ankreuzfelder und jede Textposition erfasst, also eigentlich etwas mehr als reine Texterkennung. Gemessen wurde vom Absenden bis zum fertigen Ergebnis, inklusive Hochladen.

So sieht das Ergebnis in der Ansicht „Document Layout“ unserer Dokumentansicht aus: Tabellen, Absätze und einzelne Wörter sind markiert. Fährt man mit der Maus über ein Wort, erscheint seine Lesesicherheit, hier 99 Prozent für „Dockingstation“.

Die Messwerte

Gemessen haben wir am 29. Oktober und am 2. November 2026, auf beiden Wegen mit denselben Dateien. Die Zahlen sind Mediane, also mittlere Werte: Die Hälfte der Dokumente war schneller, die andere Hälfte langsamer. Bei den langen Dokumenten ist es je ein Lauf.

Kurze Dokumente, eines nach dem anderen. Zehn einseitige und neun zweiseitige Dokumente gingen abwechselnd an beide Wege, in drei Durchgängen. Eine Seite war auf dem eigenen Server nach 2,5 Sekunden fertig, in der Cloud nach 5,5. Bei zwei Seiten waren es 3,9 und 6,0 Sekunden. In allen 57 Paaren war der eigene Server schneller.

Mehrere Dokumente gleichzeitig. Bei Dokumenten bis zehn Seiten, einzeln geschickt, brauchte der eigene Server 3,9 Sekunden, die Cloud 6,6. Kamen vier gleichzeitig, waren es auf dem eigenen Server 23 Sekunden, in der Cloud 6,3. Bei acht gleichzeitig stand es 75,5 zu 6,1 Sekunden. Die Cloud bleibt bei rund sechs Sekunden, egal wie viele Dokumente kommen.

Lange Dokumente. Hier ist der Abstand am größten. Ein Dokument mit 313 Seiten brauchte auf dem eigenen Server 9,6 Minuten, in der Cloud 43 Sekunden. Für 535 Seiten waren es 16,0 Minuten gegen 59 Sekunden.

Warum lange Dokumente auf einem Server langsam sind

Ein einzelner Server hat eine feste Rechenleistung. Unser Server schafft mit der Layout-Erkennung 36 bis 48 Seiten pro Minute, über eine ganze Nacht gemessen 37. Mehr geht nur mit mehr Maschinen.

Der Cloud-Dienst verteilt die Arbeit nach unserer Beobachtung auf viele Maschinen. So kamen 535 Seiten in 59 Sekunden zurück. Bei einem einzelnen kurzen Dokument hilft diese Verteilung wenig. Dort zählt, wie schnell ein Auftrag startet, und der eigene Server war in unserem Test schneller.

Auf dem eigenen Server gibt es zudem eine Warteschlange. Er arbeitet Aufträge der Reihe nach ab. Standen lange Dokumente in der Warteschlange vorn, wartete ein Dokument mit zwei Seiten knapp zehn Minuten. Es war schnell gelesen, kam aber nicht an die Reihe.

Ein einzelner Auftrag, der länger als etwa eine Stunde lief, brach bei uns ab. Wer lange Dokumente auf eigener Hardware verarbeitet, teilt sie deshalb vorher in Abschnitte.

OCR On-Premise: Vor- und Nachteile

Für die eigene Hardware sprechen drei Punkte:

• Ort der Verarbeitung: Die Dokumente verlassen das Rechenzentrum nicht, in dem der Server steht.
• Kurze Antwortzeit: Eine Seite war in 2,5 Sekunden gelesen, in der Cloud in 5,5.
• Feste Kosten für die Hardware: Eine Maschine kostet einen festen Betrag im Monat, egal wie stark sie ausgelastet ist.

Dagegen sprechen vier Punkte:

• Begrenzte Leistung: Ein Server liest mit der Layout-Erkennung etwa 40 Seiten pro Minute.
• Warteschlange: Ein langes Dokument hält kurze auf, wenn niemand die Reihenfolge steuert.
• Betrieb: Updates, Neustarts und Überwachung liegen beim Betreiber. Fällt der einzelne Server aus, springt kein anderer ein.
• Keine Ersparnis pro Seite: Bei unserem Anbieter kostet die Seite auf eigener Hardware so viel wie in der Cloud. Die Hardware kostet zusätzlich.

Cloud-OCR-API: Vor- und Nachteile

Für den Cloud-Dienst sprechen drei Punkte:

• Tempo unter Last: Auch bei acht Dokumenten gleichzeitig blieb die Antwortzeit bei rund sechs Sekunden. 535 Seiten waren in 59 Sekunden gelesen statt in 16,0 Minuten.
• Kein Betrieb: Kein eigener Server, keine Updates, keine Überwachung.
• Bezahlung nach Nutzung: Abgerechnet wird pro Seite. Für seltene Lastspitzen muss keine Maschine bereitstehen, die sonst ungenutzt bleibt.

Dagegen sprechen drei Punkte:

• Die Dokumente verlassen das Haus: Der Anbieter verarbeitet sie in seinem Rechenzentrum. Dafür braucht es einen Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO.
• Zugriff aus dem Ausland: Für Anbieter, die US-Recht unterliegen, gilt 18 U.S. Code § 2713. Auf Anordnung müssen sie Daten sichern oder herausgeben, „regardless of whether such communication, record, or other information is located within or outside of the United States“. Das heißt: egal, ob die Daten in den USA liegen oder nicht. Ein Standort in der EU schützt allein nicht vor diesem Zugriff.
• Grenzen beim Hochladen: Bei zwei Dateien mit 7 und 15 MB brach das Hochladen eines Abschnitts mit einer Zeitüberschreitung ab. Ein zweiter Versuch gelang.

Die allgemeine Abwägung beschreibt der Beitrag On-Premise vs. Cloud. Was Texterkennung pro Seite kostet, steht in OCR Kosten im Überblick.

Die Rechnung für lange Dokumente

Man könnte den eigenen Server einfach vervielfachen. Um lange Dokumente wie die Cloud auf mehrere Maschinen zu verteilen, bräuchten wir grob geschätzt zehn solcher Maschinen. Das wären rund 1.000 Euro im Monat nur für die Texterkennung.

Lange Dokumente mit Hunderten Seiten sind bei uns aber selten. Die Maschinen stünden die meiste Zeit still. Wir haben uns deshalb gegen den Ausbau entschieden.

Stattdessen bieten wir beide Wege an. Wer die Verarbeitung nur in Deutschland erlaubt, bekommt unseren Server in Deutschland. Ein Dokument mit rund 300 Seiten dauert dann 9,6 Minuten statt 43 Sekunden. Wer die Verarbeitung in der EU zulässt, bekommt den Cloud-Dienst. Mehr zum Betrieb auf eigener Hardware steht in On-Premise AI.

Wo stehen Sie?

• Kommen Ihre Dokumente einzeln über den Tag verteilt, oder als Stapel am Morgen?
• Wie lang ist Ihr längstes Dokument: zehn Seiten oder 500?
• Erlauben Ihre Verträge die Verarbeitung in der EU, oder nur in Deutschland?
• Wartet ein Mensch auf das Ergebnis, oder läuft die Verarbeitung im Hintergrund?
• Wer kümmert sich um Updates und Ausfälle, wenn der Server bei Ihnen steht?

Fazit

Für einzelne kurze Dokumente ist ein eigener OCR-Server schneller: 2,5 statt 5,5 Sekunden für eine Seite, in allen 57 Vergleichen. Sobald viele Dokumente gleichzeitig kommen oder ein Dokument Hunderte Seiten hat, liegt die Cloud vorn. 535 Seiten brauchten auf unserem Server 16,0 Minuten, in der Cloud 59 Sekunden.

Die Entscheidung beginnt deshalb nicht bei der Technik, sondern beim Vertrag. Wo dürfen Ihre Dokumente verarbeitet werden? Danach richtet sich der Weg, und die Laufzeiten lassen sich planen. Wenn Sie Ihre eigenen Dokumente auf beiden Wegen testen möchten, sprechen Sie uns an.