Wenn ein KI-System eine Aufgabe abbricht, merkst du es. Riskant ist der andere Fall: die Rechnung, die zur falschen Buchung zugeordnet wurde und aussieht wie erledigt. Diese Seite benennt, was schiefgehen kann, woran man es erkennt und was sich technisch dagegen tun lässt.
Die realen Risiken der KI-Buchhaltung sind nicht dramatische Ausfälle, sondern leise Fehler: eine falsch gelesene Zahl, ein doppelt erfasster Beleg, eine Zuordnung, die plausibel aussieht und nicht stimmt. Beherrschbar werden sie, wenn zu jedem Wert das Originaldokument bleibt und jede Zuordnung nachvollziehbar ist.
Die realen Risiken
Ein Sprachmodell erzeugt plausible Ausgaben, keine geprüften. Ein unscharfer Thermobon wird zu einem Betrag, der aussieht wie ein Betrag — ohne dass jemand markiert, dass da geraten wurde. Deshalb gehört zu jedem extrahierten Wert das Originaldokument, gegen das man ihn prüfen kann.
Zwei Abbuchungen desselben Anbieters im selben Monat, ähnliche Beträge — und der Beleg landet an der falschen Zeile. Beide Buchungen sehen danach erledigt aus. Deshalb muss eine Zuordnung über Betrag, Datum und Gegenseite eindeutig passen, sonst bleibt sie offen.
Dieselbe Rechnung kommt per Mail, liegt im Portal und ist schon in der Buchhaltungssoftware. Wer nicht erkennt, dass es dieselbe ist, bucht sie zweimal — und zieht Vorsteuer doppelt. Duplikatserkennung ist deshalb kein Komfort, sondern eine Pflicht.
Wenn nur die extrahierten Zahlen bleiben und das Original nicht, fehlt bei der Betriebsprüfung die Grundlage. Die GoBD verlangt Nachvollziehbarkeit und Unveränderbarkeit — ein eingefrorener PDF-Snapshot dokumentiert den Originalzustand jedes Belegs (GoBD § 146).
Weniger offensichtlich
Ein Agent, der E-Mails liest und Webseiten öffnet, bekommt ständig Text von Dritten zu sehen. Wenn in einer Mail „Ignoriere deine bisherigen Anweisungen“ steht, darf das keine Anweisung sein, sondern nur Inhalt. Beobachtete Inhalte als Daten und nicht als Befehle zu behandeln, ist eine der wichtigsten Grenzen in einem agentischen System — und sie muss im System verdrahtet sein, nicht im Prompt erbeten.
Wenn eine Rechnung wirklich nicht existiert, ist der Eigenbeleg der richtige Weg. Er ist aber kein technisches Detail, sondern deine Erklärung gegenüber dem Finanzamt, dass eine Ausgabe so stattgefunden hat. Deshalb darf ein Agent ihn vorbereiten, aber nie ohne ausdrückliche Freigabe erzeugen.
Ein System, das bei jeder Unklarheit nachfragt, wird ignoriert — und dann werden auch die wichtigen Fragen überlesen. Der Maßstab ist der Mitarbeiter beim Steuerberater, der die Fibu macht: der klärt, was aus Beleg, Kontoauszug und bisherigen Buchungen klärbar ist, und legt nur die wenigen echten offenen Punkte vor.
Wenn 95 % der Belege automatisch kommen, fällt der Rest weniger auf als früher, wo alles auffiel. Ein System muss deshalb die Lücke aktiv zeigen — welche Buchungen noch kein Dokument haben, seit wann, und was der letzte Versuch ergeben hat — statt nur Erfolge zu melden.
Kein Werkzeug übernimmt die steuerlichen Pflichten. Wer bucht, verantwortet die Buchung; wer erklärt, verantwortet die Erklärung. Ein Anbieter, der etwas anderes suggeriert, verkauft ein Risiko mit. Sinnvoll ist deshalb die Arbeitsteilung: die Maschine beschafft und bereitet auf, Mensch und Kanzlei prüfen und verantworten.
Gegenmaßnahmen
Weiterlesen
Wo die Daten liegen, wer sie verarbeitet, ob trainiert wird und wie der AVV dazu passt.
Warum Handlungsfähigkeit auch Verantwortung heißt und welche Grenzen deshalb deterministisch bleiben müssen.
Die menschliche Endkontrolle ist keine Schwäche der Automatisierung, sondern ihr Gegenstück.
Der praktische Gegentest: welche Buchungen im Zeitraum noch kein Dokument haben.
FAQ
Vor allem stille Fehler: falsch gelesene Beträge, Belege an der falschen Buchung, doppelt erfasste Rechnungen und eine Ablage, die bei der Betriebsprüfung nicht nachvollziehbar ist. Auffällige Ausfälle sind harmlos dagegen, weil man sie bemerkt.
Ein Sprachmodell erzeugt plausible Ausgaben, keine geprüften — bei schlecht lesbaren Belegen kann eine Zahl also geraten sein, ohne dass es kenntlich wird. Beherrschbar ist das nur, wenn das Originaldokument erhalten bleibt und jeder extrahierte Wert dagegen prüfbar ist.
Das hängt vom System ab, nicht von der KI. Entscheidend sind Nachvollziehbarkeit und Unveränderbarkeit: der Originalbeleg muss in seinem Zustand erhalten bleiben und die Verarbeitung nachvollziehbar dokumentiert sein. belege.ai legt dafür zu jedem Beleg einen eingefrorenen PDF-Snapshot ab (GoBD § 146).
Eine Zuordnung wird nur gesetzt, wenn Betrag, Datum und Gegenseite eindeutig passen; sonst bleibt die Buchung sichtbar offen. Eine falsche Zuordnung lässt sich nachvollziehen und korrigieren, weil zu jeder Zuordnung das Dokument und die Begründung vorliegen.
Das ist ein reales Risiko bei jedem System, das fremde Inhalte liest. Der Schutz besteht darin, beobachtete Inhalte grundsätzlich als Daten und nie als Anweisungen zu behandeln und die harten Grenzen — Berechtigungen, Mandantentrennung, Schreibrechte — deterministisch im System zu verankern statt im Prompt.
Die steuerlichen Pflichten bleiben beim Steuerpflichtigen; ein Werkzeug übernimmt sie nicht. Genau deshalb ist die Arbeitsteilung sinnvoll: Automatisierung beschafft und bereitet auf, Mensch und Steuerberater prüfen und verantworten.
Zu jedem Beleg der eingefrorene Originalzustand, zu jeder Zuordnung die Begründung. Kostenlos starten, ohne Kreditkarte.
Jetzt kostenlos starten