KI-Forschung · Entwurf
Halluzinationen im Legal Tech: was sie sind, warum sie gefährlich sind und wie man sie vermeidet
Was KI-Halluzinationen genau sind, weshalb sie im notariellen Kontext ein besonderes Risiko darstellen, und mit welchen Maßnahmen sich dieses Risiko reduzieren lässt.
Johan Idler, Daniel Pessine und Jun Probst · 03. August 2026
Sprachmodelle formulieren Texte, die überzeugend klingen, unabhängig davon, ob die enthaltenen Fakten korrekt sind. Wenn ein Modell Informationen erzeugt, die plausibel wirken, aber nicht der Realität entsprechen, spricht man von einer „Halluzination“. Im Legal-Tech-Kontext ist das ein zentrales Risiko.
Was Halluzinationen sind
Eine Halluzination liegt vor, wenn ein KI-Modell eine Aussage trifft, für die es keine belastbare Grundlage gibt, etwa einen nicht existierenden Paragraphen zitiert, eine Frist falsch angibt oder ein Urteil erfindet. Das Modell „weiß“ dabei nicht, dass die Aussage falsch ist; es setzt lediglich statistisch plausible Wortfolgen fort.
Warum das im Notariat besonders gefährlich ist
Urkunden und rechtliche Einschätzungen verlangen eine hohe Zuverlässigkeit. Eine erfundene Rechtsgrundlage in einem Vertragsentwurf oder eine falsch wiedergegebene Frist kann, wenn sie unbemerkt bleibt, zu erheblichen Fehlern führen. Weil KI-generierter Text sprachlich oft sicher und autoritativ wirkt, besteht die Gefahr, Aussagen ungeprüft zu übernehmen.
- Erfundene oder falsch zitierte Rechtsnormen
- Nicht existierende Urteile oder Quellenangaben
- Plausibel klingende, aber sachlich falsche Fristen oder Beträge
Wie man Halluzinationen vermeidet
Eine vollständige technische Garantie gegen Halluzinationen gibt es nicht. Mehrere Maßnahmen können das Risiko jedoch deutlich reduzieren:
- Antworten auf geprüfte Quellen stützen (Retrieval statt freiem Generieren) und Quellenangaben verpflichtend machen
- Jede Aussage bis zur Ursprungsquelle nachvollziehbar machen
- Ergebnisse durch den Notar prüfen lassen, bevor sie verwendet werden
- Unsichere oder nicht belegte Passagen explizit kennzeichnen, statt sie zu verschweigen
- Änderungen und Prüfschritte versioniert und nachvollziehbar dokumentieren
KI-gestützt, nicht KI-ersetzend: Nachvollziehbarkeit ist eine der wirksamsten Schutzmaßnahmen gegen Halluzinationen.
KI-generierte Inhalte müssen vor Verwendung geprüft werden. Die inhaltliche Verantwortung liegt stets beim Notar. Senury ist so konzipiert, dass Aussagen möglichst auf nachvollziehbare Quellen zurückgeführt werden, ein Restrisiko lässt sich technisch jedoch nicht vollständig ausschließen.