Wenn KI das Recht liest, Teil 1. Was Juristen über die Suchtechnik hinter KI wissen sollten und was die IT über juristische Texte wissen sollte.
Viele Unternehmen und Kanzleien testen gerade Sprachmodelle an Verträgen, Verordnungen und internen Richtlinien. Die Demo beeindruckt. Dann stellt jemand eine echte Frage und erhält eine selbstbewusste Antwort, die den falschen Artikel zitiert. Meist liegt das Problem nicht beim Sprachmodell, sondern im Schritt davor: wie das System Informationen findet. Dieser Artikel erklärt diesen Schritt in einfacher Sprache.
1. Warum KI externes Wissen braucht
Ein großes Sprachmodell lernt im Training aus riesigen Textmengen. Dieses Wissen liegt nicht wie Dateien in einem Ordner. Es ist über die internen Parameter des Modells verteilt. Deshalb ist es zum Zeitpunkt des Trainings eingefroren: Die Verordnung aus dem letzten Monat kennt das Modell nicht. Und fehlte ein Thema in den Trainingsdaten, hat das Modell Schwierigkeiten, ohne das unbedingt mitzuteilen. Daher kommen Halluzinationen.
Die übliche Lösung heißt Retrieval Augmented Generation, kurz RAG. Das Modell bleibt der Autor, schlägt aber vorher in einer durchsuchbaren Bibliothek nach. Diese lässt sich jederzeit aktualisieren, ohne das Modell neu zu trainieren.
Der Haken: Ein Modell kann nur mit dem arbeiten, was es bekommt, und es unterscheidet schlecht zwischen relevantem und bloß verwandtem Material. In einer kontrollierten Studie senkte eine einzige Passage, die zum Thema passte, aber die Antwort nicht enthielt, die Genauigkeit um bis zu 25 Prozent. Mit mehreren solchen Passagen lagen die Verluste bei bis zu 67 Prozent.
Für Rechtsabteilungen: Wer KI an die eigenen Dokumente anbindet, löst das Zuverlässigkeitsproblem nicht. Er verschiebt es. Hat das System die richtige Quelle gefunden, das Rauschen herausgefiltert, und lässt sich die Antwort an der Quelle prüfen?
2. Schlüsselwortsuche und Vektorsuche
Die Schlüsselwortsuche (das klassische Verfahren heißt BM25) sortiert Dokumente nach gemeinsamen Wörtern. Sie ist präzise, wenn die Wörter exakt übereinstimmen: eine Normangabe, eine Produktnummer, ein definierter Begriff. Schwach ist sie, wenn dieselbe Idee anders formuliert ist.
Die Vektorsuche, auch semantische Suche genannt, wandelt Text in Zahlen um, die Bedeutung abbilden, und sucht inhaltlich ähnliche Texte. Aber ähnlich heißt nicht relevant. Fragt man nach der Farbe von Napoleons Pferd, liefert sie womöglich eine Passage über das Pferd von Joséphine. Thematisch nah, als Antwort nutzlos.
Ein juristisches Beispiel zeigt beide Seiten. Eine Schlüsselwortsuche nach „Art. 6 Abs. 1 lit. f DSGVO“ findet die exakte Vorschrift, übersieht aber eine Passage zum „berechtigten Interesse“, die die Norm nicht nennt. Die Vektorsuche findet sie vielleicht, bringt aber auch Texte mit, die nur ähnlich klingen. Keines der Verfahren gewinnt immer: In einem Experiment fand die einfache Schlüsselwortsuche häufiger relevante Passagen als ein moderner semantischer Retriever und verbesserte die Genauigkeit um 3 bis 4 Prozentpunkte.
Für die IT: Juristische Sprache lebt von exakten Verweisen, Legaldefinitionen und Ausnahmen. Wer nur auf semantische Ähnlichkeit setzt, verpasst genau die Details, auf die es Juristen ankommt.
3. Wie RAG in der Praxis funktioniert
Ein System mit RAG zerlegt Dokumente in kleine Abschnitte (Chunks), wandelt sie in Zahlen um, speichert sie in einem Index, ruft die zur Frage passendsten Abschnitte ab und übergibt sie dem Modell. Diese Abschnitte zeigen auch, woher die Antwort stammt.
Chunking ist eine echte Designentscheidung. Wird eine Klausel von ihrer Ausnahme getrennt oder ein Artikel von seinen Begriffsbestimmungen, sieht das Modell womöglich nie den Teil, der die Bedeutung verändert. Bessere Systeme kombinieren beide Suchverfahren (hybride Suche) und sortieren die Treffer mit einem spezialisierten Relevanzmodell neu (Reranking). Typische Fehlerquellen sind vage Fragen und zu viele abgerufene Dokumente, die die Leistung stark sinken lassen. RAG verringert Halluzinationen, beseitigt sie aber nicht. Ein Vergleich von sechs Varianten von RAG zeigte große Unterschiede bei Qualität, Geschwindigkeit und Kosten.
4. Wissensgraphen: Beziehungen sichtbar machen
Dokumente verstecken Beziehungen im Fließtext, also muss jemand den Text jedes Mal neu auslegen. Ein Wissensgraph benennt sie direkt. Dinge werden zu Punkten, Beziehungen zu Verbindungen: Diese Verordnung ändert jene Richtlinie, dieses Unternehmen ist eine Tochter von jenem. Eine Ontologie legt fest, welche Arten von Dingen und Beziehungen es gibt und was sie bedeuten. Offene Standards des W3C unterstützen das: RDF speichert Fakten als Tripel (Subjekt, Prädikat, Objekt), OWL ergänzt formale Bedeutung, SPARQL fragt den Graphen ab.
Die Grenzen sind gerade für das Recht wichtig. Fehler bei der Extraktion gelangen in den Graphen und sehen dann wie Fakten aus. RDF behandelt Daten als statische Momentaufnahme, während sich Gesetze und Verträge ändern. Beziehungen zwischen mehr als zwei Beteiligten lassen sich nur indirekt abbilden. Ein Wissensgraph macht Beziehungen explizit. Richtig macht er sie nicht.
5. GraphRAG: Text und Struktur verbinden
GraphRAG ergänzt klassisches RAG um einen Graphen. Im Ansatz von Microsoft baut ein Sprachmodell den Graphen selbst aus den Dokumenten. Das System kann dann Namen aus der Frage im Graphen zuordnen, Verbindungen über mehrere Dokumente verfolgen oder Zusammenfassungen verwandter Gruppen von Entitäten für Überblicksfragen nutzen.
Text bewahrt die Details, Graphen bewahren die Zusammenhänge. „Wann ist Verordnung X in Kraft getreten?“ steht in einer Passage, ein Graph erzeugt hier nur Mehraufwand. Bei Fragen, die Fakten aus verschiedenen Dokumenten verknüpfen, hilft der Graph. Automatisch besser ist GraphRAG aber nicht. In einem Test landeten nur etwa 66 Prozent der Antwortentitäten im Graphen. Die Ergebnisse hängen von Designentscheidungen ab, Graphen kosten Geld im Aufbau, und manche frühen Erfolgsmeldungen beruhen auf Auswertungen, die spätere Forschung infrage stellt. Sinnvoller ist ein hybrider Aufbau, der Fragen zuerst an das günstigere Verfahren schickt.
6. Die richtige Architektur wählen
Das ist eine technische Abwägung, keine Rangliste von Technologien. Vier Kriterien zählen: Antwortqualität, Nachvollziehbarkeit, Geschwindigkeit und Aktualität.
In einem Benchmark antwortete einfaches RAG mit Vektorsuche in etwa 2,4 Sekunden mit 3.600 Tokens (den Texteinheiten, die die Kosten bestimmen). Ein agentenbasiertes Graphverfahren brauchte etwa 70 Sekunden und 16.900 Tokens und war nicht bei jeder Frage besser. Reichhaltigere Graphen aufzubauen kostete bis zu 40 Mal mehr Tokens. Zudem gehen diese Graphverfahren davon aus, dass sich Dokumente nie ändern. Recht ändert sich, und jede Änderung bedeutet, Teile des Index neu aufzubauen.
Alles in einen langen Prompt zu packen, ist keine kostenlose Alternative: Die Genauigkeit sank um bis zu 67 Prozent, wenn verwandte, aber nutzlose Passagen hinzukamen, und war am niedrigsten, wenn die richtige Passage in der Mitte stand.
Unser Fazit: Beginnen Sie mit messbaren Anforderungen und den Gesamtkosten über die gesamte Nutzungsdauer. Die einfachste Architektur, die diese Anforderungen erfüllt, ist meist die beste. Bevor wir empfehlen, messen wir.
Wie es weitergeht
Informationen zu finden, ist nur die halbe Aufgabe. Ihre rechtliche Bedeutung zu verstehen, ist die andere Hälfte. Darum geht es in Teil 2.
Alle Aussagen in diesem Artikel beruhen auf veröffentlichter Forschung. Wenn Sie die Quelle zu einer bestimmten Aussage wünschen, kontaktieren Sie uns über wrungel.eu. Wir senden Ihnen gern die Referenz.
Hinweis: Dieser Text wurde mit Hilfe einer KI aus dem englischen Original übersetzt.