Interview mit Christopher Brennan

Ihr habt Legal-AI-Produkte mitentwickelt, bevor ihr Kanzleien darin beraten habt. Was sieht man als Entwickler, das man als reiner Anwender nie sieht?

Man sieht, wo ein Modell wirklich Daten extrahiert und korrekt verwendet und wo es nur rät. Wenn man an einer (Recherche)-KI mitbaut, sieht man die Trefferquote, die Evaluierungsdaten, die Fälle, in denen das System danebenliegt, und warum.

Als Anwender sieht man nur die glatte, selbstbewusste Antwort. Genau diese Selbstsicherheit ist das Gefährliche. Ein Modell klingt bei einer falschen Antwort nicht anders als bei einer richtigen.

Was ist der teuerste Irrtum, den Kanzleien beim Einsatz von KI machen?

Zu glauben, „nutzen wir KI oder nicht“ sei noch eine offene Frage. Sie ist längst beantwortet: jede Kanzlei nutzt KI bereits, meistens über private ChatGPT-Zugänge einzelner Mitarbeitender, ohne Richtlinie, ohne Dokumentation. Die eigentliche Frage ist, ob man das steuert oder ihm zusieht.

Seit Februar 2025 verpflichtet Art. 4 der KI-Verordnung zur KI-Kompetenz. Was bedeutet das konkret für eine Kanzlei und was passiert, wenn man es ignoriert?

Wer KI-Systeme einsetzt oder deren Einsatz durch Mitarbeitende zulässt, muss Maßnahmen ergreifen, damit diese Personen über ausreichende KI-Kompetenz verfügen, abgestimmt auf ihre Vorkenntnisse, den Einsatzkontext und die Zielgruppe. Die Vorschrift verlangt kein bestimmtes Kompetenzniveau als Erfolg, aber sie verlangt Maßnahmen, und die muss man im Zweifel nachweisen können. Wer das ignoriert, hat im Streit- oder Haftungsfall keine Dokumentation, auf die er sich berufen kann und zu einem Zeitpunkt, an dem er sie am dringendsten bräuchte.

Halluzinationen gelten oft als „Bedienfehler“. Warum ist das falsch und was folgt daraus für die anwaltliche Prüfpflicht?

Weil es unterstellt, es gäbe eine korrekte Bedienung, bei der Halluzinationen ausblieben. Die gibt es nicht. Ein Sprachmodell sagt nicht, was wahr ist, sondern, was auf das nächste plausible Wort folgt. Falsche Aussagen sind kein Betriebsunfall, sondern ein strukturelles Merkmal der Technologie. Daraus folgt zwingend: Die anwaltliche Prüfpflicht endet nicht beim Prompt, sondern erst beim geprüften Ergebnis, so, wie man auch einen Referentenentwurf oder eine Mandantenaussage nicht ungeprüft übernimmt.

Ihr seid ausdrücklich produktneutral. Warum ist das gerade bei Legal AI so wichtig, wo doch jeder Anbieter das Gegenteil verspricht?

Weil jeder Anbieter naturgemäß die Vorteile seines eigenen Produkts optimiert darstellt, nicht die Passung zur konkreten Kanzlei. Wir haben beide auf der anderen Seite gestanden, kennen die Vertriebsargumentation und wissen, wo sie an der Realität vorbeigeht. Eine Kanzlei, die zuerst ein Tool kauft und danach überlegt, wofür es taugt, hat die Reihenfolge vertauscht.

Was würdet ihr einer Kanzlei raten, die jetzt mit KI anfangen will, aber nicht weiß, wo?

Nicht mit dem Tool anfangen, sondern mit dem Workflow (Arbeitsschritt), der am meisten Zeit frisst und am wenigsten Kreativität braucht. Meistens ist das die erste Sichtung eines Sachverhalts oder ein Recherche-Grundgerüst. Dort testet man, dort merkt man schnell, wo die Grenzen liegen, und dort ist der Schaden im Zweifel am kleinsten.

Was ist die eine Sache aus dem Seminar, die Teilnehmer:innen sofort am nächsten Arbeitstag anwenden können?

Die eigene Prompt-Bibliothek, die wir im zweiten Modul gemeinsam aufbauen. Kein abstraktes Wissen, sondern drei, vier Vorlagen für die eigenen, tatsächlichen Aufgaben. Direkt einsetzbar am Montag danach.