Interview mit Sebastian Merkel

Ihr habt Legal-AI-Produkte mitentwickelt, bevor ihr Kanzleien darin beraten habt. Was sieht man als Entwickler, das man als reiner Anwender nie sieht?

Für mich ist es vor allem die Produktseite: Jede Funktion, die eine Kanzlei nutzt, war einmal eine Entscheidung, meistens ein Kompromiss zwischen dem, was technisch möglich ist, und dem, was rechtlich und wirtschaftlich sauber ist. Wer nur das fertige Tool sieht, hält diese Kompromisse für Naturgesetze. Wer sie mitgebaut hat, weiß: Man kann sie hinterfragen und an die eigene Kanzlei anpassen.

Was ist der teuerste Irrtum, den Kanzleien beim Einsatz von KI machen?

Der teuerste Irrtum ist, KI-Kompetenz mit Tool-Kompetenz zu verwechseln. Eine Kanzlei kauft eine Lizenz, schult zwei Stunden lang die Bedienung und glaubt, das Thema sei erledigt. Kompetenz bedeutet aber, zu verstehen, wann man dem Ergebnis nicht blind trauen darf. Das lernt man nicht durch eine Tool-Einweisung, sondern nur durch Auseinandersetzung mit der Technologie selbst.

Seit Februar 2025 verpflichtet Art. 4 der KI-Verordnung zur KI-Kompetenz. Was bedeutet das konkret für eine Kanzlei und was passiert, wenn man es ignoriert?

Was viele unterschätzen: Art. 4 richtet sich nicht nur an Anbieter von KI-Systemen, sondern ausdrücklich auch an Betreiber, also auch an jede Kanzlei, die ein KI-Tool im Tagesgeschäft einsetzt. Es ist keine Vorschrift, die nur große Legal-Tech-Anbieter betrifft. Wer das ignoriert, verlässt sich darauf, dass es nie zur Nachfrage kommt. Bei Mandaten mit Compliance-Anspruch ist das eine Wette, die wir Mandanten nicht empfehlen würden.

Halluzinationen gelten oft als „Bedienfehler“. Warum ist das falsch und was folgt daraus für die anwaltliche Prüfpflicht?

Der Rahmen dafür existiert im Berufsrecht längst. § 43a BRAO verlangt Gewissenhaftigkeit, unabhängig vom eingesetzten Werkzeug. Die Frage ist nicht, ob man KI-Ergebnisse prüfen muss, sondern wie man das effizient tut, ohne den Zeitgewinn wieder zu verlieren. Genau dafür braucht es Workflows: Quellenkontrolle, Vier-Augen-Prinzip an den richtigen Stellen, nicht Misstrauen gegen die Technologie als Ganzes.

Ihr seid ausdrücklich produktneutral. Warum ist das gerade bei Legal AI so wichtig, wo doch jeder Anbieter das Gegenteil verspricht?

Weil die Fehlinvestitionen in diesem Markt real sind. Wir kennen genug Kanzleien, die sich an ein Tool gebunden haben, das nicht zu ihrer Praxisstruktur passte. Produktneutralität heißt für uns nicht, keine Meinung zu Tools zu haben. Sie heißt, diese Meinung nicht zu verkaufen, sondern sie den Mandanten zur eigenen Entscheidung zur Verfügung zu stellen.

Was würdet ihr einer Kanzlei raten, die jetzt mit KI anfangen will, aber nicht weiß, wo?

Eine Person benennen, die zuständig ist. Ohne Zuständigkeit bleibt es bei Einzelversuchen, und jede:r fängt wieder bei null an. Das kostet mehr Zeit, als die Technologie am Ende einspart.

Was ist die eine Sache aus dem Seminar, die Teilnehmer:innen sofort am nächsten Arbeitstag anwenden können?

Eine einfache Prüffrage vor jeder Nutzung: Welche Mandatsdaten dürfen überhaupt in dieses System? Diese eine Frage verhindert die meisten Probleme, bevor sie entstehen und sie kostet keine zusätzliche Zeit.