EU-KI-Verordnung Compliance für den Rechtssektor
Wie die EU-KI-Verordnung Legal Tech betrifft — KI in der Fallanalyse, Vertragsüberprüfung, gerichtlichen Entscheidungsfindung und Rechtsrecherche. Compliance-Anforderungen für Kanzleien und Legal-Tech-Anbieter.
Der Rechtssektor hat in den letzten Jahren eine rasche Einführung von KI-Technologien erlebt. Tools für Vertragsüberprüfung, Rechtsrecherche, Fallprognose, Due Diligence und Dokumentenerstellung sind heute Teil der täglichen Praxis in Kanzleien, Rechtsabteilungen von Unternehmen und öffentlichen Institutionen. Die EU-KI-Verordnung (Verordnung 2024/1689) ist für diesen Sektor besonders relevant, da bestimmte rechtliche KI-Anwendungen ausdrücklich als hochriskant eingestuft werden.
Hochrisiko-KI in der Rechtspflege
Anhang III, Punkt 8 stuft folgende als Hochrisiko-KI-Systeme ein:
(a) KI-Systeme, die von einer Justizbehörde oder in deren Auftrag eingesetzt werden sollen, um bei der Erforschung und Auslegung von Tatsachen und Recht und bei der Rechtsanwendung auf einen konkreten Sachverhalt zu helfen, oder die in ähnlicher Weise in der alternativen Streitbeilegung eingesetzt werden sollen.
Der Ausdruck „in deren Auftrag" einer Justizbehörde erweitert den Anwendungsbereich über Systeme hinaus, die direkt von Richtern genutzt werden. KI-Tools, die von Gerichtspersonal, Richterassistenten oder ausgelagerten Rechtsrecherche-Diensten betrieben werden, können alle unter diese Hochrisiko-Klassifizierung fallen.
KI in Kanzleien und Rechtsabteilungen
Vertragsüberprüfung und Due Diligence
KI-gestützte Vertragsüberprüfungstools, die innerhalb von Kanzleien eingesetzt werden, sind im Allgemeinen nicht als hochriskant gemäß Anhang III, Punkt 8(a) eingestuft, da sie nicht von oder im Auftrag einer Justizbehörde eingesetzt werden. Transparenzpflichten und professionelle Sorgfaltspflichten gelten jedoch weiterhin.
Eine Vertragsüberprüfungs-KI, die ungenaue Analysen produziert, kann zu wesentlichen Rechtsfehlern führen. Auch wenn die KI-Verordnung solche Systeme nicht als hochriskant einstuft, sollten Kanzleien strenge Qualitätskontrollen anwenden, einschließlich menschlicher Überprüfung von KI-generierten Analysen.
Rechtsrecherche
Die Klassifizierung hängt vom Nutzungskontext ab: Im Auftrag einer Justizbehörde ist es hochriskant; innerhalb einer Kanzlei im Allgemeinen nicht. Das gut dokumentierte Phänomen der KI-„Halluzinationen" — bei dem generative KI-Systeme plausible, aber erfundene Rechtszitate produzieren — stellt ein ernstes Risiko dar.
Need auditable AI for compliance?
Ctrl AI provides full execution traces, expert verification, and trust-tagged outputs for every AI decision.
Learn About Ctrl AIDie Anbieter-Betreiber-Unterscheidung im Legal Tech
Legal-Tech-Unternehmen als Anbieter
Unternehmen, die KI-gestützte Rechtstools entwickeln, die für den Einsatz durch Justizbehörden bestimmt sind, müssen die vollständigen Hochrisiko-Anforderungen erfüllen.
Kanzleien und Gerichte als Betreiber
Ihre Pflichten nach Artikel 26 umfassen: Nutzung gemäß Gebrauchsanweisungen, kompetente menschliche Aufsicht, Überwachung, Protokollaufbewahrung und Information betroffener Personen.
Für öffentlich-rechtliche Einrichtungen — einschließlich Gerichte — verlangt Artikel 27 eine Grundrechte-Folgenabschätzung vor dem Einsatz von Hochrisiko-KI-Systemen.
KI-Kompetenz-Anforderungen für Juristen
Artikel 4 verlangt, dass Kanzleien, Justizbehörden und Rechtsabteilungen sicherstellen, dass ihre Mitarbeiter, die KI-Tools nutzen, ein ausreichendes Maß an KI-Kompetenz haben. Diese Pflicht gilt seit dem 2. Februar 2025.
Fazit
Die EU-KI-Verordnung platziert den Rechtssektor an einer kritischen Schnittstelle von KI-Regulierung und Rechtsstaatlichkeit. KI-Systeme, die von oder im Auftrag von Justizbehörden eingesetzt werden, unterliegen den anspruchsvollsten Compliance-Anforderungen. Für den Rechtssektor ist die Compliance nicht nur eine regulatorische Übung — es ist eine Gelegenheit, Standards für den verantwortungsvollen Einsatz von KI in einem Bereich zu setzen, in dem Genauigkeit, Fairness und Verantwortlichkeit nicht nur rechtliche Anforderungen, sondern berufliche Grundpflichten sind.
Make Your AI Auditable and Compliant
Ctrl AI provides expert-verified reasoning units with full execution traces — the infrastructure you need for EU AI Act compliance.
Explore Ctrl AIVerwandte Artikel
EU-KI-Verordnung Compliance für Pharmaunternehmen
Wie die EU-KI-Verordnung KI in der Arzneimittelentwicklung, klinischen Studien, Pharmakovigilanz und Fertigung betrifft — Klassifizierungsanforderungen und GxP-Überlegungen.
EU-KI-Verordnung Compliance für Versicherungsunternehmen
Wie die EU-KI-Verordnung KI in der Versicherung betrifft — Underwriting, Schadenbearbeitung, Betrugserkennung und Preisgestaltung. Risikoklassifizierung und Compliance-Anforderungen für Versicherer.
EU-KI-Verordnung Compliance für Gesundheitswesen und medizinische KI
Wie die EU-KI-Verordnung auf klinische KI, Medizinprodukte, Diagnosesysteme und klinische Entscheidungsunterstützung anwendbar ist — Klassifizierung, MDR-Zusammenspiel und Compliance-Anforderungen.