Die neue KI-VO: Was ändert sich im Legal Tech-Markt?

08.01.2024

Die neue KI-VO: Was ändert sich im Legal Tech-Markt?

Von Prof. Dr. Martin Ebers

Nach mehr als zweieinhalb Jahren intensiver Beratungen wurde am 8.12.2023 ein politischer Kompromiss zur KI-Verordnung (KI-VO) erzielt. Zwar lag die finale Version bei Abfassung dieses Newsletters noch nicht vor. Schon jetzt lassen sich jedoch die Auswirkungen der KI-VO für Legal Tech (LT)-Anwendungen skizzieren.

Weite KI-Definition erfasst viele LT-Anwendungen

Die KI-VO folgt der OECD-Definition. Ein KI-System ist danach ein maschinengestütztes System, das seiner Konzeption nach mit unterschiedlichen Autonomiegraden operiert und nach Inbetriebnahme Anpassungsfähigkeit aufweisen kann. Da ein bestimmter Autonomie- und Anpassungsgrad nach dieser Definition gerade nicht verlangt wird, scheint die KI-VO nahezu sämtliche Softwareanwendungen zu erfassen.

Einstufung von LT-Anwendungen

Daraus folgt jedoch nicht, dass nunmehr sämtliche LT-Tools strikten Regelungen unterliegen. LT-Anwendungen fallen i.d.R. nicht unter den Verbotskatalog des Art. 5 KI-VO. Die Vorschriften für Basismodelle und generative KI-Systeme gelten demgegenüber nur für Anbieter dieser Systeme (z.B. OpenAI/Microsoft), nicht aber für deren Betreiber (also nicht für Anwälte, die z.B. ChatGPT nutzen) und auch nicht für Anbieter, die auf diesen Modellen aufbauend bestimmte LT-Anwendungen verkaufen (wie z.B. Allen & Overy mit ContractMatrix). Für den LT-Markt sind daher vor allem die Vorschriften zu Hochrisiko-KI-Systemen sowie die Transparenzanforderungen relevant.

LT-Anwendungen als Hochrisiko-KI-Systeme?

Nach Anhang III der KI-VO werden vor allem solche LT-Tools als Hochrisikosysteme eingestuft, die vom Staat in sensiblen Bereichen eingesetzt werden, wie z.B. bei öffentlichen Unterstützungsleistungen, bei der Strafverfolgung und der Grenzkontrolle. Im Bereich der Rechtspflege werden zudem solche LT-Systeme erfasst, die bestimmungsgemäß Justizbehörden bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte unterstützen sollen. LT-Tools für Rechtsanwälte und LT-Unternehmen fallen dagegen nicht unter Anhang III.

Transparenzpflichten für bestimmte LT-Anwendungen

Für juristische Chatbots einschließlich Q&A-Anwendungen müssen die Anbieter für die Betroffenen deutlich machen, dass sie es mit einem KI-System zu tun haben. Künstlich generierte Inhalte müssen zudem als solche gekennzeichnet werden.

Verhältnis der KI-VO zum RDG und anwaltlichen Berufsrecht

Die KI-VO ist zwar eine Verordnung, daraus folgt jedoch nicht, dass ein KI-Angebot, dass im Einklang mit der KI-VO steht, automatisch erlaubt ist. Da die KI-VO keine Aussagen zu Fragen trifft, die im RDG und Berufsrecht geregelt sind, kann sie diese Gesetze auch nicht verdrängen, zumal einschlägige EU-Richtlinien gerade auf dem Grundsatz der gegenseitigen Anerkennung der anwaltlichen Berufsrechte basieren.

Ausblick

Für LT-Anwendungen, die von Justiz- und Verwaltungsbehörden verwendet werden, muss sorgfältig geprüft werden, ob die Vorschriften zu Hochrisiko-KI-Systemen greifen. Für Tools, die zur Nutzung durch Unternehmen, Kanzleien und Rechtssuchende bestimmt sind, sind dagegen nur die besonderen Transparenzanforderungen zu beachten. Darüber hinaus wird die KI-VO vermutlich keine nennenswerten Auswirkungen auf den privaten LT-Sektor haben. Insofern muss jedoch geklärt werden, inwieweit diese Tools nach dem RDG sowie nach dem anwaltlichen Berufsrecht eingesetzt werden dürfen.


Martin Ebers ist Professor für IT-Recht an der Universität Tartu (Estland), Präsident der Robotics & AI Law Society (RAILS) und habilitierter Privatdozent an der Juristischen Fakultät der Humboldt-Universität zu Berlin. Neben Forschung und Lehre ist er seit vielen Jahren im Bereich der Prozessberatung aktiv. Im Nomos Verlag ist der Stichwortkommentar Legal Tech des Autors erschienen.