Regulierung von künstlicher Intelligenz: EU-Parlament stimmt über KI-Gesetz ab

Die Abstimmung im Europäischen Parlament über den Vorschlag der Europäischen Kommission zur Verordnung über künstliche Intelligenz (auch als „KI-Gesetz“ bezeichnet) ist erfolgt. Damit ist der Weg frei für die Verhandlungen mit den EU-Mitgliedsstaaten über die endgültige Form der Verordnung.

Unklare Risikoklassifizierung

Konkret verfolgt die Verordnung einen risikobasierten Ansatz, wonach KI-Systeme einer Risikoklasse zugeordnet werden und Hochrisiko-Systeme strengere Anforderungen erfüllen müssen als KI-Systeme in einer niedrigen Risikoklasse. Vor dem Ausbremsen von Innovation warnt in diesem Zusammenhang eine aktuelle Studie der Plattform „appliedAI“. Danach war bei etwa 40 % der insgesamt 106 untersuchten Anwendungen eine Klassifizierung derzeit nicht zweifelsfrei möglich. Im Fazit wären knapp 60 % der künftigen Anwendungen mit einem erheblichen finanziellen und personellen Mehraufwand verbunden.

Risikomanagement-Systeme für Basismodelle

Ein Beispiel für einen solchen Mehraufwand sind die Regelungen zur Einführung von Risikomanagementsystemen. Diese sollen nicht nur für Hochrisiko-KI-Systeme gelten, sondern auch für Entwickler von sogenannten Basismodellen („foundation models“) verpflichtend sein. Ein Basismodell, so liest es sich in der letzten Fassung des Entwurfs, meint „ein KI-Modell, das auf einer breiten Datenbasis in großem Umfang trainiert wurde und für eine allgemeine Ausgabe konzipiert ist und an ein breites Spektrum unterschiedlicher Aufgaben angepasst werden kann.“ Unter die Definition fallen Sprachmodelle wie GPT-4 und Google Bard sowie Bildgeneratoren wie Midjourney oder Stable Diffusion. Da Basismodelle per Definition eine (unüberschaubare) Vielzahl von Anwendungsmöglichkeiten haben, ist eine sinnvolle Risikobewertung nahezu ausgeschlossen.

Überregulierung droht Start-ups und KMU auszubremsen

Darüber hinaus kostet der Aufbau von Risikomanagementsystemen vor allem eins: viel Geld. Kosten, die große Unternehmen wie Google und Microsoft viel leichter stemmen können als kleine und mittelgroße Unternehmen und erst recht als Start-ups. Letztlich könnte das KI-Gesetz somit zum Hemmschuh für viele Unternehmen werden.

Praxistipp

Unternehmen, die KI-basierte Technologien einsetzen, sollten sich frühzeitig mit den Grundsätzen der im Entwurf des KI-Gesetzes angelegten Risikoklassifizierung vertraut machen und die Verhandlungen in Brüssel beobachten, um daraus gegebenenfalls spezifische Entscheidungen für das eigene Unternehmen und die von ihm zu entwickelnden Produkte vorbereiten zu können.

Ihre Ansprechpartner von esb Rechtsanwälte Strewe & Partner mbB am Standort Dresden für sämtliche Fragen im Zusammenhang mit neuen Technologien und KI sind:

Rechtsanwältin und Fachanwältin für IT-Recht sowie für Internationales Wirtschaftsrecht Anne Schramm

Rechtsanwalt und Fachanwalt für IT-Recht Stefan Ansgar Strewe

Rechtsanwältin und Fachanwältin für IT-Recht Wiebke Dammann