Am 13.03.2024 stimmt das Europäische Parlament über das weltweit erste Gesetz bezüglich künstlicher Intelligenz ab. Die europäische Verordnung zielt darauf ab, die Sicherheit und Vertrauenswürdigkeit der KI-Systeme zu gewährleisten, Innovationen zu fördern und gleichzeitig die Achtung der Grundrechte zu sichern.
Ein risikobasierter Ansatz
Die Verordnung enthält verschiedene Verpflichtungen für Anbieter und Nutzer von KI-Systemen. Dabei verfolgt die Verordnung einen risikobasierten Ansatz: Je größer die von einer KI-Anwendung ausgehenden Risiken sind, desto strenger sind die Anforderungen an die Einführung und Nutzung dieser Systeme.
Die Verordnung definiert vier Risikostufen für KI-Systeme:
Unannehmbares Risiko – verbotene Praktiken
Stellen KI-Anwendungen ein unannehmbares Risiko für den Menschen dar, wird ihre Anwendung durch das neue Gesetz gänzlich verboten. Nicht erlaubt sind deshalb u.a. KI-Anwendungen, welche Personen unterschwellig beeinflussen und ihnen hierdurch schaden. Am Arbeitsplatz ist die Verwendung von KI-Systemen zur Ableitung von Emotionen verboten. Auch das ,,Social Scoring‘‘, bei welchem Bürger durch KI in verschiedene Kategorien eingeteilt werden, ist in der EU unzulässig.
Hochrisiko-Systeme
Werden KI-Anwendungen durch das neue Gesetz als Hochrisiko-Systeme eingestuft, unterliegen die Anbieter und Nutzer sehr strengen Verpflichtungen. Erforderlich ist zum Beispiel ein Risikobewertungssystem sowie die Einhaltung bestimmter Qualitätskriterien für die Datensätze und die Datenverwaltung. Zudem bestehen besondere Aufzeichnungs- und Dokumentationspflichten. Der Hochrisikobereich umfasst u.a. die kritische Infrastruktur (z.B. der Betrieb des Straßenverkehrs, der Wasser- und Wärmeversorgung), die allgemeine und berufliche Bildung (z.B. die Bewertung von Prüfungen), die Strafverfolgung und die Verwaltung von Justiz.
Begrenztes Risiko – Transparenz- und Kennzeichnungspflichten
Geht von einer KI-Anwendung ein begrenztes Risiko aus, begründet das kommende Regelwerk besondere Transparenzpflichten. Deren Zweck ist es, Menschen über die Nutzung der KI-Technologie zu informieren und ihr Vertrauen in das System zu stärken. So muss in Zukunft offengelegt werden, wenn Inhalte durch KI gefälscht wurden (sog. ,,Deepfakes‘‘). Die Nutzer sollen dann entscheiden können, ob sie weiter damit interagieren möchten.
Minimales oder gar kein Risiko
Bei einem minimalen Risiko ist die Anwendung von KI grundsätzlich erlaubt. Von einem minimalen Risiko ist beispielsweise bei KI-fähigen Videospielen oder Spamfiltern auszugehen.
Geltung des KI-Gesetzes
Das KI-Gesetz tritt am zwanzigsten Tag nach seiner Veröffentlichung im Amtsblatt der Europäischen Union in Kraft. Zwar wird die gesamte Verordnung erst zwei Jahre später gelten, für KI-Anwendungen mit einem unannehmbaren Risiko greifen die Verbote dagegen schon nach 6 Monaten ein.
