„Die Zukunft der KI-Regulierung: Das EU-KI-Gesetz und seine Auswirkungen“

Der Kosmologe und Wissenschaftsphilosoph Max Tegmark definierte KI als „eine breitere Klasse von Maschinen, die in der Lage sind, Aufgaben auszuführen, die geistige Fähigkeiten erfordern, wie das Verstehen natürlicher Sprache, das Erkennen von Mustern, das Lösen von Problemen und das Treffen von Entscheidungen.“ Aber wer schützt uns vor diesen schlauen Maschinen und sorgt dafür, dass sie keine dummen Entscheidungen treffen? Genau, hier kommt das EU-KI-Gesetz ins Spiel! Es handelt sich um ein umfassenden Vorschlag (Gesetz ist noch nicht verabschiedet) der EU-Kommission, der die Anforderungen und Verpflichtungen für Anbieter und Nutzer von KI-Systemen festlegt.

Ich muss gestehen, dass es das erste Gesetz ist, dass ich mir in dieser Komplexität einmal durchgelesen habe. Dabei habe ich mich gefühlt wie im Labyrinth von Minos. Und nach dem Motto „Mache die Dinge so einfach wie möglich, aber nicht einfacher.“  habe ich die für mich wichtigsten Punkte einmal herausgefiltert und zusammengefasst.

1. Verbot von KI-Praktiken, die eine Gefahr für die Sicherheit und die Grundrechte des Menschen darstellen: Ziel ist der Schutz der Grundrechte im Zusammenhang mit KI. Es werden Anforderungen an vertrauenswürdige KI festgelegt, um Privatsphäre, Gleichheit und Meinungsfreiheit zu gewährleisten. Im Falle der Verletzung von Grundrechten können Rechtsmittel eingelegt werden. Die unternehmerische Freiheit und die Freiheit von Kunst und Wissenschaft werden eingeschränkt, um Sicherheitsrisiken zu vermeiden. Die Offenlegung von Informationen wird so geregelt, dass geistiges Eigentum geschützt bleibt.

2. Kohärenz mit dem geltenden Recht: Der Vorschlag steht im Einklang mit dem geltenden Unionsrecht, einschließlich der EU-Charta der Grundrechte und des geltenden Sekundärrechts der Union in den Bereichen Datenschutz, Verbraucherschutz, Nichtdiskriminierung und Gleichstellung der Geschlechter. Der Vorschlag wird in die bestehenden sektorspezifischen Sicherheitsvorschriften integriert, um Kohärenz zu gewährleisten, Überschneidungen zu vermeiden und den Verwaltungsaufwand zu verringern (Verwaltungsaufwand in Deutschland verringern, hier musste ich herzlich lachen).

3. Die Unterstützung von Innovation ist ein zentraler Aspekt der Verordnung. Die Europäische Kommission plant Maßnahmen, um Innovationen im Bereich KI zu fördern. KI-Reallabore sollen eingerichtet werden, um Unternehmen und Start-ups bei der Entwicklung und Erprobung neuer KI-Anwendungen zu unterstützen. Außerdem wird versucht, den Verwaltungsaufwand für Unternehmen zu reduzieren und speziell kleinen und mittleren Unternehmen sowie Start-ups zu helfen. Denn wir wissen alle, dass die besten Ideen oft in kleinen Kellern oder Garagen entstehen.
Dabei ist die Entwicklung eines Binnenmarkts für KI ist ein weiteres Ziel dieser Verordnung. Die Europäische Kommission möchte sicherstellen, dass rechtskonforme, sichere und vertrauenswürdige KI-Anwendungen im gesamten Binnenmarkt leicht verfügbar sind. Dies würde dazu beitragen, eine Marktfragmentierung zu verhindern und die Entwicklung von KI in Europa zu fördern.
Mit der Verordnung soll ein umfassender und zukunftsorientierter Rechtsrahmen unter Wahrung der Verhältnismäßigkeit geschaffen werden. Dies bedeutet, dass die Regulierung auf die spezifischen Risiken und Herausforderungen von KI-Systemen ausgerichtet sein sollte, ohne Innovationen unnötig zu behindern. Ein guter Rechtsrahmen sollte auch Raum für künftige Entwicklungen lassen und an die technologische Entwicklung angepasst werden können.

4. Das Gesetz schlägt konkrete Beschränkungen und Sicherheitsmaßnahmen für bestimmte Anwendungen biometrischer Fernidentifizierungssysteme vor, insbesondere im Zusammenhang mit der Strafverfolgung. Es ist, als würde man ein großes Schild aufstellen, auf dem steht: „Achtung! Biometrische Systeme im Einsatz. Bitte lächeln!“

5. Anforderungen an hochriskante KI-Systeme: legen spezifische Voraussetzungen fest, u. a. in Bezug auf Daten, Dokumentation, Transparenz und menschliche Überwachung.

6. Transparenzpflichten für bestimmte KI-Systeme (Artikel 52 !!!): Wer ein KI-System einsetzt, um Bilder, Töne oder Videos zu erzeugen oder zu manipulieren, die erkennbar echten Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen ähneln und fälschlicherweise als echt oder wahr erscheinen würden (sogenannte Deepfakes), muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. An dieser Stelle möchte ich natürlich noch einmal auf die Content Authenticity Initiative hinweisen.

Jedoch gilt der erste Absatz nicht, wenn die Verwendung solcher Inhalte gesetzlich zugelassen ist und zur Aufdeckung, Verhütung, Untersuchung und Verfolgung von Straftaten dient oder notwendig ist für die Ausübung der durch die Charta der Grundrechte der Europäischen Union garantierten Rechte auf freie Meinungsäußerung, Kunst und Wissenschaft.

7. Pflichten von Lieferanten, Importeuren, Händlern und Anwendern von KI-Systemen: In diesen Artikeln werden spezifische Pflichten für verschiedene Akteure im Bereich der KI festgelegt, darunter Pflichten zur Konformitätsbewertung, zur Registrierung von Hochrisiko-KI-Systemen, zur Zusammenarbeit mit den Behörden und zur Meldung schwerwiegender Zwischenfälle und Störungen.

8. Aufsichtsstrukturen und Durchsetzungsmechanismen: legt die Aufsichtsstrukturen und Durchsetzungsmechanismen für die Einhaltung der Vorschriften des KI-Gesetzes fest, einschließlich der Rolle der nationalen Aufsichtsbehörden und der Europäischen KI-Aufsichtsbehörde.

Potenzial für die Regulierung von Künstlicher Intelligenz

Obwohl die Verordnung viele wichtige Aspekte der Regulierung von KI abdeckt, gibt es noch einige Bereiche, die bei zukünftigen Überarbeitungen (noch mehr) berücksichtigt werden sollten.

Einer dieser Bereiche ist die Rechenschaftspflicht und Erklärbarkeit von Algorithmen (wird im Gesetz erwähnt, aber nur in bestimmten Bereichen). KI-Systeme sollten in der Lage sein, ihre Entscheidungen zu erklären, insbesondere wenn sie Auswirkungen auf Menschen haben. Dies ist besonders wichtig in Bereichen wie Kreditvergabe, Personalentscheidungen und Strafjustiz. Schließlich wollen wir nicht, dass Menschen aufgrund undurchsichtiger Algorithmen benachteiligt oder falsch behandelt werden, nach dem Motto: „Warum hat der Algorithmus das getan? Weil er es so entschieden hat!“.

KI-Systeme sollten so entwickelt und trainiert werden, dass sie Bias und Diskriminierung vermeiden. Dies kann durch spezifischere Anforderungen an die verwendeten Datensätze und die Methoden erreicht werden. Wir wollen nicht, dass KI-Systeme bestehende Vorurteile verstärken oder Menschen aufgrund von geschlechtlichen, ethnischen oder anderen Merkmalen benachteiligen.

Darüber führt die zunehmende Automatisierung zu Veränderungen auf dem Arbeitsmarkt, und es ist entscheidend, dass Arbeitnehmer auf diese Veränderungen vorbereitet werden. Unterstützende Maßnahmen und Weiterbildungsprogramme können dazu beitragen, dass Arbeitnehmer die erforderlichen Fähigkeiten erwerben, um in einer KI-dominierten Wirtschaft erfolgreich zu sein.

Da ich zwei Kinder habe, ist es mir besonders wichtig, dass spezifische Richtlinien für den Einsatz von KI in der Bildung entwickelt werden, um sicherzustellen, dass KI-Systeme das Lernen fördern und gleichzeitig die Privatsphäre der Schüler schützen. Der Einsatz von KI kann das Lernen effektiver und personalisierter machen, aber es ist wichtig, dass dies auf ethisch und pädagogisch verantwortungsvolle Weise geschieht. Medienkompetenz ist für viele Schulen bereits eine Herausforderung. Die Nutzung von KI in Schulen erhöht die Anforderungen um ein Vielfaches.

Nach der Verabschiedung dieses Gesetzes (ich hoffe bald) liegt es nun an uns als Gesellschaft, dafür zu sorgen, dass diese Verordnung wirksam umgesetzt und kontinuierlich überprüft wird, um den sich ständig ändernden Herausforderungen der KI gerecht zu werden. Wenn wir uns auf ethische Grundsätze, Fairness und den Schutz der Grundrechte konzentrieren, können wir eine Zukunft gestalten, in der KI unser Leben verbessert, ohne uns zu bedrohen. Es liegt in unserer Verantwortung, den Fortschritt verantwortungsvoll zu gestalten.

• 228 views
• 0 Comment