13. März 2024 - Das Gesetz über künstliche Intelligenz (KI) verabschiedeten die Abgeordnete des Europäischen Parlaments am Mittwoch. Es sei ein wegweisendes Gesetz über künstliche Intelligenz, das Sicherheit und die Einhaltung der Grundrechte gewährleistet und gleichzeitig Innovationen fördert, heißt es aus EU-Parlamentskreisen.
Die in Verhandlungen mit den EU-Mitgliedstaaten im Dezember 2023 vereinbarte Verordnung wurde von den Abgeordneten im EU-Parlament (www.europarl.europa.eu/) mit 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen gebilligt. Ziel des Gesetzes ist es, Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit vor hochriskanter KI zu schützen und gleichzeitig Innovationen zu fördern und Europa als Vorreiter auf diesem Gebiet zu etablieren. Die Verordnung legt Verpflichtungen für KI auf der Grundlage ihrer potenziellen Risiken und des Ausmaßes ihrer Auswirkungen fest:
- Schutzmaßnahmen für allgemeine künstliche Intelligenz
- Beschränkungen der Verwendung biometrischer Identifikationssysteme durch die Strafverfolgungsbehörden
- Verbote von Social Scoring und KI, die dazu dienen, Benutzerschwachstellen zu manipulieren oder auszunutzen
- Recht der Verbraucher, Beschwerden einzureichen und aussagekräftige Erklärungen zu erhalten
- Persönliche Identifikationstechnologien in Straßenüberwachungskameras
- Das ungezielte Ausschneiden von Gesichtsbildern aus CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken wird verboten.
Verbotene Anwendungen
Die neuen Regeln verbieten bestimmte KI-Anwendungen, die die Rechte der Bürger gefährden, darunter biometrische Kategorisierungssysteme auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken. Emotionserkennung am Arbeitsplatz und in Schulen, soziale Bewertung, vorausschauende Polizeiarbeit (wenn sie ausschließlich auf der Profilerstellung einer Person oder der Bewertung ihrer Eigenschaften basiert) und KI, die menschliches Verhalten manipuliert oder die Schwachstellen von Menschen ausnutzt, werden ebenfalls verboten.
Ausnahmen für die Strafverfolgung
Der Einsatz biometrischer Identifikationssysteme (RBI) durch Strafverfolgungsbehörden ist grundsätzlich verboten, außer in erschöpfend aufgeführten und eng definierten Situationen. „Echtzeit“-RBI kann nur eingesetzt werden, wenn strenge Sicherheitsvorkehrungen eingehalten werden; zum Beispiel ist ihre Verwendung zeitlich und räumlich begrenzt und unterliegt einer spezifischen vorherigen gerichtlichen oder behördlichen Genehmigung.
Solche Einsatzmöglichkeiten können beispielsweise die gezielte Suche nach einer vermissten Person oder die Verhinderung eines Terroranschlags sein. Die nachträgliche Nutzung solcher Systeme („Post-Remote-RBI“) gilt als risikoreicher Anwendungsfall, der eine gerichtliche Genehmigung erfordert und mit einer Straftat verbunden ist.
Pflichten für Hochrisikosysteme
Klare Verpflichtungen sind auch für andere KI-Systeme mit hohem Risiko vorgesehen (aufgrund ihres erheblichen potenziellen Schadens für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit). Beispiele für KI-Anwendungen mit hohem Risiko sind kritische Infrastrukturen, allgemeine und berufliche Bildung, Beschäftigung, wesentliche private und öffentliche Dienste (zum Beispiel Gesundheitswesen, Banken), bestimmte Systeme der Strafverfolgung, Migration und Grenzverwaltung, Justiz und demokratische Prozesse (beispielsweise bei Beeinflussung von Wahlen).
Solche Systeme müssen Risiken bewerten und reduzieren, Nutzungsprotokolle führen, transparent und genau sein und eine menschliche Aufsicht gewährleisten. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten, die auf KI-Systemen mit hohem Risiko basieren und ihre Rechte beeinträchtigen.
Transparenz-Anforderungen
Allgemeine KI-Systeme (GPAI) und die GPAI-Modelle, auf denen sie basieren, müssen bestimmte Transparenzanforderungen erfüllen, einschließlich der Einhaltung des EU-Urheberrechts und der Veröffentlichung detaillierter Zusammenfassungen der für Schulungen verwendeten Inhalte. Für die leistungsfähigeren GPAI-Modelle, die systemische Risiken darstellen könnten, werden zusätzliche Anforderungen gelten, darunter die Durchführung von Modellbewertungen, die Bewertung und Minderung systemischer Risiken sowie die Berichterstattung über Vorfälle.
Darüber hinaus müssen künstliche oder manipulierte Bilder, Audio- oder Videoinhalte („Deepfakes“) eindeutig als solche gekennzeichnet werden.
Maßnahmen zur Innovations- und KMU-Förderung
Auf nationaler Ebene müssen regulatorische Sandboxen und reale Tests eingerichtet und für KMU und Start-ups zugänglich gemacht werden, um innovative KI zu entwickeln und zu trainieren, bevor sie auf den Markt gebracht wird.
Nächste Schritte
Die Regelung steht noch unter dem Vorbehalt einer abschließenden juristischen und sprachwissenschaftlichen Prüfung und wird voraussichtlich noch vor Ende der Legislaturperiode (im sogenannten Korrigendums-Verfahren) endgültig verabschiedet. Das Gesetz muss außerdem vom Rat offiziell gebilligt werden.
Es tritt zwanzig Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und ist 24 Monate nach seinem Inkrafttreten in vollem Umfang anwendbar, mit Ausnahme von: Verboten verbotener Praktiken, die sechs Monate nach dem Datum des Inkrafttretens gelten; Verhaltenskodizes (neun Monate nach Inkrafttreten); allgemeine KI-Regeln einschließlich Governance (12 Monate nach Inkrafttreten); und Verpflichtungen für Hochrisikosysteme (36 Monate). (-el / www.bocquel-news.de)
Achtung Copyright: Die Inhalte von bocquel-news.de sind nach dem Urheberrecht für journalistische Texte geschützt. Die Artikel sind ausschließlich zur persönlichen Lektüre und Information bestimmt. Abdrucke und Weiterverwendung - beispielsweise zum kommerziellen Gebrauch auf einer anderen Homepage / Website oder Druckstücken - sind nur nach persönlicher Rücksprache mit der Redaktion (info@bocquel-news.de) gestattet.
