Das Europäische Parlament hat eine politische Einigung mit dem Rat über das Gesetzespaket zur künstlichen Intelligenz (KI) erzielt, das als “Artificial Intelligence Act” bekannt ist. Ziel ist es, die Nutzung von KI sicherer zu gestalten, grundlegende Rechte und Demokratie zu schützen und gleichzeitig Innovation zu fördern. Die Regelungen legen Verpflichtungen für KI-Systeme fest, basierend auf potenziellen Risiken und Auswirkungen.

AI-Act wichtigste Punkte der Vereinbarung

Einige der wichtigsten Punkte der Vereinbarung sind:

• Verbotene Anwendungen: Es gibt Verbote für biometrische Kategorisierungssysteme mit sensiblen Merkmalen, das Sammeln von Gesichtsbildern aus dem Internet für Gesichtserkennungsdatenbanken, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, soziales Scoring sowie die Manipulation von menschlichem Verhalten durch KI.
• Einschränkungen für die Strafverfolgung: Es gibt Sicherheitsmaßnahmen und Ausnahmen für den Einsatz von biometrischen Identifikationssystemen durch die Strafverfolgung. Insbesondere gibt es solche Einschränkungen im Bereich der “Echtzeit”- und “Post-Remote”-Identifikation.
• Verpflichtungen für Hochrisikosysteme: KI-Systeme mit erheblichem Schadenspotential unterliegen klaren Verpflichtungen, einschließlich einer verpflichtenden Bewertung der Auswirkungen auf grundlegende Rechte. Dies gilt auch für den Versicherungs- und Bankensektor. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen zu Entscheidungen zu erhalten.
• Richtlinien für allgemeine KI-Systeme: Allgemeine KI-Systeme müssen Transparenzanforderungen erfüllen, einschließlich technischer Dokumentation und Einhaltung des EU-Urheberrechts.
• Maßnahmen zur Unterstützung von Innovation und KMUs: Es werden sogenannte “Regulatory Sandboxes” und Tests im realen Umfeld gefördert. Dies ermöglicht bzw erleichtert es Unternehmern, insbesondere KMUs die Entwicklung von KI-Lösungen voranzutreiben.
• Sanktionen: Bei Nichteinhaltung der Regeln drohen Unternehmen Geldstrafen. Die Strafhöhe liegt bei bis zu 7% des globalen Umsatzes oder 35 Millionen Euro, je nach Schwere des Verstoßes und Unternehmensgröße.

In unserem Blog haben wir das Thema noch etwas ausführlicher aufbereitet.