Überblick dieses Blogs
KI-Verordnung - ein Überblick
Die EU hat es sich zur Aufgabe gemacht, die künstliche Intelligenz (KI) zu regulieren. Zu diesem Zweck hat sie das KI-Verordnung (oder auch KI-Gesetz oder AI-Act) auf den Weg gebracht, welches im März 2024 durch das Parlament verabschiedet wurde. In Kraft treten soll es im Mai/Juni. Es dauert dann noch 24 Monate, bis das Gesetz vollständig anwendbar sein wird (Quelle).
- Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen der künstlichen Intelligenz (KI-Systeme) in der Union.
- Verbote bestimmter Praktiken im Bereich der künstlichen Intelligenz.
- Besondere Anforderungen an Hochrisiko-KI-Systeme und Verpflichtungen für Betreiber solcher Systeme.
- Vorschriften über die Marktbeobachtung und Marktüberwachung.
- Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen (nicht Standortgebunden)
- Nutzer von KI-Systemen, die sich in der Union befinden.
- Anbieter und Nutzer von KI-Systemen, die in einem Drittland niedergelassen sind oder ansässig sind, wenn das vom System hervorgebrachte Ergebnis in der Union verwendet wird.
Für militärische Zwecke, oder zum Zwecke der Strafverfolgung und justiziellen Zusammenarbeit gilt diese KI-Verordnung nicht.
Laut Artikel 3, Nr. 1 der KI-Verordnung ist eine „System der künstlichen Intelligenz“
Eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf einer Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.
Strukturierter Überblick über die Hauptbestandteile der KI-VO
Zweck und Anwendungsbereich
- Definition und Klassifikation von KI-Systemen
- Geltungsbereich der Verordnung
Risikobasierte Regulierungsansätze
- Einteilung der KI-Systeme in Risikokategorien
- Spezifische Vorschriften für hochrisiko KI-Systeme
Verbotene KI-Praktiken
- Liste verbotener Anwendungen und Technologien
- Schutz der Grundrechte und Verhinderung von Missbrauch
Transparenzpflichten
- Offenlegungspflichten für bestimmte KI-Systeme
- Informationsrechte der Nutzer
Datenschutz und Datengovernance
- Anforderungen an Datenqualität und -verwaltung
- Schutz personenbezogener Daten
Marktaufsicht und Compliance
- Rolle und Befugnisse der nationalen Aufsichtsbehörden
- Verfahren zur Konformitätsbewertung
Sanktionen und Rechtsdurchsetzung
- Bußgelder und Strafmaßnahmen bei Verstößen
- Rechtsmittel und Beschwerdeverfahren
Förderung von Innovation und Forschung
- Unterstützung für Forschung und Entwicklung durch regulatorische Sandkästen
- Förderung des sicheren und verantwortungsbewussten Einsatzes von KI
Internationale Zusammenarbeit
- Koordination und Zusammenarbeit auf internationaler Ebene
- Einfluss der EU-Regelungen auf globale Standards
Kurze Zusammenfassung der KI-Verordnung
- Risikobasierte Klassifizierung: KI-Systeme werden in vier Risikostufen eingeteilt – von „minimal bis kein Risiko“ bis inakzeptabel. Systeme mit hohem Risiko, wie autonome Fahrzeuge oder medizinische Geräte, erfordern strenge Test-, Dokumentations- und Rechenschaftspflichten.
- Verbot bestimmter KI-Anwendungen: Zu den verbotenen Technologien gehören solche, die biometrische Überwachung oder soziales Scoring in Echtzeit ermöglichen, sowie Technologien, die menschliches Verhalten manipulieren oder auf andere Weise die freie Willensbildung umgehen.
- Transparenz und Datenqualität: Es gibt spezifische Anforderungen an die Transparenz der Datenherkunft und die Qualität der verwendeten Daten, um sicherzustellen, dass die Systeme keine Vorurteile oder Diskriminierung fördern.
- Sanktionen bei Nichteinhaltung: Die Strafen für Verstöße können bis zu 30 Millionen Euro oder 6% des weltweiten Umsatzes erreichen.
