Was ist eigentlich KI?
Was eigentlich ein KI System nach dem Gesetz ist und welche Schwächen die Legaldefinition aufweist, zeigt diese Blogserie.
KI ist allgegenwärtig, jeder benutzt sie oder verwendet den Begriff. Künstliche Intelligenz steht auf Produktbroschüren, in Förderprogrammen, in Beratungsangeboten — und seit August 2024 auch in einer EU-Verordnung, die Pflichten auslöst.
Das Problem ist einfach, dass der Begriff Unsicherheiten beinhaltet und nicht randscharf ist.
## Was sagt das Gesetz? Die Definition im AI Act
Der **AI Act** — offiziell: Verordnung (EU) 2024/1689 — ist das erste KI-Gesetz weltweit mit umfassendem Anspruch. Er gilt seit dem 1. August 2024 und entfaltet seine Wirkung stufenweise. Seit dem 2. Februar 2025 gelten unter anderem die Definitionen in Art. 3 sowie die Pflicht zur KI-Kompetenz nach Art. 4.
I. Die Legaldefinition des KI-Systems
1.) Ist Command & Conquer eine KI
Ich habe früher viel C+C gespielt. Das Programm hatte immer 12 Stufen, bis man gewonnen hat. Aber der Computer hat sich die Strategien gemerkt und sich immer besser auf meine Verhaltensweise eingestellt. Diese „engine“ gewährleistete dann langen Spielspaß. Ist Command § Conquer eine KI?
2.) Ist die Vorhersage für das Ausspielen von Werbung eine KI?
3.) Sind die Scoringsysteme der Schufa eine KI?
Die Entscheidung ist wichtig, weil die Kosten die Rechtspflichten aus der KI Verordnung dann gelten, wenn eine KI vorliegt.
Nach Art. 3 Ziffer. 1 KI-VO ist KI ist ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.
Sieben Tatbestandsmerkmale sind es, zwei sind wichtig.
Autonomie und Ableitung
Die EU-Kommission hat am **6. Februar 2025** Leitlinien zur Definition veröffentlicht. Rechtlich nicht verbindlich, praktisch und richtungsweisend — bis der EuGH das letzte Wort hat. Die Leitlinien benennen zwei Kriterien als besonders wichtig:
Autonomie bedeutet, dass das System zumindest teilweise ohne menschliches Eingreifen arbeiten kann. Systeme, die jede einzelne Operation manuell gesteuert benötigen, fallen heraus. Systeme, die eigenständig auf Eingaben reagieren und Ausgaben produzieren, fallen hinein.
Ableitung (Inferenz)** ist das entscheidende Kriterium. Die Leitlinien stellen klar: Die Fähigkeit, Schlussfolgerungen aus Daten zu ziehen, ist die „wesentliche, unverzichtbare Voraussetzung“, die KI-Systeme von klassischer Software unterscheidet. Kurz gesagt: **Klassische Software führt Regeln aus, die ein Mensch vorab programmiert hat. KI leitet aus Eingaben selbst ab, welche Ausgabe die richtige ist.**
Zur Auslegung der KI VO sind immer auch die Erwägungsgründe heranzuziehen.
Erwägungsgrund 12 der KI-VO sagt: Systeme, die „ausschließlich auf von natürlichen Personen definierten Regeln2 für das automatische Ausführen von Operationen beruhen, sind kein KI-System. Der Mensch gibt die Regellogik vollständig vor — das System führt nur aus.
