Glossar zur EU-KI-Verordnung (KI-VO / AI Act)

Glossar zur EU-KI-Verordnung (KI-VO / AI Act)

Fachbegriffe rund um die EU-Verordnung über Künstliche Intelligenz (Verordnung (EU) 2024/1689, KI-VO bzw. AI Act), Agentic Coding und produktive KI-Nutzung in Unternehmen — verständlich erklärt.

Agentic Coding

Arbeitsweise, bei der Softwareentwickler:innen einen autonomen KI-Agenten beauftragen, ganze Aufgaben — Code schreiben, Tests erstellen, Refactoring durchführen — selbstständig zu bearbeiten. Der Agent plant Schritte, führt Werkzeuge aus (Dateien lesen, Befehle ausführen) und liefert ein Ergebnis. Bekannte Tools: Claude Code, OpenAI Codex, GitHub Copilot CLI, Cursor, Aider. Datenschutz- und Sicherheitsfragen entstehen durch Cloud-Verarbeitung, Permissions-Modelle und Geheimnis-Lecks.

AI Act

Englischer Begriff für die EU-KI-Verordnung. Identisch mit „KI-VO“. Die englische Bezeichnung wird häufig in internationalen Fachpublikationen verwendet, in deutschen Rechtsdokumenten überwiegt „KI-VO“.

Allgemeine-Zweck-KI-Modelle (GPAI)

Englisch General-Purpose AI Models: Foundation Models, die nicht für einen spezifischen Anwendungsfall trainiert wurden und in vielen Kontexten einsetzbar sind. Beispiele: GPT-4, Claude, Gemini, Mistral Large, Llama 3. Die KI-VO regelt GPAI-Modelle eigenständig (Art. 51 ff.) und stellt zusätzliche Anforderungen an Modelle „mit systemischem Risiko“ (Trainingsaufwand über 10²⁵ FLOPS).

Anbieter (KI-VO)

Natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3 KI-VO). Den Anbieter trifft die Hauptverantwortung für Konformitätsbewertung, technische Dokumentation, Risikomanagement und Marktüberwachung.

Betreiber (KI-VO)

Natürliche oder juristische Person, die ein KI-System in eigener Verantwortung verwendet — außerhalb privater Nutzung (Art. 3 Nr. 4 KI-VO). Betreiber müssen die Gebrauchsanweisung des Anbieters befolgen, menschliche Aufsicht sicherstellen und bei Hochrisiko-KI eine Grundrechte-Folgenabschätzung durchführen.

CE-Kennzeichnung für KI

Hochrisiko-KI-Systeme müssen vor dem Inverkehrbringen eine CE-Kennzeichnung tragen (Art. 48 KI-VO). Sie bestätigt, dass das System die Anforderungen der KI-VO erfüllt — insbesondere Risikomanagement, Datenqualität, Transparenz und menschliche Aufsicht. Anders als bei klassischen Produkten erfolgt die Konformitätsbewertung größtenteils intern durch den Anbieter selbst.

Datenqualität (Art. 10 KI-VO)

Hochrisiko-KI-Systeme dürfen nur mit Trainings-, Validierungs- und Testdaten betrieben werden, die relevant, hinreichend repräsentativ, fehlerfrei und vollständig sind. Datensätze müssen auf mögliche Verzerrungen (Bias) geprüft und dokumentiert werden — Verstöße sind mit den höchsten Bußgeldern der KI-VO bedroht (bis zu 35 Mio. € oder 7 % Jahresumsatz).

Embeddings

Numerische Repräsentation von Texten, Bildern oder anderen Daten in einem hochdimensionalen Vektorraum, sodass semantisch ähnliche Inhalte räumlich nah beieinanderliegen. Grundlage für Retrieval-Augmented Generation (RAG): Statt ganze Dokumente in den Modell-Kontext zu laden, werden nur die relevantesten Embeddings gefunden und übergeben. Datenschutz-Implikation: Auch Embeddings können personenbezogene Daten enthalten und sind entsprechend zu schützen.

Foundation Model

Großes, vortrainiertes KI-Modell, das als Basis für viele unterschiedliche Anwendungen dient — durch Feintuning, Prompt-Engineering oder RAG. Begriff überschneidet sich stark mit „GPAI“ der KI-VO. Beispiele: GPT-4, Claude, Llama, Gemini, Mistral Large.

Generative KI

KI-Systeme, die neue Inhalte erzeugen — Text, Bild, Audio, Video, Code. Unterliegen besonderen Transparenzpflichten nach Art. 50 KI-VO: Erzeugte Inhalte müssen als KI-generiert kenntlich gemacht werden (z. B. durch maschinenlesbare Wasserzeichen oder Metadaten). Deepfakes erfordern zusätzliche Kennzeichnung gegenüber Endnutzern.

Halluzination

Phänomen, bei dem ein KI-Sprachmodell faktisch falsche, aber überzeugend formulierte Aussagen erzeugt. Halluzinationen sind kein Bug, sondern eine Eigenschaft des statistischen Lernens. In regulierten Anwendungen — Medizin, Recht, Verwaltung — ein zentrales Risiko, das durch RAG, Quellenangaben, menschliche Aufsicht und Modellauswahl reduziert wird.

Hochrisiko-KI-System

KI-System, das nach Anhang III der KI-VO einem als hochrisikoreich eingestuften Anwendungsbereich zugeordnet ist — etwa biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung, Strafverfolgung, Migration. Hochrisiko-Systeme unterliegen strengen Anforderungen: Risikomanagement, Datenqualität, Dokumentation, Transparenz, menschliche Aufsicht, Robustheit. Verstöße werden mit bis zu 15 Mio. € oder 3 % Jahresumsatz geahndet.

KI-Kompetenz (Art. 4 KI-VO)

Pflicht von Anbietern und Betreibern, sicherzustellen, dass ihre Beschäftigten und alle Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ausreichende Kompetenz im Umgang mit KI verfügen. „Ausreichend“ hängt vom Kontext ab: technisches Know-how, Verständnis der Funktionsweise, Risiken, Grenzen, kontextbezogene Anwendung. Gilt seit 2. Februar 2026.

KI-System (Art. 3 Nr. 1 KI-VO)

Maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie betrieben wird, anpassungsfähig sein kann und aus Eingaben Ausgaben — Vorhersagen, Inhalte, Empfehlungen, Entscheidungen — ableitet, die physische oder virtuelle Umgebungen beeinflussen können. Bewusst breit gefasst, um regulatorische Lücken zu vermeiden.

KI-Verordnung (KI-VO)

Verordnung (EU) 2024/1689 vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz. Erste umfassende KI-Regulierung weltweit. Anwendbarkeit gestaffelt: Verbote (Art. 5) ab Februar 2025, KI-Kompetenz (Art. 4) ab Februar 2026, GPAI-Pflichten ab August 2025, vollständige Geltung der Hochrisiko-Regeln ab August 2026.

Konformitätsbewertung

Verfahren zur Prüfung, ob ein Hochrisiko-KI-System die Anforderungen der KI-VO erfüllt (Art. 43 KI-VO). Für die meisten Hochrisiko-Systeme erfolgt sie intern durch den Anbieter. Für biometrische Identifikationssysteme ist eine Beteiligung benannter Stellen vorgeschrieben.

Menschliche Aufsicht (Art. 14 KI-VO)

Hochrisiko-KI-Systeme müssen so gestaltet sein, dass natürliche Personen sie effektiv überwachen können — die Funktion, Auswirkungen und Grenzen verstehen, das System bei Bedarf außer Betrieb nehmen und Ergebnisse hinterfragen können. „Human in the Loop“ und „Human on the Loop“ sind etablierte Implementierungsmuster.

Prompt Injection

Sicherheitslücke generativer KI-Systeme: Ein Angreifer schmuggelt versteckte Anweisungen in Eingabedaten (etwa in Webseiten, E-Mails, hochgeladene Dokumente) und bringt das Modell dazu, vom eigentlichen Nutzer-Auftrag abzuweichen. Besonders kritisch bei Agentic-Coding-Systemen mit Werkzeug-Zugriff. Schutzmaßnahmen: strikte Trennung von Daten und Anweisungen, Permissions-Modelle, Output-Sanitization, Audit-Logs.

Retrieval-Augmented Generation (RAG)

Technik, bei der ein KI-Modell zur Beantwortung einer Frage zunächst relevante Dokumente aus einer Wissensdatenbank zieht und sie dem Modell als Kontext mitgibt. Reduziert Halluzinationen, ermöglicht Quellenangaben und erlaubt Antworten zu Inhalten, die nicht im Trainings-Set des Modells waren. DSGVO-relevant: Wissensbasis und Embeddings können personenbezogene Daten enthalten.

Risikomanagementsystem (Art. 9 KI-VO)

Über den gesamten Lebenszyklus eines Hochrisiko-KI-Systems zu unterhaltendes System: Identifikation und Analyse bekannter und vorhersehbarer Risiken, Bewertung anderer möglicherweise auftretender Risiken, Erprobung der Risikomaßnahmen, kontinuierliche Iteration. Vergleichbar mit ISMS-Prozessen aus ISO 27001, aber mit KI-spezifischen Anforderungen.

Robustheit (Art. 15 KI-VO)

Hochrisiko-KI-Systeme müssen so robust sein, dass sie auch bei fehlerhaften Eingaben, ungewöhnlichen Bedingungen, Manipulationsversuchen und über die gesamte Nutzungsdauer zuverlässig funktionieren. Schließt Cybersicherheit, Genauigkeit und Resilienz ein. Wird häufig durch Adversarial Testing und Red-Teaming nachgewiesen.

Transparenzpflichten (Art. 50 KI-VO)

Pflichten für bestimmte KI-Systeme — auch wenn sie nicht hochrisikoreich sind. Beispiele: Chatbots müssen offenlegen, dass Nutzer mit einer KI interagieren. Generative Systeme müssen ihre Ausgaben als KI-erzeugt kennzeichnen. Deepfakes erfordern explizite Kennzeichnung. Verstöße: bis zu 15 Mio. € oder 3 % Jahresumsatz.

Verbotene KI-Praktiken (Art. 5 KI-VO)

Bestimmte KI-Anwendungen sind seit Februar 2025 EU-weit verboten — unter anderem Social Scoring durch Behörden, manipulative Systeme, Echtzeit-Fernidentifikation im öffentlichen Raum (mit engen Ausnahmen), Emotion Recognition am Arbeitsplatz und in Bildungseinrichtungen, ungezieltes Scraping von Gesichtsbildern. Verstöße: bis zu 35 Mio. € oder 7 % Jahresumsatz — der höchste Sanktionsrahmen der Verordnung.

Stand: 2026. Dieses Glossar ersetzt keine Rechtsberatung. Für individuelle Fragen zur Umsetzung der EU-KI-Verordnung in Ihrem Unternehmen vereinbaren Sie bitte ein Erstgespräch.