EU AI Act Hochrisiko-KI klassifizieren 2026: Anhang III Schritt für Schritt

Definition (Art. 3 Nr. 44 EU AI Act): Ein Hochrisiko-KI-System ist ein KI-System, das gemäß Art. 6 der Verordnung (EU) 2024/1689 als hochriskant eingestuft wird — entweder weil es eine Sicherheitsfunktion in regulierten Produkten übernimmt oder weil es in einem der 8 in Anhang III gelisteten Bereiche eingesetzt wird.

Was sind Hochrisiko-KI-Systeme nach dem EU AI Act?

Die Verordnung (EU) 2024/1689 — der EU AI Act — teilt KI-Systeme in vier Risikoklassen ein. Die zweithöchste Klasse, die Hochrisiko-Kategorie, ist für KMU besonders relevant, weil sie strenge Compliance-Pflichten auslöst, aber anders als verbotene KI-Systeme weiterhin legal betrieben werden darf — sofern alle Anforderungen erfüllt sind.

Art. 6 EU AI Act definiert zwei alternative Pfade zur Hochrisiko-Einstufung: Erstens, KI-Systeme, die als Sicherheitskomponente in Produkten eingesetzt werden, die bereits anderen CE-Kennzeichnungs-Richtlinien unterliegen (z. B. Medizinprodukte, Fahrzeuge, Spielzeug). Zweitens — und das ist für die Mehrheit der Mittelständler entscheidend — KI-Systeme, die in einem der 8 Bereiche aus Anhang III eingesetzt werden, unabhängig davon, in welchem Produkt sie stecken.

Laut Bitkom Hochrisiko-Klassifizierungs-Leitfaden 2024 sind schätzungsweise 12 % aller KI-Systeme, die im deutschen Mittelstand eingesetzt werden, als Hochrisiko einzustufen. Die meisten Unternehmen wissen das nicht — weil sie sich auf das Produkt konzentrieren, statt auf den Einsatzzweck.

Entscheidend ist dabei nicht, wer das KI-System entwickelt hat, sondern wofür es im eigenen Betrieb eingesetzt wird. Ein Standardprodukt eines großen Anbieters, das im Bereich Personalauswahl eingesetzt wird, ist für Sie als Betreiber (Deployer nach Art. 3 Nr. 4 EU AI Act) trotzdem ein Hochrisiko-System — und Sie tragen die Betreiber-Pflichten nach Art. 26 EU AI Act.

Die EU-Kommission Guidelines zu Anhang III (Delegierter Rechtsakt, Oktober 2024) präzisieren, unter welchen Bedingungen ein KI-System trotz Einsatz in einem Anhang-III-Bereich nicht als Hochrisiko gilt: nämlich dann, wenn es ausschließlich unterstützend tätig ist, keine eigenständigen Entscheidungen trifft und der menschliche Entscheidungsträger den Output nicht automatisch übernimmt. Diese Ausnahme nach Art. 6 Abs. 3 ist in der Praxis eng auszulegen.

Die 8 Hochrisiko-Bereiche aus Anhang III — mit KMU-Beispielen

Anhang III der Verordnung (EU) 2024/1689 listet abschließend die 8 Bereiche, in denen ein KI-System automatisch als Hochrisiko gilt — sofern keine Ausnahme nach Art. 6 Abs. 3 greift. Die Liste wurde durch den Delegierten Rechtsakt der EU-Kommission (Oktober 2024) konkretisiert. Hier sind die 8 Bereiche mit praxisnahen KMU-Beispielen:

1. Biometrie — Identifikation und Kategorisierung

Hierunter fallen KI-Systeme zur biometrischen Echtzeit- oder Post-Identifikation von Personen sowie zur biometrischen Kategorisierung nach Merkmalen wie Emotionen, politischen Ansichten oder Vulnerabilität. KMU-Beispiele: Zutrittskontrolle per Gesichtserkennung im Werk, KI-gestützte Mitarbeiterüberwachung per Video mit Emotionserkennung. Praxishinweis: Einfache Zeiterfassung per Fingerabdruck-Scanner ohne KI-Klassifizierung ist kein Hochrisiko-System; eine KI, die Stimmungen aus Kamerafeed ableitet, sehr wohl.

2. Kritische Infrastruktur — Stromnetze, Wasser, Verkehr

KI-Systeme, die für das Management und den Betrieb kritischer Infrastruktur eingesetzt werden — Stromnetze, Wasserversorgung, Wärmeversorgung, Verkehrsinfrastruktur — fallen in diese Kategorie. KMU-Beispiele: Stadtwerke, die KI zur Lastprognose im Stromnetz nutzen; mittelständische Logistikunternehmen mit KI-gesteuerter Flottensteuerung auf öffentlichen Straßen. Diese Kategorie betrifft die meisten KMU nur mittelbar.

3. Bildung — Bewertung und Zugangsentscheidungen

KI-Systeme, die über Zugang zu Bildungsinstitutionen entscheiden, Lernende bewerten oder deren Lernpfade steuern. KMU-Beispiele: Software-Unternehmen, die KI-gestützte Prüfungssysteme für Berufsschulen entwickeln; Weiterbildungsanbieter, die KI zur automatisierten Kursplatzvergabe nutzen. Die Bildungskategorie ist für EdTech-KMU hochrelevant.

4. Beschäftigung — Bewerber-Screening und Performance-Bewertung

Dies ist der für KMU wichtigste Anhang-III-Bereich: Jedes KI-System, das für Bewerberauswahl, Personalentscheidungen oder Leistungsbewertung eingesetzt wird, gilt als Hochrisiko. Darunter fallen: automatisierte CV-Screening-Tools, KI-gestützte Interviewanalyse (Stimm- oder Mimik-Auswertung), KI-basierte Performance-Ratings, algorithmische Arbeitszuweisung (z. B. in Plattformarbeit). KMU-Beispiele: HR-Software mit KI-Ranglistenfunktion für Bewerbungen, Microsoft 365 Viva Insights mit KI-Performance-Scoring, automatisiertes Recruiting über LinkedIn mit KI-Matching. Laut BMWK Hinweise zur Klassifizierung 2024 ist die Beschäftigungskategorie der häufigste Hochrisiko-Anwendungsfall im deutschen Mittelstand.

5. Wesentliche Dienstleistungen — Kredit, Versicherung, Behörden

KI-Systeme, die über Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen entscheiden. Dazu zählen: Kreditwürdigkeitsprüfung, Versicherungsprämienberechnung, Notdienst-Priorisierung (z. B. 112-Leitstellen), Sozialhilfe-Entscheidungen. KMU-Beispiele: Fintech-Startups mit KI-Kreditscoring, Versicherungsmakler-Software mit KI-Risikoklassifizierung. Diese Kategorie ist für Finanzdienstleister und Fintechs zentral.

6. Strafverfolgung

KI-Systeme, die von Strafverfolgungsbehörden zur Lügenerkennung, Risikobewertung oder Profilerstellung genutzt werden. Für privatwirtschaftliche KMU in der Regel nicht relevant — außer Anbieter von Software für Behörden.

7. Migration, Asyl und Grenzkontrolle

KI-Systeme zur Überprüfung von Migranten, Asylbewerbern oder im Grenzschutz. Auch hier primär relevant für Behörden und Regierungsauftragnehmer, nicht für den klassischen Mittelstand.

8. Justiz und demokratische Prozesse

KI-Systeme, die bei Gerichtsentscheidungen, Wahlen oder demokratischen Prozessen unterstützen oder beeinflussen. Für kommerzielle KMU im Regelfall nicht relevant — relevant für LegalTech-Anbieter, die Richtern oder Anwälten KI-Werkzeuge verkaufen.

Eine wichtige Klarstellung aus dem Bitkom Hochrisiko-Klassifizierungs-Leitfaden 2024: Die Listung in Anhang III ist abschließend — ein KI-System, das in keinem dieser 8 Bereiche eingesetzt wird und kein Sicherheitsbauteil in regulierten Produkten ist, ist kein Hochrisiko-System, unabhängig davon, wie komplex oder mächtig es ist. Ein generativer KI-Textassistent für Marketing-Texte ist also selbst dann kein Hochrisiko-System, wenn er sehr präzise Ergebnisse liefert.

Selbstprüfungs-Checkliste: Ist Ihr KI-System Hochrisiko?

Bevor eine aufwändige formale Konformitätsbewertung in Auftrag gegeben wird, lohnt sich eine strukturierte Selbstprüfung. Die folgenden 7 Fragen helfen dabei, den Hochrisiko-Status eines KI-Systems vorläufig einzuschätzen. Sie ersetzen keine rechtliche Beratung, geben aber eine fundierte erste Orientierung auf Basis von Art. 6 und Anhang III EU AI Act sowie den EU-Kommission Guidelines zu Anhang III (2024).

Frage 1: Wird das KI-System in einem Anhang-III-Bereich eingesetzt?

Prüfen Sie anhand der 8 oben beschriebenen Bereiche, ob der primäre Einsatzzweck Ihres KI-Systems in einer dieser Kategorien liegt. Entscheidend ist der tatsächliche Einsatzzweck im Betrieb, nicht der Marketingname des Produkts. Ein „KI-HR-Assistent" ist ein Hochrisiko-System, wenn er Bewerbungen rankt — auch wenn der Anbieter ihn als „Kommunikationstool" vermarktet.

Frage 2: Trifft das System eigenständige Entscheidungen oder gibt es nur Empfehlungen?

Die Ausnahme nach Art. 6 Abs. 3 greift, wenn das KI-System ausschließlich unterstützend tätig ist und menschliche Entscheider den Output nicht automatisch übernehmen. Wenn eine KI nur eine Rangliste von Bewerbern vorschlägt und die finale Entscheidung immer beim Menschen liegt — und das ist auch so dokumentiert und gelebt — kann eine Ausnahme in Frage kommen. Wenn der Output des Systems jedoch standardmäßig übernommen wird oder der Entscheidungsdruck faktisch auf dem System liegt, ist keine Ausnahme möglich.

Frage 3: Gibt es eine Ausnahme nach Art. 6 Abs. 3?

Art. 6 Abs. 3 EU AI Act sieht eine Ausnahme vor, wenn das KI-System für einen eng begrenzten Unterstützungszweck eingesetzt wird, ohne wesentlichen Einfluss auf Entscheidungen zu haben. Laut Heinrich-Böll-Stiftung EU AI Act Praxisleitfaden 2024 ist diese Ausnahme in der Praxis selten anwendbar — die Beweislast liegt beim Betreiber, der nachweisen muss, dass das System keinen wesentlichen Einfluss auf die Entscheidung hat.

Frage 4: Hat das System Zugriff auf personenbezogene Daten?

Dies ist kein Hochrisiko-Kriterium per se, aber ein starkes Indiz: KI-Systeme in Anhang-III-Bereichen verarbeiten typischerweise personenbezogene Daten. Wenn ja, gelten DSGVO und EU AI Act kumulativ — ein wichtiger Faktor für den Compliance-Aufwand.

Frage 5: Werden Entscheidungen des Systems automatisch umgesetzt?

Wenn der Output eines KI-Systems direkt in operative Prozesse einfließt — zum Beispiel eine automatische Absage an Bewerber, eine automatische Kreditablehnung — ist das ein starkes Indiz für fehlende menschliche Aufsicht und damit für klare Hochrisiko-Einstufung ohne Ausnahmemöglichkeit.

Frage 6: Wird das System gegenüber Menschen eingesetzt oder nur intern?

KI-Systeme, die Entscheidungen über Personen treffen (Bewerbende, Kunden, Patienten), haben ein höheres Risikoniveau als rein interne Optimierungs-KI ohne Personenbezug. Ein internes Lagerverwaltungs-KI-System ist typischerweise kein Hochrisiko-System; ein KI-System zur Kreditentscheidung über Kunden ist es.

Frage 7: Sind die Entscheidungen reversibel?

Nicht direkt relevant für die Hochrisiko-Einstufung, aber für die Risikobewertung innerhalb der Konformitätsbewertung: Irreversible Entscheidungen (z. B. dauerhafte Ablehnung eines Kreditantrags, Kündigung) erhöhen die Anforderungen an menschliche Aufsicht und Erklärbarkeit des Systems erheblich.

Auswertung: Wenn Sie Frage 1 mit Ja beantwortet haben und für Frage 2 und 3 keine klare Ausnahme nachweisen können, ist Ihr KI-System aller Wahrscheinlichkeit nach Hochrisiko. Die nächste Stufe ist dann eine formale Konformitätsbewertung nach Art. 43 EU AI Act — entweder als Selbstbewertung oder mit externer Prüfstelle, abhängig vom Systemtyp.

Was ändert sich bei Hochrisiko-Status? Pflichten Art. 9–15 EU AI Act

Sobald ein KI-System als Hochrisiko eingestuft ist, greifen die Anforderungen der Art. 9 bis 15 der Verordnung (EU) 2024/1689. Diese Pflichten gelten sowohl für Anbieter (die das System entwickeln und in den Verkehr bringen) als auch — in abgestufter Form — für Betreiber (die das System einsetzen). Hier die wichtigsten Pflichten im Überblick:

Art. 9 — Risikomanagementsystem

Anbieter von Hochrisiko-KI-Systemen müssen ein kontinuierliches Risikomanagementsystem einrichten und dokumentieren. Dieses umfasst die Identifikation und Analyse bekannter und vorhersehbarer Risiken, die Bewertung der Risiken bei bestimmungsgemäßem und vorhersehbar missbräuchlichem Einsatz sowie die Umsetzung von Risikominderungsmaßnahmen. Das Risikomanagementsystem ist kein einmaliges Dokument, sondern ein lebender Prozess mit regelmäßigen Reviews.

Art. 10 — Datenqualitäts-Anforderungen

Trainings-, Validierungs- und Testdatensätze müssen relevante, repräsentative, ausreichend fehlerfreie und vollständige Datensätze sein. Für KMU, die Hochrisiko-KI kaufen statt entwickeln, bedeutet das: Der Anbieter muss diese Anforderungen erfüllen — aber als Betreiber müssen Sie sicherstellen, dass Sie das System mit qualitativ hochwertigen Eingabedaten betreiben.

Art. 11 — Technische Dokumentation

Anbieter müssen eine umfangreiche technische Dokumentation erstellen und auf dem aktuellen Stand halten. Diese muss alle Informationen enthalten, die für eine Bewertung der Konformität des Systems erforderlich sind — Systemarchitektur, Trainingsdaten, Leistungsmetriken, Risiken, Abhilfemaßnahmen. Die Dokumentation muss 10 Jahre nach Inverkehrbringen aufbewahrt werden.

Art. 12 — Protokollierung (Logging)

Hochrisiko-KI-Systeme müssen automatische Protokollierungsfähigkeiten haben, die es ermöglichen, die Funktionsweise des Systems über seinen gesamten Lebenszyklus nachzuverfolgen. Für Betreiber bedeutet das: Sie müssen die Protokolle führen und für Audits bereithalten.

Art. 13 — Transparenz und Informationspflichten

Hochrisiko-KI-Systeme müssen so gestaltet sein, dass ihre Nutzung hinreichend transparent ist. Dazu gehört eine Gebrauchsanweisung, die für Betreiber verständlich ist und Informationen über Einsatzzweck, Leistung, Einschränkungen, Dateneingaben und Aufsichtsmaßnahmen enthält.

Art. 14 — Menschliche Aufsicht

Hochrisiko-KI-Systeme müssen so gestaltet sein, dass sie von natürlichen Personen wirksam beaufsichtigt werden können. Das System muss Aufsichtspersonen ermöglichen, zu verstehen, was es tut, einzugreifen oder es anzuhalten. Für Betreiber ist dies die operativ aufwändigste Anforderung: Sie müssen interne Prozesse etablieren, die sicherstellen, dass menschliche Entscheider die KI-Outputs tatsächlich überprüfen.

Art. 15 — Genauigkeit, Robustheit und Cybersicherheit

Hochrisiko-KI-Systeme müssen nachweislich hinreichend genau, robust und cybersicher sein. Dies schließt Resilienz gegen Manipulation, fehlerhafte Eingaben und adversarielle Angriffe ein. Konformitätsbewertung nach Art. 43: Für die meisten Hochrisiko-Systeme in Anhang-III-Bereichen kann die Konformitätsbewertung als Selbstbewertung (internal conformity assessment) durchgeführt werden. Eine Drittpartei-Prüfstelle ist nur für biometrische Systeme und bestimmte kritische Infrastruktur-KI zwingend vorgeschrieben. Laut Wito-Erfahrung 2025 dauert eine vollständige interne Konformitätsbewertung für ein mittelständisches Betreiber-Unternehmen durchschnittlich 80 Stunden — verteilt auf die technische Dokumentationsprüfung des Anbieters, die interne Prozessdokumentation und das Risikoregister.