Hochrisiko-KI? So stuft der AI Act KI-Systeme ein

Hochrisiko-KI AI Act – „Ist unsere KI jetzt Hochrisiko-KI?“ Diese Frage hören Compliance-Verantwortliche und IT-Leitungen seit Inkrafttreten des EU AI Act immer wieder – meist ohne eine klare Antwort parat zu haben. Kein Wunder: Die Einstufung folgt keiner einfachen Ja-Nein-Logik, sondern einem mehrstufigen Prüfschema, das in Artikel 6 und Anhang III der Verordnung festgelegt ist. Wer sein KI-System korrekt einordnet, spart sich unnötigen Aufwand für Systeme, die gar nicht betroffen sind – und vermeidet böse Überraschungen bei Systemen, die es tatsächlich sind.

Dieser Beitrag erklärt Schritt für Schritt, wie die Einstufung nach dem EU AI Act funktioniert, welche acht Bereiche automatisch als hochriskant gelten, welche Ausnahmen greifen können und wie Sie den Check am Beispiel einer KI-gestützten Dokumentenprüfung im virtuellen Datenraum praktisch durchführen.

Hochrisiko-KI AI Act: Der Zwei-Wege-Test nach Artikel 6

Der EU AI Act unterscheidet zwei grundsätzliche Wege, über die ein KI-System als hochriskant eingestuft wird:

Weg 1 – Sicherheitsbauteil in einem regulierten Produkt (Anhang I). Ist die KI Teil eines Produkts, das ohnehin einer EU-weiten Konformitätsbewertung unterliegt, etwa Medizinprodukte, Aufzüge, Maschinen oder Spielzeug, gilt sie automatisch als hochriskant, sofern sie sicherheitsrelevant ist.

Weg 2 – Eigenständiges System in einem sensiblen Anwendungsbereich (Anhang III). Unabhängig von jedem physischen Produkt gelten KI-Systeme als hochriskant, wenn sie in einem der acht in Anhang III abschließend aufgezählten Bereiche eingesetzt werden. Für die meisten Unternehmen aus Wirtschaft, Beratung und Finanzwesen ist dieser zweite Weg der relevante.

Für virtuelle Datenräume und die klassische Due-Diligence-Dokumentenprüfung ist in aller Regel ausschließlich Weg 2 zu prüfen – Anhang-I-Produkte wie Maschinen oder Medizingeräte spielen hier normalerweise keine Rolle.

Diese Unterscheidung ist deshalb wichtig, weil sich viele der öffentlich diskutierten Beispiele für Hochrisiko-KI – etwa KI in medizinischen Geräten oder in sicherheitsrelevanten Fahrzeugkomponenten – auf Weg 1 beziehen und mit der Arbeit in einem Datenraum wenig zu tun haben. Wer sich unnötig mit Anhang-I-Vorgaben beschäftigt, verliert Zeit, die besser in die tatsächlich relevante Prüfung nach Anhang III investiert wäre. Ein sauberer erster Schritt besteht deshalb schlicht darin, festzuhalten: „Unser KI-System ist kein Sicherheitsbauteil eines regulierten Produkts“ – und sich anschließend ganz auf den zweiten Weg zu konzentrieren.

Die acht Hochrisikobereiche nach Anhang III im Überblick

Anhang III listet abschließend acht Bereiche auf, in denen KI-Systeme automatisch als hochriskant gelten. Eine KI, die außerhalb dieser Bereiche eingesetzt wird, fällt grundsätzlich nicht unter die Hochrisiko-Regulierung – selbst wenn sie leistungsfähig oder folgenreich ist.

1. Biometrie: Fernidentifizierung, Kategorisierung nach sensiblen Merkmalen, Emotionserkennung in bestimmten Kontexten.
2. Kritische Infrastruktur: KI als Sicherheitskomponente beim Betrieb kritischer digitaler Infrastruktur, Straßenverkehr, Wasser-, Gas- und Stromversorgung.
3. Bildung und Berufsbildung: automatisierte Bewertung von Prüfungen, Zulassungsentscheidungen zu Bildungseinrichtungen.
4. Beschäftigung und Personalmanagement: KI zur Bewerberauswahl, -bewertung, Beförderungsentscheidungen oder Kündigungen.
5. Zugang zu wesentlichen Dienstleistungen: Kreditwürdigkeitsprüfung, Risikobewertung bei Versicherungen, Priorisierung von Notrufen.
6. Strafverfolgung: Risikobewertungen zu Straftaten, Beweismittelbewertung, Vorhersage von Straftaten.
7. Migration, Asyl und Grenzkontrolle: Prüfung von Visa- und Asylanträgen, Risikobewertung von Reisenden.
8. Rechtspflege und demokratische Prozesse: Unterstützung bei richterlichen Entscheidungen, Beeinflussung von Wahlen.

Ein Blick auf diese Liste zeigt: Die KI-gestützte Analyse, Zusammenfassung oder Übersetzung von Vertragsdokumenten in einem Datenraum ist in keinem der acht Bereiche verortet – solange die Ergebnisse nicht direkt in eine Personalentscheidung, eine Kreditvergabe oder eine vergleichbare Entscheidungssituation aus der Liste einfließen.

Die Ausnahme nach Artikel 6 Absatz 3: Nicht jedes Anhang-III-System ist automatisch hochriskant

Viele übersehen: Selbst wenn ein KI-System formal in einem der acht Bereiche eingesetzt wird, kann es von der Hochrisiko-Einstufung ausgenommen sein – nämlich dann, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt. Das ist laut Artikel 6 Absatz 3 insbesondere der Fall, wenn das System:

• eine eng begrenzte Verfahrensaufgabe erfüllt (z. B. die reine Umformatierung von Dokumenten),
• ein bereits abgeschlossenes menschliches Ergebnis lediglich verbessert, ohne die zugrunde liegende Bewertung zu ersetzen,
• Muster erkennt, ohne eine vorherige menschliche Bewertung zu ersetzen oder zu beeinflussen, oder
• eine rein vorbereitende Aufgabe für eine Bewertung übernimmt, die anschließend von Menschen durchgeführt wird.

Wichtig: Wer sich auf diese Ausnahme beruft, muss die Einschätzung nach Artikel 6 Absatz 4 dokumentieren, bevor das System eingesetzt wird – und diese Dokumentation auf Verlangen der zuständigen Behörde vorlegen können. Eine Ausnahme „aus dem Bauch heraus“ reicht also nicht.

Praxis-Check: Ist ein KI-Assistent im Datenraum hochriskant?

Übertragen wir das Prüfschema auf ein konkretes Beispiel: den KI-Assistenten im virtuellen Datenraum, der Fragen zu Vertragsdokumenten beantwortet, Inhalte zusammenfasst und bei Bedarf sensible Daten automatisch schwärzt.

Schritt 1 – Fällt der Anwendungsfall unter einen der acht Bereiche? In den allermeisten Fällen: nein. Eine Vertragszusammenfassung, ein Q&A-Chat zu Dokumenten oder eine automatisierte Schwärzung personenbezogener Daten sind keine Biometrie, keine Personalauswahl und keine Kreditwürdigkeitsprüfung.

Schritt 2 – Fließt das Ergebnis direkt in eine Entscheidung aus der Anhang-III-Liste ein? Hier wird es einzelfallabhängig. Nutzt ein Personalbereich denselben Datenraum, um KI-gestützt Bewerbungsunterlagen vorzusortieren und automatisiert Absagen zu erteilen, bewegt sich dieser konkrete Anwendungsfall unter Umständen in Richtung Anhang III (Beschäftigung). Die reine Dokumentenprüfung im Rahmen einer Due Diligence oder eines Unternehmensverkaufs bleibt davon in der Regel unberührt.

Schritt 3 – Bleibt die menschliche Entscheidungshoheit erhalten? Liefert die KI lediglich Analysen, Zusammenfassungen und Quellenangaben, während Menschen die eigentliche Bewertung und Entscheidung treffen, spricht das für eine Einstufung im Bereich begrenztes oder minimales Risiko.

Schritt 4 – Dokumentieren Sie das Ergebnis. Unabhängig vom Ausgang: Halten Sie die Einschätzung schriftlich fest. Das schafft Rechtssicherheit und ist im Zweifel schneller erledigt, als es klingt.

Weitere Praxisbeispiele aus dem Datenraum-Alltag

Der Datenraum-Kontext liefert noch weitere anschauliche Beispiele für die Einstufungslogik:

Immobilientransaktion: Eine KI fasst Mietverträge, Grundbuchauszüge und Gutachten für ein Immobilienportfolio zusammen und beantwortet Fragen dazu. Da hier keine automatisierte Entscheidung über Personen getroffen wird, bleibt dieser Anwendungsfall in aller Regel im Bereich minimales bis begrenztes Risiko.

M&A-Due-Diligence: Ein KI-Assistent identifiziert Vertragsrisiken, extrahiert Kennzahlen und schlägt Kategorisierungen vor, die Menschen anschließend prüfen und final bewerten. Auch hier bleibt die Entscheidungshoheit beim Menschen – ein Indiz gegen eine Hochrisiko-Einstufung.

Interne Personalprüfung im Rahmen einer Transaktion: Werden im selben Datenraum Personalakten nicht nur gesichtet, sondern KI-gestützt automatisiert bewertet, um Kündigungs- oder Übernahmeentscheidungen vorzubereiten, rückt der Anwendungsfall näher an den Bereich „Beschäftigung“ aus Anhang III heran und verdient eine genauere Einzelfallprüfung.

Diese Beispiele zeigen: Nicht das eingesetzte KI-Werkzeug an sich entscheidet über die Einstufung, sondern der konkrete Zweck, für den es in einem bestimmten Projekt genutzt wird.

Schnittstelle zu NIS2: Zwei Regelwerke, ein gemeinsamer Sicherheitsanspruch

Für Unternehmen, die ohnehin unter die Anforderungen der NIS2-Richtlinie fallen, etwa als Betreiber wichtiger oder besonders wichtiger Einrichtungen, kommt die Einstufung nach dem AI Act als zusätzliche Ebene hinzu. Während NIS2 die Cybersicherheit der eingesetzten IT-Systeme insgesamt adressiert, betrachtet der AI Act gezielt die KI-Komponenten darin. In der Praxis bedeutet das: Wer für seinen Datenraum bereits ein NIS2-konformes Risikomanagement aufgebaut hat, kann die dort etablierten Prozesse zur Risikobewertung und Dokumentation oft direkt für die AI-Act-Einstufung mitnutzen, statt bei null zu beginnen.

Was ändert sich, wenn ein System tatsächlich als hochriskant gilt?

Für den kleineren Kreis der Unternehmen, deren KI-Anwendung tatsächlich unter Anhang III fällt, sieht der AI Act ein umfangreiches Pflichtenprogramm vor (Artikel 8 bis 15):

• Risikomanagementsystem: kontinuierliche Identifikation und Minderung von Risiken über den gesamten Lebenszyklus.
• Daten-Governance: Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ und möglichst fehlerfrei sein.
• Technische Dokumentation: detaillierte Nachweise zu Funktionsweise, Zweck und Grenzen des Systems.
• Aufzeichnungspflichten: automatische Protokollierung während des Betriebs, ähnlich einem Audit-Log im Datenraum.
• Transparenz gegenüber Betreibern: verständliche Betriebsanleitungen und Informationen zu Grenzen des Systems.
• Menschliche Aufsicht: technische und organisatorische Maßnahmen, die eine wirksame menschliche Kontrolle sicherstellen.
• Genauigkeit, Robustheit, Cybersicherheit: Nachweis, dass das System zuverlässig funktioniert und gegen Manipulation abgesichert ist.

Diese Pflichten sind erheblich umfangreicher als die einfache Transparenzkennzeichnung, die für Systeme mit begrenztem Risiko ausreicht. Umso wichtiger ist eine saubere Einstufung zu Beginn, statt pauschal von einer Hochrisiko-Einstufung auszugehen oder sie pauschal auszuschließen.

Fristen im Blick: Was gilt wann?

Die umfassenden Pflichten für eigenständige Hochrisiko-Systeme nach Anhang III wurden im Mai 2026 im Rahmen des „Digital Omnibus on AI“ auf den 2. Dezember 2027 verschoben, wie die Europäische Kommission  bestätigt. Bereits verbindlich sind seit Februar 2025 die KI-Kompetenzpflicht (Art. 4) und die Verbote für KI mit unannehmbarem Risiko; ab August 2026 greifen zusätzlich die Transparenzpflichten für KI-Systeme mit begrenztem Risiko. Eine detaillierte Übersicht über den Zeitplan des AI Act haben wir in unserem Beitrag zu den Auswirkungen auf die Dokumentenprüfung zusammengestellt.

Diese zeitliche Verschiebung ändert nichts an der Einstufungslogik selbst – sie verschafft betroffenen Unternehmen lediglich mehr Vorbereitungszeit für die umfangreichen Pflichten.

Warum eine saubere Einstufung mehr ist als eine Formalität

Eine fundierte Risikoeinstufung schützt in zwei Richtungen. Erstens vor unnötigem Aufwand: Wer sein KI-gestütztes Dokumentenmanagement fälschlich als Hochrisiko-System behandelt, investiert Zeit und Budget in Nachweispflichten, die gar nicht erforderlich sind. Zweitens vor Compliance-Lücken: Wer die Einstufung übergeht, riskiert bei tatsächlich hochriskanten Anwendungsfällen Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes.

Gerade in DSGVO-konformen virtuellen Datenräumen lohnt sich der zusätzliche Aufwand der Einstufung kaum, wenn der Anbieter ohnehin auf Transparenz, Nachvollziehbarkeit und ein durchdachtes Sicherheitskonzept setzt – die technischen Grundprinzipien überschneiden sich in weiten Teilen mit dem, was der AI Act ohnehin von seriösen Anbietern erwartet.

Häufig gestellte Fragen zu Hochrisiko-KI AI Act

Reicht eine mündliche Einschätzung, dass ein System nicht hochriskant ist? Nein. Fällt ein System formal unter Anhang III, muss die Einschätzung, dass keine Hochrisiko-Einstufung vorliegt, gemäß Artikel 6 Absatz 4 dokumentiert und auf Verlangen der Behörden vorgelegt werden.

Kann sich die Einstufung eines Systems im Laufe eines Projekts ändern? Ja. Wird eine ursprünglich rein dokumentierende KI-Funktion später genutzt, um automatisiert Entscheidungen zu treffen, etwa eine automatisierte Vorauswahl von Bewerbungsunterlagen, kann sich die Einstufung ändern. Eine regelmäßige Überprüfung des Einsatzzwecks ist deshalb sinnvoll.

Gilt die Einstufung pro Unternehmen oder pro Anwendungsfall? Pro Anwendungsfall. Ein und dasselbe KI-Werkzeug kann in einem Anwendungsfall unproblematisch sein (z. B. Vertragszusammenfassung in der Due Diligence) und in einem anderen Anwendungsfall hochriskant werden (z. B. automatisierte Personalentscheidung), abhängig davon, wofür es konkret eingesetzt wird.

Wo finde ich die offizielle Liste der Hochrisikobereiche? Die verbindliche Liste steht in Anhang III des EU AI Act; Auslegungshinweise und Praxisbeispiele veröffentlicht die Europäische Kommission fortlaufend im offiziellen AI Act Service Desk.

Muss ich jedes einzelne KI-Feature meines Datenraum-Anbieters separat einstufen? In der Praxis empfiehlt es sich, nicht jedes technische Feature isoliert zu betrachten, sondern den konkreten Geschäftsprozess, in den es eingebettet ist. Ein KI-Chat, eine automatische Zusammenfassung und eine automatisierte Schwärzung erfüllen unterschiedliche Zwecke – die Einstufung sollte sich am jeweiligen Anwendungsfall orientieren, nicht an der Technologie als solcher.

Fazit: Einstufen statt raten

Das Thema Hochrisiko-KI AI Act lässt sich nicht pauschal beantworten – sie erfordert einen strukturierten Blick auf Anhang III, die konkrete Zweckbestimmung des Systems und eine saubere Dokumentation der Einschätzung. Für die meisten Anwendungsfälle der KI-gestützten Dokumentenprüfung im Datenraum fällt diese Einschätzung entspannter aus, als viele befürchten – vorausgesetzt, die KI trifft keine automatisierten Entscheidungen in einem der acht sensiblen Bereiche.

Mit docurex® setzen Sie auf einen Datenraum-Anbieter, der Transparenz, menschliche Kontrolle und Nachvollziehbarkeit von Anfang an mitdenkt – unabhängig davon, wie die konkrete Risikoeinstufung Ihres individuellen Anwendungsfalls am Ende ausfällt. Bei Fragen zur Einstufung Ihres Anwendungsfalls hilft Ihnen unser Team gerne im Rahmen einer unverbindlichen Beratung weiter, wie auch in unseren FAQ näher beschrieben.

Wer die Einstufung heute sorgfältig vornimmt und dokumentiert, muss sie bei künftigen Anpassungen der Verordnung nicht komplett neu aufrollen, sondern lediglich aktualisieren. Diese Investition in eine saubere Ausgangsdokumentation zahlt sich unabhängig davon aus, wie sich einzelne Fristen und Detailregelungen des AI Act in den kommenden Jahren noch entwickeln. Für die tägliche Praxis heißt das konkret: einmal sorgfältig einordnen, dokumentieren, und bei wesentlichen Änderungen des Einsatzzwecks erneut prüfen – mehr Aufwand ist für die meisten datenraumgestützten Anwendungsfälle nicht nötig.

---

Quellen

• Europäische Kommission: AI Act Service Desk, Artikel 6 – Einstufungsvorschriften für Hochrisiko-KI-Systeme, ai-act-service-desk.ec.europa.eu
• Europäische Kommission: Regulatory framework for AI, digital-strategy.ec.europa.eu