Die Pyramide des Risikos: Wie der EU AI Act künstliche Intelligenz bändigt – und warum das die ganze Welt betrifft

Der Aufhänger: Ein Stück Code, drei Rechtslagen

Stell dir vor, du baust drei Softwareprodukte. Das erste ist ein Spamfilter, der eingehende E-Mails sortiert. Das zweite ist ein Chatbot, der Kundenfragen auf einer Website beantwortet. Das dritte ist ein System, das aus Lebensläufen automatisch eine Rangfolge von Bewerbern erstellt und dem Personalbüro empfiehlt, wen es einladen soll. Technisch betrachtet sind alle drei „nur" maschinelles Lernen – Modelle, die Muster in Daten erkennen und daraus Vorhersagen ableiten. Aus Sicht eines Ingenieurs unterscheiden sie sich in Trainingsdaten, Architektur und Genauigkeit, nicht in der Natur der Sache.

Aus Sicht des europäischen Gesetzgebers könnten diese drei Systeme jedoch kaum unterschiedlicher sein. Der Spamfilter ist praktisch unreguliert. Der Chatbot unterliegt einer einzigen, milden Pflicht: Er muss kenntlich machen, dass man mit einer Maschine spricht. Das Bewerbungssystem hingegen fällt in die strengste regulierte Kategorie überhaupt – es ist ein Hochrisiko-System im Sinne des EU AI Act, und sein Anbieter muss ein Risikomanagement aufbauen, eine Daten-Governance nachweisen, technische Dokumentation führen, menschliche Aufsicht ermöglichen, Protokolle aufzeichnen und ein Qualitätsmanagementsystem betreiben. Verstößt er dagegen, drohen Geldbußen in Millionenhöhe.

Derselbe technische Werkzeugkasten, drei völlig verschiedene Rechtswelten. Genau das ist die Grundidee des EU AI Act (offiziell: Verordnung (EU) 2024/1689), des ersten umfassenden Gesetzes zur Regulierung künstlicher Intelligenz weltweit. Es reguliert nicht die Technologie als solche, sondern den Anwendungskontext und das damit verbundene Risiko. Und weil die EU mit über 440 Millionen Verbrauchern einen der größten Märkte der Welt stellt, betrifft dieses Gesetz nicht nur europäische Firmen, sondern jedes Unternehmen weltweit, dessen KI-Ausgaben in der EU verwendet werden – ein Phänomen, das Rechtswissenschaftler den „Brüssel-Effekt" nennen.

Für jemanden wie Sven – Senior AI Engineer mit einem Bein in der Softwarearchitektur und einem in der IT-Sicherheit – ist der AI Act kein abstraktes Politikum, sondern ein Stück Infrastruktur des eigenen Berufs. Er entscheidet darüber, welche Dokumentation ein KI-Feature braucht, bevor es live geht, welche Use Cases man besser nicht baut und welche Nachweise man im Audit vorlegen muss. Dieser Artikel nimmt dich auf die ganze Strecke mit: von der Grundidee des risikobasierten Ansatzes über die vier Stufen der Risikopyramide, die verbotenen Praktiken, die Hochrisiko-Pflichten und die Sonderregeln für „General-Purpose AI" bis zu den Sanktionen – und endet mit der wichtigsten aktuellen Entwicklung: dem Digital Omnibus, der den Zeitplan 2025/26 gerade neu gemischt hat.

Teil 1: Warum ein KI-Gesetz? Der risikobasierte Ansatz

Nicht die Technik regulieren, sondern den Schaden

Die naheliegende, aber falsche Art, KI zu regulieren, wäre, an der Technologie anzusetzen: „Neuronale Netze mit mehr als X Parametern sind erlaubnispflichtig." Ein solches Gesetz wäre binnen Monaten veraltet und würde harmlose und gefährliche Anwendungen über einen Kamm scheren. Der EU AI Act geht einen anderen Weg, den man aus dem Produktsicherheitsrecht kennt: Er fragt nicht „Wie funktioniert das System?", sondern „Was kann schiefgehen, und wie schlimm wäre es?"

Daraus folgt das Leitprinzip: Je höher das Risiko für Gesundheit, Sicherheit und Grundrechte, desto strenger die Pflichten. Ein KI-System, das über den Zugang zu einem Kredit, einem Arbeitsplatz oder einer Sozialleistung mitentscheidet, kann das Leben eines Menschen massiv beeinflussen – und wird entsprechend streng behandelt. Ein KI-System, das in einem Videospiel Gegner steuert, kann das nicht – und bleibt frei. Dieselbe zugrunde liegende Technik, aber eine ganz andere regulatorische Behandlung, weil der mögliche Schaden ein anderer ist.

Der zeitliche Rahmen und die Rechtsnatur

Der AI Act ist eine Verordnung, kein Richtlinienentwurf. Das ist juristisch bedeutsam: Eine EU-Verordnung gilt unmittelbar in allen Mitgliedstaaten, ohne dass sie – wie eine Richtlinie – erst in nationales Recht umgesetzt werden müsste. Das unterscheidet den AI Act etwa von der NIS2-Richtlinie, deren konkrete Ausgestaltung von Land zu Land variiert. Beim AI Act gilt im Kern überall derselbe Text.

Die Verordnung trat am 1. August 2024 in Kraft, gilt aber nicht sofort vollständig, sondern in gestaffelten Phasen – dazu später mehr. Diese Staffelung ist Absicht: Sie gibt Unternehmen Zeit, sich vorzubereiten, und der EU Zeit, die nötigen technischen Standards und Behörden (vor allem das neue AI Office innerhalb der Europäischen Kommission) aufzubauen.

Teil 2: Die vier Stufen der Risikopyramide

Das Herzstück des AI Act ist eine Klassifikation jeder KI-Anwendung in eine von vier Risikostufen. Man stellt sie sich am besten als Pyramide vor: unten breit und kaum reguliert, oben schmal und entweder streng kontrolliert oder ganz verboten.

Die wichtigste Beobachtung an dieser Pyramide: Die große Masse aller KI-Anwendungen liegt am unteren Ende und bleibt unreguliert. Der AI Act ist kein Gesetz, das jede Zeile maschinellen Lernens unter Aufsicht stellt; er konzentriert seine Härte auf eine vergleichsweise kleine Zahl klar umrissener, besonders folgenreicher Anwendungsfälle. Das ist eine bewusste Designentscheidung – und zugleich der Grund, warum die korrekte Einordnung eines Systems die erste und wichtigste Compliance-Aufgabe ist. Steht ein System erst einmal in der Hochrisiko-Kategorie, ändert sich der gesamte Entwicklungsprozess.

Teil 3: Die verbotene Spitze – unannehmbares Risiko (Art. 5)

An der Spitze der Pyramide stehen Praktiken, die der Gesetzgeber für so grundrechtsgefährdend hält, dass kein Risikomanagement sie rechtfertigen kann. Sie sind schlicht verboten und seit dem 2. Februar 2025 untersagt. Dazu gehören unter anderem:

• Unterschwellige oder manipulative Techniken, die das Verhalten von Menschen so verzerren, dass sie informierte Entscheidungen nicht mehr treffen können und dadurch erheblicher Schaden entsteht.
• Die Ausnutzung von Verwundbarkeiten aufgrund von Alter, Behinderung oder sozioökonomischer Lage, um Verhalten zu verzerren.
• Social Scoring, also die Bewertung oder Klassifizierung von Personen nach ihrem Sozialverhalten oder persönlichen Eigenschaften, die zu benachteiligender Behandlung führt.
• Die Vorhersage des Risikos krimineller Handlungen allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen (predictive policing im engeren Sinne).
• Das Anlegen von Gesichtserkennungsdatenbanken durch ungezieltes Abgreifen („Scraping") von Bildern aus dem Internet oder von Überwachungskameras.
• Das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen).
• Biometrische Kategorisierung, die sensible Merkmale (z. B. ethnische Herkunft, politische Meinung, sexuelle Orientierung) ableitet.
• Echtzeit-Fernidentifizierung mittels Biometrie im öffentlichen Raum zu Strafverfolgungszwecken – mit eng definierten Ausnahmen (Suche nach Vermissten, Abwehr konkreter terroristischer Bedrohungen, Identifizierung Verdächtiger schwerer Straftaten), die zudem eine vorherige Genehmigung und eine Grundrechtsfolgenabschätzung verlangen.

Diese Liste liest sich wie ein Katalog dystopischer Überwachungsszenarien – und genau so ist sie gemeint. Die EU zieht hier eine rote Linie, die unabhängig von wirtschaftlichem Nutzen oder technischer Machbarkeit gilt.

Bemerkenswert ist, dass diese Liste nicht statisch ist. Im Zuge des Digital Omnibus (siehe Teil 7) wird Artikel 5 voraussichtlich um ein neues Verbot ergänzt: KI-Systeme zur Erzeugung nicht einvernehmlicher intimer Bilddarstellungen („Nudifier") und von Darstellungen sexuellen Kindesmissbrauchs. Das zeigt, dass der verbotene Bereich mit der technologischen Realität mitwächst.

Teil 4: Das Herzstück – Hochrisiko-Systeme (Annex III, Art. 8–17)

Der weitaus größte Teil des Gesetzestextes widmet sich der zweiten Stufe: den Hochrisiko-KI-Systemen. Hier liegt die eigentliche regulatorische Arbeit, und hier landen die meisten geschäftlich relevanten KI-Anwendungen mit gesellschaftlicher Tragweite.

Wie ein System „hochriskant" wird

Es gibt zwei Wege in diese Kategorie. Der erste: Das KI-System ist eine Sicherheitskomponente eines Produkts, das ohnehin schon EU-Recht unterliegt und einer Drittprüfung bedarf (Anhang I – etwa Medizinprodukte, Maschinen, Spielzeug, Fahrzeuge). Der zweite, für Software-Unternehmen wichtigere Weg: Das System fällt unter einen der Anwendungsfälle in Anhang III. Dazu gehören:

• Biometrie (soweit nicht ohnehin verboten): Fernidentifizierung, Emotionserkennung, biometrische Kategorisierung.
• Kritische Infrastruktur: KI als Sicherheitskomponente bei Wasser, Gas, Strom, Verkehr, digitaler Infrastruktur.
• Bildung: Systeme, die über Zugang, Zulassung oder Bewertung von Lernenden entscheiden oder Prüfungen überwachen.
• Beschäftigung: Systeme für Rekrutierung, Bewerberauswahl, Beförderung, Kündigung und Leistungsbewertung – hier landet das Bewerbungssystem aus dem Aufhänger.
• Wesentliche Dienste: Bonitätsprüfung, Anspruch auf Sozialleistungen, Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung, Priorisierung von Notrufen.
• Strafverfolgung, Migration und Justiz: Risikobewertungen, Beweiswürdigung, Prüfung von Asyl- und Visumanträgen, Auslegung von Recht.

Eine wichtige Feinheit: Selbst wenn ein System formal unter Anhang III fällt, kann es als nicht hochriskant gelten, wenn es nur eine eng umrissene Verfahrensaufgabe erfüllt, das Ergebnis menschlicher Arbeit lediglich verbessert oder eine rein vorbereitende Aufgabe übernimmt – sofern es nicht das Profiling von Personen betreibt. Wer sich darauf beruft, muss diese Einschätzung jedoch vor dem Inverkehrbringen dokumentieren. Die Beweislast liegt beim Anbieter.

Die acht Pflichten der Hochrisiko-Anbieter

Wird ein System als hochriskant eingestuft, treffen seinen Anbieter (engl. provider, also den Entwickler) acht Kernpflichten nach Art. 8–17. Sie lesen sich für einen erfahrenen Software-Ingenieur wie eine Checkliste für seriöses Engineering – nur eben rechtlich verpflichtend:

Wer aus der IT-Sicherheit kommt, erkennt hier sofort die Parallele zu Normen wie ISO 27001 oder zum Secure Development Lifecycle: Es geht nicht um ein einmaliges Häkchen, sondern um einen dauerhaften, dokumentierten Prozess. Der Unterschied ist, dass die menschliche Aufsicht, die Daten-Governance und die Grundrechtsorientierung hier zu erstrangigen, einklagbaren Anforderungen werden – nicht zu Beiwerk.

Bevor ein Hochrisiko-System auf den Markt darf, muss es zudem eine Konformitätsbewertung durchlaufen und – bei vielen Anwendungsfällen – in einer EU-Datenbank registriert werden. Erst dann darf es die CE-ähnliche Konformität tragen.

Teil 5: General-Purpose AI – die Sonderkategorie der Basismodelle

Als der AI Act 2021 erstmals vorgeschlagen wurde, dachte fast niemand an ChatGPT. Die explosionsartige Verbreitung großer Sprachmodelle ab Ende 2022 zwang den Gesetzgeber, eine eigene, quer zur Risikopyramide liegende Kategorie nachzurüsten: General-Purpose AI (GPAI), also Modelle, die kein einzelnes Ziel verfolgen, sondern „signifikante Allgemeinheit" zeigen und in unzählige nachgelagerte Anwendungen integriert werden können – die Basismodelle hinter Chatbots, Bildgeneratoren und Coding-Assistenten.

Zwei Stufen für GPAI

Auch hier gilt eine abgestufte Logik. Alle GPAI-Anbieter müssen vier Grundpflichten erfüllen: technische Dokumentation erstellen, Informationen für nachgelagerte Entwickler bereitstellen, eine Richtlinie zur Einhaltung des EU-Urheberrechts haben und eine „hinreichend detaillierte Zusammenfassung" der Trainingsdaten veröffentlichen. Letzteres ist bemerkenswert: Die EU verlangt damit erstmals eine gewisse Transparenz darüber, womit ein Modell trainiert wurde – ein direkter Vorstoß in die bisher streng gehütete Black Box der Trainingskorpora. (Anbieter freier und quelloffener Modelle müssen nur die letzten beiden Pflichten erfüllen – es sei denn, ihr Modell birgt systemisches Risiko.)

Systemisches Risiko und die 10^25-FLOP-Schwelle

Die obere Stufe betrifft GPAI-Modelle mit systemischem Risiko – Modelle, deren Fähigkeiten so weitreichend sind, dass ihre Wirkung sich über die gesamte Wertschöpfungskette „nach oben skalieren" kann. Der Gesetzgeber brauchte ein objektives, überprüfbares Kriterium und wählte einen erstaunlich konkreten technischen Schwellenwert: Ein Modell gilt vermutungsweise als systemisch riskant, wenn die kumulierte Rechenleistung für sein Training 10^25 Gleitkommaoperationen (FLOP) überschreitet.

Diese Zahl ist eine bewusste regulatorische Wette: Rechenaufwand dient als grober, aber messbarer Stellvertreter für Modellfähigkeit. Ich bin der Meinung, dass dieser FLOP-Schwellenwert konzeptionell elegant, aber langfristig fragil ist – algorithmische Effizienzgewinne bedeuten, dass künftig auch Modelle unterhalb der Schwelle ähnlich fähig sein könnten, sodass die Schwelle eher als Startpunkt denn als dauerhafte Grenze taugt. Überschreitet ein Anbieter die Schwelle, muss er die Kommission binnen zwei Wochen benachrichtigen; nur eine kleine Gruppe von derzeit geschätzt fünf bis fünfzehn Unternehmen weltweit fällt aktuell darunter.

Für diese Spitzenmodelle gelten zusätzliche Pflichten: Modellevaluationen und dokumentiertes adversariales Testen (Red-Teaming), Bewertung und Minderung systemischer Risiken, Meldung schwerwiegender Vorfälle an das AI Office und ein angemessenes Niveau an Cybersicherheit.

Der Code of Practice – freiwillig, aber mit Anreiz

Um diese abstrakten Pflichten praktikabel zu machen, hat das AI Office einen General-Purpose AI Code of Practice moderiert, dessen finale Fassung 2025 erschien. Er gliedert sich in drei Kapitel: Transparenz und Urheberrecht (für alle GPAI-Anbieter) sowie Sicherheit und Schutz (nur für Modelle mit systemischem Risiko). Die Teilnahme ist freiwillig – aber wer den Kodex unterzeichnet, erhält eine Konformitätsvermutung: Die Regulierer gehen dann davon aus, dass die Pflichten erfüllt sind, was Bürokratie reduziert und Rechtssicherheit schafft. Wer nicht unterzeichnet, muss seine Compliance auf andere, aufwändigere Weise nachweisen. Ein klassischer Mechanismus, der ohne Zwang einen starken Sog zur Selbstverpflichtung erzeugt.

Teil 6: Die Zähne des Gesetzes – Sanktionen (Art. 99)

Ein Gesetz ist nur so wirksam wie seine Durchsetzung. Der AI Act staffelt seine Geldbußen in drei Stufen, jeweils als „je nachdem, was höher ist" zwischen einem festen Betrag und einem Prozentsatz des weltweiten Jahresumsatzes – ein Mechanismus, den man aus der DSGVO kennt und der bewusst auch Großkonzerne treffen soll:

Bemerkenswert ist die Schutzklausel für kleine und mittlere Unternehmen (KMU) und Start-ups: Für sie gilt jeweils der niedrigere der beiden Werte, nicht der höhere. Das soll verhindern, dass eine prozentuale Maximalbuße ein junges Unternehmen in den Ruin treibt, während sie einen Tech-Giganten kaum berührt.

Zum Vergleich: Die schärfste DSGVO-Buße liegt bei 20 Mio. € oder 4 % des Umsatzes. Die Spitzenbuße des AI Act (35 Mio. € / 7 %) liegt darüber – ein deutliches Signal, wie ernst die EU verbotene KI-Praktiken nimmt.

Teil 7: Der Zeitplan – und der Digital Omnibus, der ihn umschreibt

Die ursprüngliche Staffelung

Der AI Act gilt, wie erwähnt, nicht auf einen Schlag, sondern in Phasen, gerechnet ab dem Inkrafttreten am 1. August 2024:

Der Digital Omnibus: Bremsung auf der Zielgeraden

Hier kommt die wichtigste aktuelle Entwicklung – und ein Lehrstück darüber, dass Regulierung ein lebender Prozess ist. Im Laufe des Jahres 2025 wuchs die Sorge, dass die nötigen technischen Standards und die behördliche Infrastruktur nicht rechtzeitig zum 2. August 2026 bereitstehen würden, um Hochrisiko-Anbietern eine faire Compliance zu ermöglichen. Am 19. November 2025 legte die Europäische Kommission deshalb den Digital Omnibus vor – ein Paket zur Vereinfachung und Streckung der digitalen Regulierung.

Nach zähen Verhandlungen erzielten Rat und Parlament Anfang Mai 2026 eine vorläufige politische Einigung (die Pressemitteilung des Rates datiert auf den 7. Mai 2026). Die wichtigsten Änderungen am AI Act:

• Aufschub der Hochrisiko-Pflichten. Die Anwendung für eigenständige Hochrisiko-Systeme nach Anhang III wird vom 2. August 2026 auf den 2. Dezember 2027 verschoben; für in Produkte eingebettete Systeme nach Anhang I vom 2. August 2027 auf den 2. August 2028.
• Neues Verbot. Artikel 5 wird – wie in Teil 3 erwähnt – um ein Verbot KI-generierter nicht einvernehmlicher intimer Darstellungen und von Missbrauchsdarstellungen ergänzt. Strenger, wo es zählt.
• Erleichterungen für kleinere Akteure. Bestimmte Ausnahmen, die bisher nur KMU galten, werden auf „kleine Mid-Cap-Unternehmen" (small mid-caps) ausgeweitet; in eng begrenzten Fällen werden Anforderungen reduziert.

Wichtig für die Einordnung: Ich bin der Meinung, dass dieser Aufschub kein Grund zur Entwarnung ist, sondern eher das Gegenteil signalisiert. Der Gesetzgeber verschiebt die Frist gerade deshalb, weil er erwartet, dass die Compliance-Vorbereitung bereits jetzt läuft – mehr Zeit ist kein Aufschub des Anfangens, sondern ein Aufschub des Fertigseins. Und ein formaler Vorbehalt: Die neuen Daten binden erst, wenn der Digital Omnibus im Amtsblatt der EU veröffentlicht ist; die förmliche Annahme wurde für die Zeit vor dem 2. August 2026 erwartet. Bis dahin gelten formal die alten Fristen. Wer hier auf Nummer sicher gehen will, plant nach den ursprünglichen Daten und betrachtet den Aufschub als Puffer, nicht als Plan.

Teil 8: Was das praktisch bedeutet – der Brüssel-Effekt und der Blick des Ingenieurs

Extraterritoriale Reichweite

Der vielleicht wichtigste praktische Punkt: Der AI Act gilt nicht nur für EU-Unternehmen. Er erfasst jeden Anbieter, der ein KI-System in der EU auf den Markt bringt oder in Betrieb nimmt, sowie – und das ist der weitreichende Teil – jeden Anbieter aus einem Drittland, dessen KI-Ausgaben in der EU genutzt werden. Ein US-Start-up, dessen Bewertungsmodell von einem europäischen Kunden eingesetzt wird, fällt darunter. Das ist der Brüssel-Effekt: Weil der EU-Markt zu groß ist, um ihn zu ignorieren, und weil es teurer ist, zwei getrennte Produktvarianten zu pflegen, übernehmen global agierende Firmen die EU-Standards oft als weltweiten Standard. Die DSGVO hat das mit dem Datenschutz vorgemacht; der AI Act zielt auf dieselbe Hebelwirkung bei der KI.

Drei konkrete Konsequenzen für die tägliche Arbeit

Erstens: Klassifizierung ist die erste Pflicht. Bevor man eine KI-Funktion baut, muss man wissen, in welche Risikostufe sie fällt. Diese Frage gehört an den Anfang des Designs, nicht an dessen Ende – eine nachträgliche Einstufung als „hochriskant" kann eine ganze Architektur infrage stellen.

Zweitens: Dokumentation ist kein Beiwerk, sondern Pflicht. Die geforderte technische Dokumentation, Daten-Governance und Protokollierung lässt sich nicht nachträglich erfinden. Wer von Anfang an sauber dokumentiert, welche Daten ein Modell trainiert haben, wie es evaluiert wurde und wie menschliche Aufsicht funktioniert, hat den Großteil der Hochrisiko-Pflichten bereits erfüllt. Das deckt sich auffällig mit dem, was gutes Engineering ohnehin verlangt.

Drittens: KI-Kompetenz ist verpflichtend. Seit Februar 2025 müssen Anbieter und Betreiber sicherstellen, dass ihr Personal über ausreichende „AI Literacy" verfügt – ein oft übersehener, aber unmittelbar geltender Punkt, der Schulung und Bewusstsein zur Rechtspflicht macht.

Eine ehrliche Einordnung der Befundlage zum Schluss: Der AI Act ist ein junges Gesetz, dessen praktische Auslegung sich erst in den kommenden Jahren durch Leitlinien des AI Office, harmonisierte Normen und schließlich Gerichtsentscheidungen schärfen wird. Vieles, was heute als Anforderung im Raum steht, wird seine endgültige Kontur erst durch diese Praxis bekommen. Ich bin der Meinung, dass die größte Unsicherheit derzeit nicht im Gesetzestext liegt, sondern in der Frage, wie streng und wie einheitlich die nationalen Aufsichtsbehörden ihn auslegen werden – und genau das macht eine konservative, dokumentationsfreudige Herangehensweise zur klügsten Strategie.

Erkenntnis zum Mitnehmen

Die zentrale, übertragbare Einsicht des EU AI Act ist eine einzige, einfache Idee mit enormer Hebelwirkung:

Reguliert wird nicht die Technik, sondern das Risiko ihres Einsatzes. Derselbe Algorithmus kann unreguliert, transparenzpflichtig, streng kontrolliert oder verboten sein – allein abhängig davon, wofür er eingesetzt wird und welcher Schaden droht. Wer KI baut oder einsetzt, muss daher zuerst eine rechtliche Frage beantworten, bevor er eine technische stellt: In welche Risikostufe fällt dieses System? Diese Einordnung entscheidet über Dokumentationspflichten, Aufsichtsmechanismen, Konformitätsbewertungen und im Ernstfall über Millionenbußen.

Übertrage das auf die eigene Praxis. Das nächste Mal, wenn du ein KI-Feature entwirfst, das über Menschen entscheidet – über ihre Bewerbung, ihren Kredit, ihren Zugang zu einer Leistung – frage nicht zuerst „Wie baue ich das am besten?", sondern „Was passiert, wenn dieses System sich irrt, und wie würde ich vor einer Behörde belegen, dass ich diese Möglichkeit ernst genommen habe?". Die gute Nachricht für Ingenieure: Die meisten Hochrisiko-Pflichten – Risikomanagement, saubere Daten, Nachvollziehbarkeit, menschliche Kontrolle – sind nichts anderes als die formalisierte Beschreibung verantwortungsvollen Engineerings. Der AI Act macht das, was gute Entwickler ohnehin tun sollten, zur überprüfbaren Pflicht.

Reflexionsfrage

Denk an ein KI-System, mit dem du in den letzten Monaten gearbeitet hast – eines, das du selbst gebaut, integriert oder eingesetzt hast. In welche der vier Risikostufen würde es fallen, wenn du es ehrlich anhand der Anwendungsfälle aus Anhang III prüfst? Und der unbequemere Teil: Wenn morgen eine Behörde anklopfte und die technische Dokumentation, die Daten-Governance und den Nachweis menschlicher Aufsicht verlangte – wie viel davon könntest du heute vorlegen, und wie viel müsstest du erst rekonstruieren? Welche eine Sache in deinem aktuellen Entwicklungsprozess würdest du ändern, wenn du Compliance nicht als nachträgliche Last, sondern als Teil des Designs begreifst?

Querverweise im Vault

• NIS2 und was sie für mittelständische IT-Beratungsunternehmen in Deutschland wirklich bedeutet – Der direkte regulatorische Geschwister-Artikel: Während der AI Act risikoorientiert KI reguliert, adressiert NIS2 die Cybersicherheit kritischer Sektoren. Beide eint der risikobasierte Ansatz, die Pflicht zu dokumentierten Managementsystemen und die extraterritoriale Reichweite – und beide sind für ein IT-Unternehmen zusammen zu denken.
• Ernte jetzt, entschlüssle später: Post-Quanten-Kryptographie und das Rennen gegen den Quantencomputer – Wie beim AI Act steht hier ein Standardsetzungs- und Compliance-Prozess im Zentrum: Regulierer und Normungsgremien definieren, was „Stand der Technik" bei Sicherheit bedeutet, und Unternehmen müssen frühzeitig migrieren, lange bevor die Frist greift.
• Der Geist in der Maschine: Wie man ein neuronales Netz von innen liest – Die Hochrisiko-Pflichten zu Transparenz, menschlicher Aufsicht und Nachvollziehbarkeit setzen voraus, dass wir verstehen, was ein Modell intern tut. Genau dieses Verstehen ist das Forschungsprogramm der mechanistischen Interpretierbarkeit – die technische Grundlage, ohne die rechtlich geforderte „Erklärbarkeit" eine leere Hülle bliebe.

Quellen

• Europäische Union (2024): Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz). Amtsblatt der EU, in Kraft seit 1. August 2024. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
• Future of Life Institute: High-level summary of the AI Act. artificialintelligenceact.eu (aktualisiert nach Korrigendum-Fassung). https://artificialintelligenceact.eu/high-level-summary/
• EU Artificial Intelligence Act: Article 99 – Penalties. https://artificialintelligenceact.eu/article/99/
• EU Artificial Intelligence Act: Annex III – High-Risk AI Systems und Article 51 – Classification of GPAI Models with Systemic Risk. https://artificialintelligenceact.eu/annex/3/ · https://artificialintelligenceact.eu/article/51/
• Europäische Kommission, GD CNECT: The General-Purpose AI Code of Practice und EU rules on general-purpose AI models start to apply. https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
• Rat der EU (2026): Artificial intelligence: Council and Parliament agree to simplify and streamline rules (Digital Omnibus), Pressemitteilung vom 7. Mai 2026. https://www.consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/
• Gibson Dunn (2026): EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines and Other Key Changes. https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/

← All articles