Bild: Ivan Marc / shutterstock.com

Künstliche Intelligenz ist längst kein Zukunftsthema mehr. Sie schreibt Texte, analysiert Daten, unterstützt Ärzte und hilft Unternehmen dabei, schneller und effizienter zu arbeiten. Doch mit den neuen Möglichkeiten kommen auch neue Regeln. Genau hier setzt der europäische AI Act an. Während die Europäische Union die Spielregeln vorgibt, sorgt Deutschland mit dem neuen KI-Marktüberwachungs- und Innovationsgesetz (KI-MIG) dafür, dass diese Regeln im Alltag auch tatsächlich umgesetzt werden.

Für Unternehmen bedeutet das vor allem eines: Wer KI einsetzt oder entwickelt, sollte sich jetzt mit den neuen Vorgaben beschäftigen. Denn neben neuen Chancen drohen auch empfindliche Sanktionen.

Europa gibt die Regeln vor – Deutschland organisiert die Kontrolle

Der AI Act gilt bereits als europäische Verordnung und wird Schritt für Schritt wirksam. Trotzdem reicht europäisches Recht allein nicht aus. Jedes Mitgliedsland muss festlegen, welche Behörden künftig kontrollieren, Verstöße verfolgen und Unternehmen unterstützen.

Deutschland hat sich mit dieser Entscheidung viel Zeit gelassen. Obwohl bestimmte Behörden bereits früher benannt werden mussten, erfolgte die gesetzliche Grundlage erst kurz vor dem Beginn der wichtigsten Anwendungsphase des AI Acts. Für viele Unternehmen bleibt deshalb nur wenig Zeit, sich auf die neuen Zuständigkeiten einzustellen.

Dabei verfolgt Deutschland einen anderen Weg als einige europäische Nachbarn. Statt eine komplett neue KI-Behörde aufzubauen, werden bestehende Behörden eingebunden. Das spart zwar Strukturen, macht das System aber auch deutlich komplexer.

Viele Behörden, viele Zuständigkeiten – wer ist eigentlich verantwortlich?

Eine Schlüsselrolle übernimmt künftig die Bundesnetzagentur. Sie wird in vielen Bereichen die zentrale Ansprechpartnerin für Fragen rund um die Überwachung von KI-Systemen sein und verschiedene Aufgaben bündeln.

Ganz allein ist sie jedoch nicht. Je nach Einsatzgebiet der künstlichen Intelligenz bleiben andere Fachbehörden verantwortlich. Geht es beispielsweise um regulierte Produkte oder bestimmte Bereiche des Finanzwesens, greifen bereits bestehende Aufsichtsstrukturen. Auch die Bundesländer erhalten eigene Zuständigkeiten – etwa wenn KI von Landesbehörden eingesetzt wird, beispielsweise in Schulen, der Justiz oder anderen öffentlichen Einrichtungen.

Das hat Vorteile. Behörden mit Fachwissen bleiben für ihre jeweiligen Bereiche zuständig. Gleichzeitig entsteht aber ein Geflecht verschiedener Verantwortlichkeiten. Für Unternehmen kann dadurch schnell unklar werden, welche Stelle eigentlich zuständig ist. Um dieses Problem abzufedern, soll ein neues Koordinierungs- und Kompetenzzentrum den Austausch zwischen den Behörden verbessern und für möglichst einheitliche Entscheidungen sorgen.

Hohe Bußgelder: KI-Verstöße können richtig teuer werden

Besonders aufmerksam sollten Unternehmen die möglichen Sanktionen verfolgen. Der AI Act sieht Bußgelder vor, die sogar über den bekannten Höchstgrenzen der Datenschutz-Grundverordnung liegen können. In besonders schweren Fällen sind Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes möglich – maßgeblich ist jeweils der höhere Betrag.

Damit wird deutlich: Die Einhaltung der neuen KI-Regeln ist keine reine Formalität. Unternehmen sollten frühzeitig prüfen, welche KI-Systeme eingesetzt werden, welche Risiken damit verbunden sind und welche Dokumentations- und Kontrollpflichten künftig gelten.

Hinzu kommt eine weitere Herausforderung. Viele KI-Anwendungen verarbeiten gleichzeitig personenbezogene Daten. Dadurch können sowohl die Vorschriften des AI Acts als auch die Datenschutzregeln greifen. Ohne eine gute Abstimmung zwischen den zuständigen Behörden besteht das Risiko, dass Unternehmen wegen desselben Sachverhalts mit mehreren Verfahren konfrontiert werden. Wie diese Verfahren künftig koordiniert werden sollen, ist bislang nicht in allen Punkten eindeutig geregelt.

Nicht nur Kontrolle – auch Innovation soll gefördert werden

Das neue Gesetz verfolgt allerdings nicht ausschließlich einen Kontrollansatz. Ziel ist es auch, Innovationen in Deutschland zu fördern.

Ein wichtiger Baustein sind sogenannte KI-Reallabore. Dort sollen insbesondere Start-ups und kleine oder mittlere Unternehmen neue KI-Lösungen unter behördlicher Begleitung testen können, bevor sie regulär auf den Markt kommen. Dadurch könnten Unsicherheiten frühzeitig erkannt und innovative Ideen schneller umgesetzt werden.

Wie diese Reallabore im Detail funktionieren werden und welche Voraussetzungen Unternehmen für eine Teilnahme erfüllen müssen, wird sich allerdings erst in der praktischen Umsetzung zeigen. Entscheidend wird sein, ob die Unternehmen dort tatsächlich spürbare Erleichterungen erhalten oder ob zusätzliche Bürokratie entsteht.

Jetzt beginnt die eigentliche Bewährungsprobe

Mit dem KI-MIG schafft Deutschland den organisatorischen Rahmen für den AI Act. Behörden werden benannt, Zuständigkeiten verteilt und Verfahren festgelegt. Auf dem Papier wirkt das System umfassend. Ob es in der Praxis ebenso gut funktioniert, muss sich jedoch erst noch zeigen.

Gerade bei einer Technologie, die sich nahezu monatlich weiterentwickelt, wird entscheidend sein, ob die Aufsicht schnell, verständlich und einheitlich handelt. Unternehmen benötigen klare Ansprechpartner und verlässliche Regeln – nicht ein undurchsichtiges Behördennetz.

Fest steht schon heute: Wer künstliche Intelligenz geschäftlich nutzt, sollte die neuen Anforderungen nicht auf die lange Bank schieben. Compliance im Bereich KI wird in den kommenden Jahren genauso selbstverständlich werden wie Datenschutz oder IT-Sicherheit.