Aufsicht über KI Wer kontrolliert die Künstliche Intelligenz?
Die europäische KI-Verordnung tritt heute in Kraft. In Deutschland ist eine zentrale Frage noch offen: Welche Behörde überwacht, dass die Regeln zu Künstlicher Intelligenz eingehalten werden?
Lange haben die EU-Institutionen um das Regelwerk gerungen, heute tritt sie in Kraft: die europäische KI-Verordnung, auch bekannt als "AI Act". Er verbietet etwa das sogenannte Social Scoring, also die Bewertung von sozialem Verhalten durch KI. Andere Anwendungen stuft die Verordnung als hochriskant ein und formuliert strenge Anforderungen: etwa bei der Bewerberauswahl, in der Justiz, bei Grenzkontrollen oder im Bildungswesen.
Die Regelungen werden nicht alle gleichzeitig, sondern Schritt für Schritt gelten. Bis 2027 wird sich dieser Prozess hinziehen. Schon bald greifen für die Mitgliedsstaaten bestimmte Teilfristen: So müssen sie in einem Jahr nationale Behörden benannt haben, die jeweils die Umsetzung der Regeln beaufsichtigen. Und gerade das sorgt in Deutschland für Diskussionen.
Drei wesentliche Aufgaben
Die Aufgaben der nationalen KI-Aufsicht umfassen im Wesentlichen drei Punkte: Die Behörde muss unabhängige Prüfstellen benennen, die Hochrisiko-KI-Systeme kontrollieren. Sie muss den Markt überwachen und dient als Anlaufstelle für KI-Anbieter, wenn diese Fehler in ihren Systemen entdecken. Außerdem soll die Aufsichtsbehörde Innovation und Wettbewerb fördern.
Denkbar ist, dass sich mehrere Behörden diese Aufgaben teilen. Infrage kommen in Deutschland vor allem die Bundesnetzagentur, die Datenschutzbehörden oder auch eine neu zu gründende Behörde.
Datenschützer bringen sich ins Spiel
Bereits im Mai haben sich die Datenschützer - also der Bundes- sowie die Landesbeauftragten für Datenschutz - ins Spiel gebracht. Diese seien bereit, die "Aufgabe der nationalen Marktüberwachung für KI-Systeme zu übernehmen", heißt es in einem gemeinsamen Positionspapier. Eine Aufgabenteilung könnte danach so aussehen: Für bundesweite KI-Produkte soll der Bund zuständig sein; für die Anwendung von Künstlicher Intelligenz in Unternehmen und Behörden im Grundsatz die Länder. Wie der Datenschutz wäre bei diesem Modell die KI-Aufsicht weitestgehend föderal organisiert.
Auch die neue Bundesdatenschutzbeauftragte (BfDI), Louisa Specht-Riemenschneider, spricht sich auf Anfrage von tagesschau.de dafür aus. Sie tritt voraussichtlich im September ihr Amt an. Die Datenschutzbehörden seien "hervorragend geeignet". "Wenn personenbezogene Daten verarbeitet werden, sind die Landesdatenschutzbehörden und die BfDI schon heute für die Aufsicht zuständig. Eine andere Behörde für die spezifische KI-Aufsicht bedeutet doppelte und kostenintensive Aufsichtsstrukturen", sagt Specht-Riemenschneider. "Wir können und wollen mit unserer Expertise zukünftig verstärkt Innovation fördern. Für diesen Weg erhoffen wir uns die Rückendeckung des Gesetzgebers."
Experten fordern zentrale Aufsicht
Wäre das also die beste Lösung? Welche Anforderungen gibt es an die KI-Aufsicht? Mario Martini vom Deutschen Forschungsinstitut für öffentliche Verwaltung ist mit seinem Mitarbeiter Jonas Botta dieser Frage nachgegangen. Kürzlich haben sie dazu eine Studie für die Bertelsmann Stiftung veröffentlicht.
Technisches Know-how und eine einheitliche Regelauslegung seien für die KI-Aufsicht besonders wichtig, sagt Martini gegenüber tagesschau.de. "Wir bewegen uns in einem innovativen und vielschichtigen Bereich von Kompetenzfeldern, der auf möglichst einheitliche Umsetzung angewiesen ist. Die Aufsicht sollte daher nicht föderal strukturiert, sondern möglichst zentralisiert sein. Man sollte das Modell des Datenschutzes nicht auf den Bereich der Künstlichen Intelligenz übertragen."
Ein Verbund verschiedener Behörden könnte zwar Kompetenzen zu KI-Anwendungen, etwa im Finanzbereich oder der Medizin, zusammentragen. "Aber am Ende sollte eine einzige bundesweit zuständige Behörde entscheiden", meint Martini.
Also vielleicht die Bundesdatenschutzbeauftragte? Ihr müsste in so einem Fall erst noch die Aufsicht über die Privatwirtschaft übertragen werden; sie ist nach bisheriger Rechtslage vor allem für die Bundesbehörden zuständig. Verwaltungswissenschaftler Martini ist außerdem skeptisch, ob den Datenschützern die Innovationsförderung gelänge: "Viele fürchten, dass die KI-Aufsicht in eine Innovationsverhinderungsaufsicht umschlagen könnte."
Bundesnetzagentur könnte ausgebaut werden
Nach Sicht des Experten ist eine andere Behörde am geeignetsten: die Bundesnetzagentur. Die Bonner Behörde überwacht unter anderem den Markt der Mobilfunk- und Internetanbieter in Deutschland. Die Bundesnetzagentur lasse sich relativ leicht zu einer umfassenderen Digitalbehörde ausbauen, meint Martini. Rechtliche Voraussetzung sei lediglich, dass sie unabhängig und weisungsfrei handeln könne. Die Bundesnetzagentur ist zwar organisatorisch dem Bundeswirtschaftsministerium unterstellt, ihr lasse sich aber die erforderliche Unabhängigkeit verleihen. Die Bundesnetzagentur selbst hat auf eine Anfrage von tagesschau.de nicht geantwortet.
Sorge vor "Kompetenz-Wirrwarr"
Während andere Länder, etwa Österreich, die nationale KI-Aufsicht bereits geregelt haben, wächst unterdessen bei den deutschen Digitalunternehmen die Sorge vor diffusen Zuständigkeiten. "Deutschlands föderale Struktur darf nicht - wie leider viel zu oft - zum Hemmschuh werden", warnt der Telekommunikationsverband VATM. Es dürfe zu keinem "KI-Kompetenz-Wirrwarr" kommen.
Auch der KI Bundesverband spricht sich für eine zentrale Instanz aus und sieht wie Rechtsexperte Martini die Bundesnetzagentur am geeignetsten. "Allerdings ist es entscheidend, dass die Bundesnetzagentur für diese neue, anspruchsvolle Aufgabe angemessen ausgestattet wird. Dies betrifft sowohl personelle Ressourcen als auch die notwendige Expertise im Bereich der Künstlichen Intelligenz", heißt es vom Verband.
Neue Behörde wohl zu aufwändig
Zwölf Monate Zeit bleiben nun noch - nicht viel für den Bundestag, um die Aufsicht über den "AI Act" regeln. Eine neue Behörde dafür zu gründen, dürfte jedenfalls zu aufwändig sein, meint Wissenschaftler Martini. "Im schlimmsten Fall ist die KI-Aufsicht dadurch vornehmlich mit sich selbst beschäftigt." So oder so: Das Ringen um die Verordnung ist auch nach Inkrafttreten nicht zu Ende.