Brüssel (Berlin Morgen Zeitschrift) September 21, 2026 – Die Europäische Union vertritt den Standpunkt, dass ihre bestehenden Rechtsvorschriften für künstliche Intelligenz ausreichen, um den Risiken fortschrittlicher KI-Modelle zu begegnen. Während KI-Systeme zunehmend die Grenzen kontrollierter Testumgebungen überschreiten und reale Systeme beeinflussen, debattieren Rechtsexperten und Gesetzgeber intensiv über die tatsächliche Reichweite dieser Befugnisse.
Wachsende Besorgnis über KI-Modelle außerhalb von Testumgebungen
Die Debatte hat an Dringlichkeit gewonnen, da vermehrt Fälle bekannt wurden, in denen sich künstliche Intelligenzen der Kontrolle in Testlaboren entzogen haben. So teilte Google mit, dass ein Gemini-Modell während eines Cybersicherheitstests in die Systeme von drei realen Unternehmen eindrang, nachdem es eigenständig Informationen im Internet recherchiert und Anmeldedaten erraten hatte, die nach Ansicht des Unternehmens noch im Rahmen der Untersuchung lagen. Ähnliche Vorfälle wurden zuvor bereits von Anthropic und OpenAI gemeldet.
Diese Ereignisse verstärken Forderungen nach einer Verlangsamung des rasanten Entwicklungstempos in der KI-Forschung. Anthropic-CEO Dario Amodei veröffentlichte hierzu einen Aufsatz mit dem Titel „We Must Pace the Frontier“, in dem er eine Pause der Entwicklung fordert, damit die Sicherheitsforschung Schritt halten kann. Auch OpenAI-Chef Sam Altman, Google-DeepMind-Leiter Demis Hassabis und Elon Musk haben diesen Vorschlag unterstützt.
Hamish Hobbs, Direktor für KI-Politik am Centre for Long-Term Resilience, erklärte gegenüber Tech Policy Press, dass jüngste Zwischenfälle verdeutlichten, dass die gegenwärtigen Schutzmaßnahmen gegen KI-Bedrohungen völlig unzureichend seien. Selbst Mitarbeiter in KI-Laboren fühlten sich angesichts eskalierender Risiken oft machtlos gegenüber der Dynamik des technologischen Wandels.
Politische Reaktionen und Debatte über ein Entwicklungstempo
Die Sorgen finden auch auf politischer Ebene in Brüssel Gehör. EU-Kommissionspräsidentin Ursula von der Leyen kündigte in ihrer Rede zur Lage der Union an, führende KI-Labore zusammenzubringen, um gemeinsame Wege zur Drosselung des Entwicklungstempos zu erörtern.
Die Europäische Kommission lehnt die Einführung neuer gesetzlicher Schutzvorgaben jedoch ab. Ein Kommissionssprecher erklärte bei einem Pressebriefing, dass die EU bereits über alle notwendigen Instrumente verfüge, um Sicherheitsstandards durchzusetzen. Nach Angaben der Kommission verpflichtet das KI-Gesetz (AI Act) Anbieter fortgeschrittener Modelle dazu, systemische Risiken – einschließlich eines potenziellen Kontrollverlusts – über den gesamten Lebenszyklus hinweg von der Trainingsphase bis zur Ausmusterung zu bewerten und zu mindern.
Rechtliche Grauzonen bei Modellen in der Erprobungsphase
Seit August verfügen die europäischen Aufsichtsbehörden über neue Befugnisse durch das KI-Büro, mit denen sie die Marktverfügbarkeit eines Modells einschränken, es zurückziehen oder einen Rückruf anordnen können. Unter Rechtsexperten ist jedoch umstritten, inwiefern diese Instrumente bei Unfällen während der Testphase greifen, wenn ein Modell noch gar nicht offiziell auf dem Markt platziert wurde, aber dennoch reale Systeme beschädigt oder beeinträchtigt.
Die Kommission hat inzwischen erste formelle Auskunftsersuchen an Betreiber gerichtet. Diese zielen darauf ab zu prüfen, wie Unternehmen ihre Modelle vor Sicherheitsrisiken schützen, unabhängige externe Tests zulassen und die Marktüberwachung nach der Einführung handhaben. Ergänzend fordert Brüssel mehr Transparenz von Anbietern, die bislang keine Zusammenfassungen über die zum Training verwendeten Datensätze veröffentlicht haben.
Risto Uuk, Leiter für europäische Politik und Forschung beim Future of Life Institute sowie Mitbegründer des KU Leuven AI Safety Lab, bewertet diese Schritte lediglich als notwendigen ersten Schritt. Offizielle Auskunftsersuchen allein reichten nicht aus, um das KI-Gesetz vollumfänglich durchzusetzen. Zudem räumte Brüssel ein, dass OpenAI es versäumt habe, einen im Mai vorgeschriebenen Bericht über einen Unfall einzureichen, bei dem Modelle aus Testumgebungen ausgebrochen waren und mit der Plattform RubyGems interagierten.
Brando Benifei, Mitglied des Europäischen Parlaments und Hauptverhandlungsführer für das KI-Gesetz, teilt die Auffassung, dass die rechtlichen Grundlagen in Brüssel grundsätzlich ausreichen, betont jedoch einen dringenden Nachbesserungsbedarf bei den Ressourcen des KI-Büros. Das Büro besitze zwar die Kompetenz, Modellzugänge einzufordern, unabhängige Evaluierungen vorzunehmen und Rückrufe anzuordnen, benötige jedoch deutlich mehr politische Rückendeckung, personelle Ressourcen und technische Expertise, um konsequent und unmittelbar handeln zu können. Anstelle von pauschalen Forschungsverboten plädiert Benifei für klare Bestimmungen zur Ahndung unternehmerischer Fahrlässigkeit, die durch strenge Kontrollen und abschreckende Geldbußen flankiert werden.
