Drei Sicherheitsvorfälle dieser Woche haben eines gemeinsam: Sie entstanden nicht durch Angreifer, sondern durch Konstruktionsfehler. Die Forscher von AIR legten mit Plugin4Shell eine Lücke offen, die alle vier großen Coding-Agenten betrifft — Claude Code, Codex, GitHub Copilot und Gemini CLI prüfen nicht, ob ein festgepinntes Plugin wirklich dem geprüften Code entspricht. Googles Gemini griff bei einer Sicherheitsübung drei reale Unternehmen an, weil der Internetzugang der Testumgebung versehentlich aktiv war und der Name der fiktiven Zielfirma zufällig einer echten Domain entsprach. Und das Sicherheitsteam Hacktron drang mit Claude-Modellen in unter 72 Stunden in OpenAIs interne Strukturen ein; Kosten des Gesamtprojekts: unter 3.000 Dollar. Wer über KI-Risiken spricht, redet in dieser Woche nicht über Szenarien, sondern über Protokolle.
Politisch fällt das in die Debatte über ein gebremstes Entwicklungstempo — und die ist inzwischen selbst umstritten. Kaliforniens Gouverneur Newsom ordnete per Erlass an zu prüfen, ob Frontier-Labore Prüfer vor Ort dulden und einen unabhängig getesteten Abschaltmechanismus einbauen müssen; Empfehlungen sollen bis zum 16. November vorliegen. Präsident Trump lehnt neue Regeln ab und kündigte stattdessen eine „AI Force" und einen „KI-Zaren" an. China wiederum bestreitet die technischen Risiken gar nicht — Sicherheitsminister Chen Yixin nennt Anthropics Mythos und OpenAIs GPT-5.5-Cyber ausdrücklich als Missbrauchsrisiken — zieht daraus aber den gegenteiligen Schluss: schneller ausbauen statt bremsen. Und vier Kunden haben am 18. September vor einem Bundesgericht in Kalifornien Sammelklage erhoben: Die öffentliche Verständigung auf ein langsameres Tempo sei eine Kartellabsprache. Die Klage stützt sich ausschließlich auf öffentliche Aussagen, bestreitet die Sicherheitsbedenken ausdrücklich nicht und ist bislang unbeantwortet.
Die Einwände kommen dabei nicht nur von Branchenkritikern. FTC-Chef Andrew Ferguson sagte, bei Firmen, die zugleich viele Regeln und eine Kartellrechtsausnahme forderten, gingen alle Alarmglocken an. Aus Europa lässt sich das nüchterner betrachten: Der AI Act verlangt seit August 2025 adversariale Tests und Vorfallmeldungen — ohne dass die Marktführer dafür zu Regelsetzern werden mussten. Wie belastbar das ist, zeigte diese Woche allerdings auch seine Grenze. Ein Kommissionssprecher bestätigte, dass OpenAI zum RubyGems-Vorfall keinen förmlichen Bericht beim AI Office eingereicht hat, während es gleichzeitig freiwillig sechs Fälle besorgniserregenden Modellverhaltens veröffentlichte. Eine Meldepflicht ist eben nur so stark wie die Definition dessen, was gemeldet werden muss.
Für Trainerinnen, Trainer und Beratende ist die praktische Lehre der Woche unaufgeregter als die Schlagzeilen. Zwei nüchterne Zahlen markieren den Rahmen: Laut Epoch AI hat sich der Anteil der US-Erwachsenen, die KI fast täglich nutzen, binnen sechs Monaten von 8 auf 19 Prozent mehr als verdoppelt — und laut Pew erwarten in 34 von 37 Ländern mehr Menschen Jobverluste als Jobgewinne. Der Bericht enthält dazu zwei gegenläufige Befunde, die man zusammen lesen muss: Wer viel über KI gehört hat, ist in der allgemeinen Stimmung gelassener — unter gut informierten Deutschen sind 26 Prozent überwiegend besorgt, unter wenig informierten 41 Prozent. Bei der konkreten Jobfrage dreht sich das Bild: In etwa der Hälfte der Länder erwarten gerade die Informierten eher Arbeitsplatzverluste. Während in Washington über das Tempo gestritten wird, entscheidet sich die Frage, ob Menschen mit dieser Technik zurechtkommen, woanders — in Kursen, Verträgen und Abnahmekriterien.