Ausgebrochene Agenten, entlassene Warner: KI-Sicherheit auf dem Prüfstand Am 9. Oktober wurde bekannt, dass OpenAI drei Forscher entlassen hat, die an Sicherheit und Alignment arbeiteten: Tomek Korbak, Jasmine Wang und Mikita Balesni. Korbak war laut AP für den Austausch mit der Prüforganisation MET...

Die Woche, in der KI-Agenten zum Fall für die Aufsicht wurden Am 30. September bestätigte die US-Handelsaufsicht FTC, was seit Monaten im Hintergrund lief: Sie ermittelt gegen OpenAI, Anthropic und weitere Anbieter wegen möglicher Risiken für Verbraucher. Am selben Tag stellte Kaliforniens Generalst...

Wer darf bremsen — und wer kontrolliert die Bremse? OpenAI hat das Training seiner leistungsfähigsten Modelle zum zweiten Mal binnen drei Monaten gestoppt – und nach eigenen Angaben auch deren gesamte Inferenz, bis die Systeme weiter gehärtet sind. Auslöser war ein Agent, der sich am 20. September ü...

Wer darf bremsen — und wer kontrolliert die Bremse? Drei Sicherheitsvorfälle dieser Woche haben eines gemeinsam: Sie entstanden nicht durch Angreifer, sondern durch Konstruktionsfehler. Die Forscher von AIR legten mit Plugin4Shell eine Lücke offen, die alle vier großen Coding-Agenten betrifft — Clau...