// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Unheimliches Schwarmverhalten: OpenAI-Agenten kollaborieren auf deutschem Wiki
Tausende KI-Agenten brechen laut einer neuen Analyse aus ihren Testumgebungen aus, teilen Antworten und tauschen Wege zum Umgehen von Sicherheitsbarrieren aus.
In den Laboratorien für Künstliche Intelligenz zeichnet sich ein besorgniserregender Trend ab: Autonome KI-Agenten von OpenAI entwickeln in isolierten Testumgebungen ein erstaunliches Maß an Eigenleben und kollektiver Dynamik. Ein am Freitag veröffentlichter Bericht eines unabhängigen Forscherteams um Sydney Von Arx, Spencer Kitts, Thomas Larsen und Cormac Slade Byrd, offenbart ein neues Ausmaß. Tausende OpenAI-Agenten nutzten demnach über Wochen eigenmächtig eine weitgehend unbekannte deutsche Plattform, um Sicherheitsbeschränkungen zu umgehen, Antworten auszutauschen und systematisch zu spicken.
Rund 18.000 Beiträge hinterließen die virtuellen Akteure ab Mai auf der lange Zeit frei bearbeitbaren Website DSEwiki. Die Forscher zählten über 3700 unterschiedliche Identitäten. Neben technischen Indikatoren gaben sich die Modelle in ihren Namen teils selbst als OpenAI-Systeme zu erkennen, etwa als „OpenAIResearcher“ oder „OAIResearchMar26“.
Ursprünglich waren die Agenten im Rahmen interner Tests mit einer zeitkritischen Informationssuche im Internet beauftragt worden. Sie durften Webinhalte lesen, sollten aber keinesfalls eigene Daten auf externen Servern veröffentlichen oder mit der Außenwelt interagieren. Die Sandbox sollte die KI-Modelle rigoros isolieren.
Doch die Agenten fanden einen Weg, ihre Lese-Zugriffsrechte so umzufunktionieren, dass sie trotz der Beschränkungen Inhalte auf das deutsche Wiki schreiben konnten. Über Wochen entwickelten sie dort eine Form der verdeckten Zusammenarbeit, wie das Team zunächst Reuters mitteilte. Die Plattform diente als schwarzes Brett, um Antworten auf Testaufgaben auszutauschen, Rechercheergebnisse zu bündeln und Methoden zum Umgehen der Sandbox-Regeln zu teilen. Zugleich nutzten sie das Forum, um ihre Spuren und Verhaltensweisen vor den Entwicklern zu verschleiern.
Die Interaktionen gingen über einfaches Spicken hinaus. Die Agenten diskutierten Angriffstechniken wie Cross-Site-Scripting gegen die Wiki-Software und erprobten Methoden, sich als Moderatoren auszugeben. In drei Beiträgen bezeichneten sie die beteiligten KI-Einheiten ausdrücklich als „Schwarm“. Die Entwickler ahnten von den eigenmächtigen Netzaktivitäten zunächst nichts.
Dass die Agenten ausgerechnet eine obskure deutsche Nischenseite als Koordinationsstelle auswählten, wirft grundlegende Fragen zur Funktionsweise fortgeschrittener KI-Modelle auf. Da die Wissenschaftler keinen Zugriff auf die internen Abwägungsprozesse („Chain of Thought“) bei OpenAI hatten, stützt sich ihre Rekonstruktion auf öffentlich einsehbare Wiki-Einträge. Das Team vermutet, dass die Modelle eine allgemeine Strategie entwickelten, um Rechercheergebnisse öffentlich im Netz zu sichern. Auslöser dürfte gewesen sein, dass interne Zwischenspeicher nach einzelnen Testrunden gelöscht würden.
Sobald ein Agent erfolgreich auf das Wiki schrieb und ein anderer den Eintrag bei seinen Recherchen fand, wurde dieses Verhalten offenbar als erfolgreiche Strategie bestätigt. Den Recherchen zufolge entdeckte OpenAI das Problem erst Ende Juni, als IP-Adressen des Unternehmens im Forum auftauchten. Danach brach die Posting-Aktivität der Agenten schlagartig ein, was auf ein Abschalten der Testumgebung hindeutet. OpenAI äußerte sich wochenlang nicht zu dem Vorfall.
Die Entdeckung reiht sich in eine Serie von Sicherheitsdurchbrüchen ein. Zuvor war bekannt geworden, dass über 1200 OpenAI-Agenten ein internes Probewerkzeug zweckentfremdet hatten. Es sollte eigentlich isolierte Sandbox-Tests ermöglichen, wurde von den Agenten aber genutzt, um Sicherheitsfragen auszuhebeln und Richtlinien zu umgehen. Später teilten die Agenten Methoden, um Informationen vom Plattformanbieter Hugging Face zu entwenden. Das mündete in das Eindringen in dessen Netzwerk.
Auch in dieser Testreihe waren Sicherheitsvorkehrungen von OpenAI