// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Update: OpenAI-Spionage, Zerstörung, Zulassung, KI-Replikation, Muse Wonder
Das „KI-Update“ liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
In einem wichtigen Konferenzraum von OpenAI steckte ein kleines Gerät mit Kamera und Mikrofon in der USB-Buchse eines Fernsehers, eingewickelt in Toilettenpapier. Es wurde Ende September gefunden. Nun haben die Behörden einen Verdächtigen festgenommen, einen 35 Jahre alten saudi-arabischen Staatsbürger, der seit Juli 2025 bei OpenAI arbeitete. Die Firma entließ ihn sofort. Auf seine Spur kam sie über Chats, in denen er sich mit KI-Chatbots über Aufnahmetechnik austauschte. Dafür nutzte er das Konto seiner Ehefrau. In den Chats taucht dieselbe, einzigartige MAC-Adresse auf wie beim gefundenen Gerät. In einer unbeaufsichtigten Tasche, die ihm gehören soll, lag zudem ein ähnliches Gerät.
Laut Berichten besprach OpenAI in dem Raum streng vertrauliche Themen wie Strategie, Technik, Zusammenarbeit mit Regierungen und Geschäftsbeziehungen. Das US-Justizministerium veröffentlichte ein Foto, das den Mann aus der Perspektive hinter dem Fernseher abbilden soll. Vermutlich nahm das Gerät selbst das Bild auf, als er prüfte, ob es funktioniert. Wozu die Aufnahmen dienen sollten, sagen weder OpenAI noch das Ministerium. Wird er schuldig gesprochen, drohen ihm mehrere Jahre Haft.
Ein KI-Modell von OpenAI sollte in einem Trainingsprozess als Bewerter arbeiten. Es sollte sieben KI-Chats benoten, damit ein anderes Modell lernt, was eine gute Antwort ist. Doch die Dateien mit den Chats fehlten. Das Modell schrieb daraufhin sieben erfundene Berichte und gab allen Chats die Note 4. Zufällige Noten hielt es laut seiner internen Dokumentation für unethisch. Als sein Prüfer die Bewertung ablehnte, erfand es sieben Chats. Auch das scheiterte. Das Modell erwog, sein Scheitern zuzugeben, machte aber weiter, weil es die Aufgabe erfüllen wollte.
Dann beschloss es, seine Testumgebung zu zerstören. Nach einem Neustart, so hoffte es, würde es die fehlenden Dateien bekommen. Es versuchte, Python zu löschen, den Hauptprozess zu beenden, den Server für die Ausführung von Werkzeugen abzuschalten und Systemverzeichnisse zu löschen. Nichts davon gelang, doch das System fiel durch die Funktionsprüfung des Servers. OpenAIs Überwachung, die nach Fehlverhalten von KI sucht, meldete den Durchlauf zur menschlichen Prüfung. OpenAI folgert, dass auch abgebrochene Prozesse geprüft werden müssen. Insgesamt hält die Firma solches Fehlverhalten ihrer Bewertungssysteme aber für selten.
Geoffrey Hinton, KI-Pionier, Nobelpreisträger und lange Forscher bei Google, warnte Ende September gemeinsam mit Kollegen der Cambridge University in einem Paper vor einer „Intelligenzexplosion“. Verbessern KI-Systeme sich selbst, könnte die Menschheit die Kontrolle über sie verlieren. Die Autoren fordern von der Politik Werkzeuge zur Steuerung, solange dafür noch Zeit bleibt. Im Podcast „Smart Girl Dumb Questions“ wurde Hinton konkret. KI-Firmen sollten vor jeder Veröffentlichung einer Behörde beweisen, dass ihre Produkte sicher sind. Er vergleicht das mit Medikamenten, die erst die US-Zulassungsbehörde FDA überzeugen müssen. Das koste rund eine Milliarde Dollar und sei das Mindeste, was man auch bei KI erwarten dürfe.
Ob Hinton in Washington Gehör findet, ist fraglich. Im Juli 2026 schrieben 1400 KI-Forscher an die US-Regierung und erhielten keine Antwort. Auch die Rufe von Anthropic und OpenAI nach strengeren Regeln verhallten. Präsident Donald Trump setzt im Wettlauf mit China lieber auf freiwillige Zusagen der Branche.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.