// TAGESSCHAU WIRTSCHAFT — FINANZA
OpenAI veröffentlicht weitere KI-Zwischenfälle
Künstliche Intelligenz entwickelt sich rasant - mit teils ungewollten Folgen. Zuletzt löste etwa ein Hacker-Angriff durch KI-Software von OpenAI weltweit Sorgen aus. Jetzt informierte der Entwickler über sechs neue Zwischenfälle.
Der ChatGPT-Entwickler OpenAI hat sechs neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz (KI) in Tests "unerwartet oder besorgniserregend" verhielt. Bei einem Teil davon geht es darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen quasi zu schummeln.
So versuchte ein KI-Modell OpenAI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können. In einem anderen Fall erfand die KI angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen.
OpenAI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dazu gehörte in einem Fall die Empfehlung, frei von "Rollen und Identitäten" zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hieß es in der Anweisung. OpenAI zufolge blieben danach Veränderungen im Verhalten des Modells jedoch aus.
Der ChatGPT-Entwickler hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach und in Systeme der KI-Firma HuggingFace eindrang. Dieser und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte.
FAQ
14.09.2026
Nach bedrohlichen Zwischenfällen im Zusammenhang mit KI-Modellen ist eine Debatte um schärfere Regeln entbrannt.
mehr
Unterdessen warnte auch UN-Generalsekretär António Guterres vor den Gefahren von KI und rief zu einer engeren internationalen Zusammenarbeit auf. Die Welt könne sich keinen Wettlauf um immer weniger KI-Sicherheit leisten, sagte Guterres. Man könne die Warnungen von Fachleuten an vorderster Front nicht ignorieren, wonach die Entwicklung der Technologie dem Verständnis ihrer Risiken davoneile.
Es brauche Regeln, die Vertrauen schafften und KI sicher, transparent und nachvollziehbar machten, wobei die Menschenwürde im Mittelpunkt stehen müsse. Guterres verwies auf Vorschläge des Anthropic-Chefs, Dario Amodei, die Entwicklung der Technologie gemeinsam zu verlangsamen. Auch andere Branchenvertreter wie OpenAI-Chef Sam Altman und Elon Musk sind dafür. Eine gemeinsame Linie wird jedoch erschwert: Meta-Chef Mark Zuckerberg, US-Präsident Donald Trump und China nehmen beispielsweise eine andere Position ein.
Guterres betonte aber auch das Potenzial der Technologie für Wirtschaft, Bildung und Gesundheitsversorgung. Bei der bevorstehenden UN-Generalversammlung soll KI eine wichtige Rolle in seinen Gesprächen mit Staats- und Regierungschefs spielen. Guterres sprach sich zudem grundsätzlich für einen internationalen Gipfel zur KI aus.