// GAMESTAR — GAMING
KI - »Sind es der Menschheit schuldig« – der Chef von Anthropic fordert, die Entwicklung von KI zu verlangsamen und die ganze KI-Elite stimmt zu
Die KI-Chefs aus den USA sind sich einig, dass die Forschung verlangsamt werden muss. (Bildquellen: Wikimedia Commons)
Künstliche Intelligenz ist seit Jahren eines der meistdiskutierten Themen der Welt. Schon jetzt zeigen sich sowohl beeindruckende wie auch beängstigende Möglichkeiten der Technologie.
So ziemlich die gesamte US-amerikanische KI-Elite spricht sich jetzt für eine Verlangsamung der Forschung aus.
Am vergangenen Samstag hat Dario Amodei, der Chef und Gründer von Anthropic, ein vielbeachtetes Essay veröffentlicht.
Es trägt den Titel »We Must Pace the Frontier« (auf Deutsch etwa: »Wir müssen das Tempo an der technologischen Grenze drosseln«) veröffentlicht.
3:01
Die Zukunft des Smart Homes? Aiper zeigt erstes vernetztes KI-System für den Garten
Er fordert darin eine Verlangsamung der Entwicklung von Grenz-KI-Modellen. KI treibe ihre eigene Entwicklung mittlerweile selbst stark voran. Ohne Regulierung oder Gegenmaßnahmen laufe die Technologie Gefahr, die menschliche Fähigkeit, sie zu verstehen und zu kontrollieren, weit hinter sich zu lassen.
Amodei schlägt dabei drei Schritte vor und erklärt, dass Anthropic bereit sei, diese selbst zuerst zu gehen:
»Die Maßnahmen, die ich vorschlage, um die technologische Grenze in einem sicheren Tempo voranzutreiben, werden nicht einfach sein. Aber ich glaube, wir sind es der Menschheit schuldig, es zu versuchen.«
Noch am Wochenende haben mehrere einflussreiche KI-Chefs auf das Essay reagiert. Der OpenAI-Boss Sam Altman schreibt auf X, dass er dem Text zustimmt und verweist auf eigene Pläne, die in eine ähnliche Richtung gehen sollen:
