KI tötet die Menschheit?: Über das KI-Geschäft mit dem Weltuntergang

Die Frage, wann denn nun genau der Untergang der Menschheit eintreten wird, wurde vergangene Woche endlich beantwortet. „Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, verkündete ein KI-Forscher namens Jacob Coxon die beunruhigende Botschaft auf der Plattform X – und dass der 27 Jahre alte Brite bis dahin eine völlig unbekannte Figur in der Branche gewesen war, verstärkte offenbar bei vielen nur den Eindruck, dass erst ein mutiger Whistleblower aus der zweiten Reihe kommen muss, um ein dunkles Geheimnis auszusprechen.

Dabei hätte man seinen Tweet im ersten Moment auch so lesen können, als spräche da ein Abtrünniger einer Sekte, der zeigen wollte, was für ein irres Ausmaß die Obsession mit solchen Science-Fiction-Szenarien in der KI-Branche mittlerweile angenommen hat. Das wäre wirklich eine Nachricht gewesen.

Aber Coxon wollte nicht auf die gefährlichen Wahnvorstellungen seiner Kollegen hinweisen. Er teilt all ihre Sorgen. Umso erstaunlicher ist die Aufmerksamkeit, die er bekommen hat, schließlich vergeht seit Jahren kein Tag ohne solche Warnungen, und dass sie aus dem Inneren der KI-Branche von KI-Jüngern kommen, ist die Regel. Bis Montag hatten 170 Millionen Leute Coxons Tweet gesehen, innerhalb weniger Tage tauchte er auf allen Kanälen auf, von CNN bis Fox News.

Nichts an Coxons Ausführungen wies darauf hin, dass sich die Gefahrenlage plötzlich drastisch verschlimmert hätte. In keinem seiner Interviews konnte er erklären, wie die Maschinen konkret die Weltherrschaft übernehmen würden oder warum sie es tun sollten. Stattdessen plapperte er einfach die abgedroschensten Horrorplots nach: Man könne sich das durchaus im Stil von „Terminator“ vorstellen, sagte er dem Sender CBS.

Seit Jahren steht die Apokalypse kurz bevor: Schon 2023 warnte das Center for AI Safety, eines der unzähligen Institute zur Erforschung von „KI-Sicherheit“, die von den Spendengeldern ihrer vermeintlichen Widersacher leben, vor dem „Risiko des Aussterbens durch Künstliche Intelligenz“. Zu den Unterzeichnern gehörte damals schon das Who’s who der Panikindustrie, darunter auch Open-AI-Chef Sam Altman und sein ehemaliger Forschungsleiter Dario Amodei.

Noch ein paar Tage vor Coxons „Enthüllungen“ raunte auch Altman in einem Interview anlässlich der Veröffentlichung seines neuen Modells Astra in gewohnt diffusem Fatalismus, dass die Chatbots bald „übermenschlich“ sein werden. Die neue Version habe schon annähernd „AGI“ erreicht, jenen mysteriösen Standard der „Allgemeinen Künstlichen Intelligenz“, den sich die Branche selbst ausgedacht hat, und schon bald würden „viel, viel, viel fähigere Modelle kommen“, darauf gebe er sein Wort.