Künstliche Intelligenz: Oppenheimer-Moment der KI – wird die Menschheit ausgelöscht?

Detailed summary

Weltweit hat sich zuletzt die Furcht vor einer möglichen Auslöschung der Menschheit durch KI-Agenten verbreitet. Das Schlechte: Um dabei ernsthaft angehört zu werden, bräuchte Europa Zugriff auf die Technologie. Das Gute: Es ist noch nicht zu spät.

„Now I am become Death, the destroyer of worlds.“ Dies sind die ikonischen Worte eines Wissenschaftlers, der die ganze zerstörerische Kraft seiner Erfindung sah und ihre fatalen Konsequenzen zu ahnen begann. Auch wenn J. Robert Oppenheimer diesen Satz so erst in einer Fernsehdokumentation 20 Jahre nach dem ersten Atombombentest formulierte, ist doch gesichert, dass er sich nach den Bombenabwürfen auf Hiroshima und Nagasaki klar gegen den Einsatz so mächtiger Waffen positionierte und in Ungnade fiel.

„Die Leute, die KI entwickeln, sind fest davon überzeugt, dass sie uns bis zum Ende des Jahrzehnts auslöschen könnte.“ Dies sind die Worte des Anthropic-Forschers Jacob Coxon (27). Er verließ das Unternehmen Anfang September, weil der Umgang mit künstlicher Intelligenz dort zu unverantwortlich sei. Einer seiner führenden Ex-Kollegen sekundierte: „Jacob hat recht – wir glauben tatsächlich ernsthaft, dass KI alle Menschen auslöschen könnte!“

Kurz darauf legte auch Anthropic-CEO Dario Amodei (43) in einem Essay nach und forderte mehr Regulierung, mehr Sicherheitsinvestitionen, mehr staatliche Einflussnahme und grundlegende Entschleunigung: „We must pace the frontier!“ Die CEOs der anderen US-AI-Labs stimmten zu.

Seitdem erleben wir eine intensive Diskussion über Status, Zukunft und Sicherheit künstlicher Intelligenz, aber auch über die Apokalypse-Szenarien als mögliche PR-Story, über anstehende Billionen-IPOs, über die Konkurrenz zwischen China und den USA. Die Essenz: Die künstliche Intelligenz hat ihren „Oppenheimer-Moment“. Die Agenten brechen aus.

Nun wird ein solcher Oppenheimer-Moment seit Jahren immer wieder in Essays oder auf Podien thematisiert. Das wiederkehrende Motiv verliert dadurch womöglich an Wirkung, an Aussage, an Eindeutigkeit. Außerdem trägt „Frontier AI“ die agentische Grenzüberschreitung schon im Namen: Übergriffe wie der Hugging-Face-Hack bei OpenAI, die von Anthropic berichteten „real-world incidents“ oder der unautorisierte Zugriff auf australische…

Offe…

Opening of the article, excerpted from Manager Magazin. To read the rest, open the article on the publisher's site.