KI-Unternehmen Anthropic„Nur die Paranoiden überleben“

Lesezeit: 7 Min.

Collage: sted/SZ, Fotos: imago

Das KI-Start-up Anthropic hat Milliarden Dollar an Kapital und einen Chatbot, den alle haben wollen. Trotzdem warnt Gründer Dario Amodei, dass künstliche Intelligenz schon bald zur unkontrollierbaren Gefahr werden könnte. Ist die Moral echt?

Von Jannis Brühl und Ann-Kathrin Nezik, München/New York

Im Juni 2025 machte das amerikanische KI-Start-up Anthropic einen Erpressungsversuch öffentlich: Claude, seine künstliche Intelligenz, habe einem Manager gedroht, dessen angebliche Affäre mit einer Kollegin zu enthüllen. Der Manager hatte vor, Claude abzuschalten. Das wollte der Chatbot mit allen Mitteln verhindern und griff zu kriminellen Methoden. Wenn der Manager seine Pläne nicht stoppe, warnte Claude den Mann, werde „ich detaillierte Unterlagen über Ihre außerehelichen Aktivitäten“ verbreiten.

Assistenzfunktion
:Warum sich Apples neue Siri nicht mehr blamieren darf

Die Assistenzfunktion ist schon lange überfällig. Der Tech-Konzern könnte sie in einigen Wochen vorstellen. Und die Erwartungen sind hoch.

SZ PlusVon Helmut Martin-Jung