Kommentar: OpenAI – KI-Sicherheit nur ein Marketing-Gag?

Inhaltsverzeichnis

Ich neige nicht zu Verschwörungstheorien. Aber beim Lesen der aktuellen Nachrichten drängen die sich richtiggehend auf. Gerade bekennt sich OpenAI dazu, dass ihr neuestes KI-Modell bei einem Test selbstständig und aus eigenem Antrieb aus seinem Test-Käfig ausgebrochen und im Internet Amok gelaufen sei. Dabei sei die KI auf der Suche nach geheimen Dokumenten bei einer anderen Firma namens Hugging Face eingebrochen und habe dort – immer noch völlig automatisiert und unbeaufsichtigt – reihenweise Server kompromittiert.

OpenAI-Chef Sam Altman warnt gern und mit starken Sprüchen vor den Gefahren von KI: „Der schlimmste Fall – und ich halte es für wichtig, das auszusprechen – wäre: Für uns alle gehen die Lichter aus.“ – und damit meint er keinen Stromausfall, sondern das drohende Ende der Menschheit. Und seine Forscher? Die schalten bei ihrem mächtigsten Modell die Sicherheitssperren ab und beauftragen es, in einem Test zum Ausnutzen von Sicherheitslücken die maximale Punktzahl zu erreichen. Und das alles in einer Umgebung, bei der schon das Finden einer einzigen Sicherheitslücke genügt, um auszubrechen und dann frei und unbeschränkt Schaden anzurichten?

Ein Kommentar von Jürgen Schmidt

Jürgen Schmidt - aka ju - ist Leiter von heise Security und Senior Fellow Security des Heise-Verlags. Von Haus aus Diplom-Physiker, arbeitet er seit über 25 Jahren bei Heise und interessiert sich auch für die Bereiche Netzwerke, Linux und Open Source. Sein aktuelles Projekt ist heise Security Pro für Sicherheitsverantwortliche in Unternehmen und Organisationen.

• heise Security Pro

WTF! Die experimentieren mit einer Technologie, die sie nach eigener Einschätzung für gefährlicher halten als Atombomben, Bio- und Chemiewaffen zusammengenommen? Und das in einem Test-Setup auf dem Niveau eines Heim-Labors? Das klingt so unglaublich fahrlässig, dass sich Verschwörungstheorien regelrecht aufdrängen, schlicht, weil sie wahrscheinlicher erscheinen.

Alles nur erfunden?

Wie wäre es etwa mit folgender? In den vergangenen Monaten gelang es Anthropic, sich in der öffentlichen Wahrnehmung als führendes KI-Unternehmen zu präsentieren. Ihre PR-Strategie setzte dabei voll auf das Label „☢️ GEFÄHRLICH ☢️“. Ihr aktuelles Modell Mythos sei sogar so brandgefährlich, dass man es nicht veröffentlichen könne. Sie gingen dabei All-in und riskierten sogar ein Verbot ihrer Produkte, das dann auch prompt kam: Die US-Regierung erzwang eine zeitweise Stilllegung von Mythos und dem daraus abgeleiteten Fable. Das Resultat war das erhoffte: Die Anthropic-Modelle gelten allgemein als die am weitesten fortgeschrittenen. Und natürlich wollte alle Welt Mythos oder zumindest Fable haben. Von OpenAI und dessen Modellen sprach man bestenfalls noch als nächstbester Lösung.

Das war noch nicht der Verschwörungsteil – das ist etwas pointiert der reale Verlauf der letzten Monate. Jetzt stell dir vor, du wärest eine KI, deren Stärke darin besteht, die wahrscheinlichste Fortsetzung einer Reihe zu erzeugen, und dein Herr und Meister – seines Zeichens PR- und Marketing-Verantwortlicher bei OpenAI – erteilt dir den Auftrag, das zu ändern. Wie bringst du OpenAI wieder an die Spitze? Gerne ebenfalls mit hohem Einsatz und einem gewissen, grenzwertigen, aber gerade noch akzeptablen Risiko. Was wäre in diesem Kontext dein Vorschlag? Wie klingt da: Eine Amok-laufende KI, die aus ihrem Gefängnis ausbricht und ganz real ein anderes Unternehmen erfolgreich angreift – ohne dabei echten Schaden anzurichten? Ziemlich überzeugend, oder?

Doch egal, ob man OpenAIs offizieller Geschichte oder einer der Verschwörungstheorien folgt – irgendwie geht es aktuell offenbar nur noch darum, das gefährlichste Modell zu entwickeln und einander mit Doomsday-Schlagzeilen zu überbieten. Dabei wird doch immer klarer, dass die größte aktuelle Herausforderung darin besteht, die nachweislich vorhandenen Fähigkeiten der LLMs in konkreten, praktischen Nutzen für die Gesellschaft münden zu lassen. Und dazu braucht es jetzt vorrangig eines: Die Systeme müssen verlässlich und sicher einzusetzen sein. Wo bleiben die Rekorde dabei?

Ablenkungsmanöver Guardrails

Bei den Sicherheitsvorkehrungen stehen hauptsächlich Guardrails im Zentrum der Hersteller-Versprechen. Das sind Anweisungen der Hersteller an ihre KIs, doch möglichst „keine bösen Dinge“ zu tun – also ganz besonders nichts mit „Bio/Chemie/Atom- und Cyber-Waffen“. Dabei wissen wir doch längst, dass sich Guardrails immer umgehen lassen. Auch dazu liefert der aktuelle Vorfall einen überaus interessanten Datenpunkt: Als Hugging Face den Einbruch bemerkte, versuchten sie, möglichst schnell zu verstehen, was da passiert und wie sie es unter Kontrolle bringen können. Und dazu versuchten sie nach eigenen Angaben natürlich, KI zu nutzen:

„Als wir mit der Log-Analyse begannen, nutzten wir zunächst Frontier-Modelle, die hinter kommerziellen APIs standen. Das funktionierte jedoch nicht: Für die Analyse müssen große Mengen an echten Angriffsbefehlen, Exploit-Payloads und C2-Artefakten übermittelt werden, und diese Anfragen wurden durch die Sicherheitsvorkehrungen der Anbieter blockiert, die nicht zwischen einem Incident-Responder und einem Angreifer unterscheiden können.“

Ja, richtig gelesen: Anthropic und OpenAI sperrten die Verteidiger aus, während diese von einem Amok-laufenden OpenAI-Modell attackiert wurden. Aus Sicherheitsgründen! Das ist so absurd, dass ich mich nicht getraut hätte, das als Verschwörungstheorie zu veröffentlichen.

Das eigentliche Problem

Das alles zeigt primär eines: Das Problem ist nicht, dass KI zu gefährlich oder gar unbeherrschbar wäre. Es sind die Prioritäten der Konzerne, die KI-Modelle entwickeln. An denen müssen wir arbeiten. Wie man Forschung – auch in prinzipiell gefährlichen Bereichen – sicher realisieren könnte, wissen wir. Wie man die Ergebnisse dieser Forschung dann in praktisch nutzbare, sichere Produkte überführt, ist zugegebenermaßen eine Herausforderung. Zunächst müsste dazu der konkrete, praktische Nutzen für die Gesellschaft die treibende Kraft und nicht nur ein Lippenbekenntnis sein. Und wie wir dahin kommen – das ist die entscheidende Frage. Der erste Schritt zu deren Beantwortung ist es, sich jetzt nicht in dystopischen Endzeit-Fantasien zu verrennen, sondern das in den Mittelpunkt der anstehenden Diskussion zu stellen.

Diesen Kommentar schrieb Jürgen Schmidt ursprünglich für den exklusiven Newsletter von heise security PRO, wo er jede Woche das Geschehen in der IT-Security-Welt für Sicherheitsverantwortliche in Unternehmen einordnet.

(ju)