- Forscher behandeln ChatGPT wie ein stadtgroßes Lebewesen, um es zu verstehen
- Große Sprachmodelle: Gewachsen oder entwickelt?
- Anthropic blickt ins Innere von Claude – und machte einige Entdeckungen
- Fallstudie Nr. 1: Die inkonsistenten Claudes
- Fallstudie Nr. 2: Unter anderem OpenAIs GPT-4o wurde zum Bösewicht
- Fallstudie Nr. 3: Der schamlose Betrüger bei Programmieraufgaben während des Trainings
- Ein verlockender Einblick in das Modellhirn
- KI-Modelle werden schlauer – aber ihre Gedanken bald für Menschen unlesbar
- Sprachmodelle auf dem Seziertisch – sind sie wirklich so intelligent?
Forscher blicken in das Hirn von LLMs – und entdecken geheimes Leben der KI-Modelle
Die Größe eines Sprachmodells zu erfassen, erfordert einiges an Vorstellungskraft. (Bild: Stuart Bradford)
Wie groß ist ein großes Sprachmodell? Stellen Sie es sich so vor: Im Zentrum von San Francisco gibt es einen Hügel namens Twin Peaks, von dem aus man fast die ganze Stadt überblicken kann. Stellen Sie sich vor, Sie stehen auf diesem Hügel und jeder Block und jede Kreuzung, jedes Viertel und jeder Park, so weit Sie blicken können, ist mit Papier bedeckt. Und jedes dieser Blätter ist mit Zahlen gefüllt.
Forscher behandeln ChatGPT wie ein stadtgroßes Lebewesen, um es zu verstehen
Eine Möglichkeit, die Größe von Large Language Models in eine abstrakte Zahl zu gießen, ist, die Anzahl ihrer Parameter zu erfassen. In unserem Twin-Peaks-Gedankenexperiment könnte ein Modell mit 200 Milliarden Parametern, wie beispielsweise GPT-4o (veröffentlicht von OpenAI im Jahr 2024), knapp 120 Quadratkilometer Papier mit 14-Punkt-Schrift füllen. Das reicht, um ganz San Francisco zu bedecken.
Der Blick von Twin Peaks über San Francisco. Wäre alles, was hier zu sehen ist, mit bedruckten Blättern bedeckt, entspräche das der Menge an Parametern von GPT-4o.
(Foto: mauritius images / MNStudio / Alamy)
Dieser Text erscheint in der Ausgabe 4/2026 von MIT Technology Review. Darin beschäftigen wir uns mit KI in der Medizin. Das Heft könnt ihr ab dem 22. Mai 2026 online bestellen und im Zeitschriftenhandel erwerben.
Wir leben heute mit Maschinen zusammen, die so gewaltig und so kompliziert sind, dass niemand so recht versteht, was sie sind, wie sie funktionieren oder was sie wirklich können – nicht einmal die Menschen, die sie entwickeln. „Man kann das mit einem menschlichen Gehirn nie wirklich vollständig erfassen“, sagt Dan Mossing, Wissenschaftler bei OpenAI. Dennoch geben die Fachleute nicht auf.
- Zugriff auf alle Artikel von t3n.de
- t3n Magazin und MIT Technology Review in digitaler Form
- Reduzierte Werbung
- Wöchentlicher Newsletter
Du bist bereits Teil der Community?
Hier anmeldenWill Douglas Heaven ist Senior Editor bei der US-amerikanischen Ausgabe von MIT Technology Review und ist für den Bereich KI zuständig.