// GAMESTAR — GAMING
Künstliche Intelligenz - Die Angst vor KI entsteht aus unserer Unfähigkeit zu verstehen, wie sie funktioniert – ein Forscher will das Problem lösen
Während wir die Ergebnisse von KI verstehen, fehlt uns oft das Verständnis für die Prozesse dahinter. (Bildquelle: Brett Wharton / Unsplash)
Geoffrey Hinton, Yoshua Bengio, Leo Gao, Stephen Wolfram und Dario Amodei haben mindestens zwei Dinge gemeinsam. Sie alle haben zusammen mit vielen weiteren Forschenden dazu beigetragen, dass die künstliche Intelligenz (KI) ihren heutigen Entwicklungsstand erreicht hat.
Und sie alle haben offen zugegeben, dass sie nicht vollständig verstehen, wie Sprachmodelle das im Training Gelernte intern organisieren und nutzen.
Gewissermaßen verhalten sie sich wie Blackboxes: Ihre mathematischen Abläufe sind zwar bekannt, doch wie daraus bestimmte Fähigkeiten, Entscheidungen und Antworten entstehen, lässt sich bislang nur unvollständig erklären.
Dieser Artikel stammt im Original von unserer spanischen Schwesterseite XATAKA und erscheint bei GameStar Tech in übersetzter und angepasster Form.
»Ich persönlich glaube aus grundlegenden Erwägungen nicht, dass wir jemals vollständig interpretieren können, was im Inneren neuronaler Netze geschieht – auch wenn wir einige interessante Hinweise erhalten können. Meine Hoffnung liegt eher darin, den Prozess, durch den die KI zu ihren Antworten gelangt, in interpretierbare Schritte zu zerlegen.«
Yoshua Bengio äußerte diese Worte im Oktober 2024 bei einem Vortrag des Future of Life Institute. Geoffrey Hinton fasste es 2019 in einem Interview mit Wired noch kürzer zusammen: »Nein, wir wissen wirklich nicht, wie sie funktionieren.«
2:31
ChatGPT Health: OpenAI stellt neuen Tab für Gesundheitsgespräche vor
Seit diesen Aussagen sind zwar einige Jahre vergangen, doch auch in jüngerer Zeit räumten Branchengrößen wie Sam Altman, Dario Amodei und weitere ein, wie schwer das Innenleben großer Sprachmodelle zu durchschauen ist.
Nick Cammarata will dieses gewaltige Rätsel nun lösen. Der Forscher arbeitete zuvor bei OpenAI und entwickelte Verfahren mit, die entschlüsseln sollten, wofür einzelne Neuronen in Sprachmodellen stehen. Zudem leistete er Pionierarbeit bei der visuellen Darstellung neuronaler Schaltkreise.
