// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
c't-Podcast: "Vertrauenswürdige KI ist ein Kategorienfehler"
Die Philosophin Dorothea Winter warnt davor, gesellschaftliche Probleme technisch zu lösen und erklärt, warum man KI-Systemen nicht vertrauen kann.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Unternehmen werben mit „vertrauenswürdiger KI“, die europäische KI-Regulierung, der so genannte AI Act, fordert sie ebenfalls, und auch in der öffentlichen Debatte gilt Vertrauen als Gütesiegel für Sprachmodelle und Chatbots. Der Begriff hat sich längst in unserer Sprache festgesetzt. Aber das sei ein Problem, warnt die Philosophin Dorothea Winter im c't-Podcast „They Talk Tech“ mit Svea Eckert und Eva Wolfangel. „Das ist ein Kategorienfehler.“ KI sei im Kern eine Technologie der Selektion, deren Kriterien sich oft nicht mehr offenlegen ließen. Dabei von Vertrauen zu sprechen, sei falsch: Vertrauen könne man allenfalls den Menschen entgegenbringen, die solche Systeme entwickeln und einhegen. „Aber dem System selbst kann und soll ich nicht vertrauen.“
Winter hat an der Berliner Humboldt-Universität zu Intentionalität und KI promoviert und lehrt an der Humanistischen Hochschule Berlin. Ihr Blick auf die Technik beginnt bei einer alten Frage: Kann eine Maschine Kunst schaffen? Ihre Antwort ist klar: Mithilfe von KI lasse sich Kunst schaffen, aber allein kann die KI das nicht. Entscheidend sei die Intentionalität, also dass ein Mensch mit einem Werk etwas aussagen wolle. „Kunst ist einer der Bereiche, in denen wir Menschen wollen, dass Menschen sie machen“, erklärt sie und verweist auf Studien, nach denen Menschen Bilder und Musik als weniger ausdrucksstark bewerten, sobald sie sie für KI-generiert halten.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Dass viele Nutzerinnen und Nutzer Chatbots dennoch wie ein menschliches Gegenüber behandeln, hält Winter nicht für einen Zufall, sondern für Konstruktion. Dinge zu beseelen sei zwar urmenschlich – auch über das störrische Auto oder die bockende Kaffeemaschine reden wir schließlich vermenschlichend. Dennoch sei allen klar, dass es sich dabei nicht um Lebewesen handele. Bei KI-Systemen hingegen verschwimme diese Grenze, und zwar mit Absicht. „Unternehmen habe diese Systeme bewusst so gebaut, dass sie so wirken und dass Menschen eine Beziehung zu ihnen aufbauen.“ Das Geschäftsmodell dahinter sei, die Aufmerksamkeit möglichst lange zu binden.
Heikel wird das für Winter dort, wo Chatbots soziale Lücken füllen sollen, etwa als niedrigschwelliger Ersatz für fehlende Therapieplätze. Im Einzelfall könne das helfen, sagt sie, insbesondere angesichts des überlasteten Gesundheitssystems. Die eigentliche Gefahr drohe dann, wenn dadurch weniger Therapieplätze angeboten werden: „Wir sollten nicht versuchen, sozialpolitische Themen und Unzulänglichkeiten technisch zu lösen.“
Dazu kommen Gefahren des sogenannten De-Skillings, also des Verlernens von Fähigkeiten, die man an Technik auslagert. Winter erinnert an skandinavische Länder, wo Bildungsforscher Kindern zeitweise die Handschrift nicht mehr beibringen wollten, weil sie später im Beruf und Alltag vor allem tippen würden. „Aber es zeigte sich, dass handschriftliches Schreiben dem Lernen nützt, auch wenn man es später kaum braucht“, sagt Winter. Ohne von Hand zu schreiben, konnten sich die Schülerinnen und Schüler manche Dinge schlechter merken. Deshalb wurde die Handschrift wieder eingeführt.