// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Kollege „Alex“ : Forscherin warnt vor Folgen durch falsche Bezeichnung
Es gibt immer mehr Unternehmen, die KI-Agenten wie menschliche Mitarbeiter mit Namen behandeln. Doch Fehler nehmen zu und Verantwortlichkeiten verschieben sich.
Stell dir vor, du kommst zur Arbeit und erfährst, dass dir ein neuer Kollege unterstellt wird. Bei dieser „Person“ handelt es sich jedoch nicht um einen Menschen, sondern um ein KI-Tool. Dein Unternehmen nennt es „Alex“ und es hat als „Mitarbeiter“ eine Berufsbezeichnung und festgelegte Aufgaben. Wie gut würdest du wohl deiner Meinung nach mit Alex zusammenarbeiten?
Wenn du den Managern ähnelst, die kürzlich von Emma Wiles, einer Wirtschaftsprofessorin an der Boston University, befragt wurden, würde die Behandlung von Alex als „Kollege“ und nicht als Software-Tool dazu führen, dass du schlechtere Arbeit leistest. Wiles stellte in einem Paper fest, dass Menschen 18 Prozent weniger Fehler entdeckten, wenn die Arbeit angeblich von einem handlungsfähigen agentischen „KI-Mitarbeiter“ stammte und nicht von einem gewöhnlichen Chatbot. Es zeigt sich also, dass die Adressierung des KI-Tools eine Rolle spielt. Und zwar eine große.
Das ist ein alarmierender Einblick in eine Zukunft, auf die uns das Silicon Valley gerade einnordet. Im vergangenen Jahr sprach Jensen Huang, CEO von Nvidia, bereits über Arbeitswelten mit „digitalen Menschen“. Seit April haben Microsoft, OpenAI, Anthropic und Google nach und nach Tools veröffentlicht, die auf die Steuerung von Teams aus KI-Agenten ausgerichtet sind; viele davon werden ausdrücklich als digitale Kollegen beworben, die über die Flexibilität und die kognitiven Fähigkeiten echter Menschen verfügen. Und fast ein Drittel der 1.261 Führungskräfte, die an Wiles’ Studie teilnahmen, gab an, dass ihre Unternehmen KI-Agenten bereits als Mitarbeiter betrachten (23 Prozent führen sie sogar in Organigrammen auf).
Der technische Fortschritt bei agentischer KI ist natürlich nicht nur heiße Luft. Agenten, die man sich im Grunde als KI-Tools vorstellen kann, die so programmiert sind, dass sie in einer Schleife arbeiten, bis sie ein Ziel erreichen, sind bei komplexeren Aufgaben tatsächlich messbar besser geworden. Es ist jedoch ein riesiger Sprung, diese Programme als Kollegen oder Mitarbeiter zu bezeichnen, und dies weckt unrealistische Erwartungen an die Leistungsfähigkeit der KI, während die menschlichen Mitarbeiter, die angeblich für sie verantwortlich sind, schlechter dastehen.
Das liegt zum Teil daran, dass es – wie Wiles’ Forschung nahelegt – unser Verständnis davon, wer in einer Firma das Sagen hat, auf den Kopf stellt. Wenn ein KI-Tool als Mitarbeiter dargestellt wurde, sahen sich die Studienteilnehmer weniger verantwortlich für dessen Ergebnisse. Sie neigten zudem mit 44 Prozent höherer Wahrscheinlichkeit dazu, auch fragwürdige Arbeitsergebnisse der KI zur weiteren Überprüfung an einen Vorgesetzten weiterzuleiten, anstatt auf eigenen Korrekturen zu vertrauen (wodurch der Zeitersparniszweck des Einsatzes von KI-Agenten von vorneherein zunichtegemacht würde).
Das hat weit über die Bürokultur hinaus Bedeutung: Da KI-Agenten in das Gesundheitswesen, das Bildungswesen, Regierungseinrichtungen und sogar die Kriegsführung eingebettet werden, wächst außerdem das Risiko, dass sie zu einem bequemen Sündenbock für Misserfolge werden. Sonst wären diese das Ergebnis schlechter menschlicher Entscheidungen, Anreize und Nachlässigkeiten gewesen, nun ist es „die KI“. (Man erinnere sich nur daran, wie der Bombenangriff auf eine Mädchenschule im Iran in der Öffentlichkeit Claude angelastet wurde, obwohl viele Anzeichen auf eine Kette menschlicher Fehler hindeuten.)
„KI-Agenten werden derzeit als etwas vermarktet, das Menschen ersetzen kann, und ich halte das für ein aussichtsloses Unterfangen“, sagt Daron Acemoğlu, Ökonom am MIT, der 2024 den Nobelpreis erhielt und die Auswirkungen von KI auf die Wirtschaft untersucht. „Sie sollten stattdessen so optimiert werden, dass sie die menschlichen Fähigkeiten verbessern – was derzeit noch nicht der Fall ist.“
Wie