// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Update: UN-Bericht zu KI, Plädoyer für Open Source, Vorsicht vor KI-Kollegen
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Ein Expertengremium der Vereinten Nationen hat einen vorläufigen Bericht zu den Risiken künstlicher Intelligenz vorgelegt, den ersten Versuch, globale Chancen und Gefahren wissenschaftlich zu bilanzieren. Kernbefund: Die Technik entwickelt sich schneller, als Forschung und Regierungen folgen können. Der Bericht behandelt sieben Felder, darunter Wirtschaft, Medizin, Bildung und nationale Sicherheit.
Co-Vorsitzender Yoshua Bengio warnt, die Wissenschaft könne nicht garantieren, dass künftige KI keine katastrophalen Schäden anrichte, sei es autonom oder durch böswillige Akteure. Auch die globale Ungleichheit droht zu wachsen. Nutzen ziehen primär Länder mit starken Institutionen und Datenbeständen, also USA, China und Europa. Im globalen Süden fehlen diese Strukturen, während Automatisierung dort Jobs in Callcentern oder Textilfabriken bedroht.
Immer mehr Firmen, vorwiegend in den USA, führen KI-Werkzeuge nicht als Software ein, sondern als Agenten mit Namen, Titel und festen Aufgaben. Eine Studie der Boston University zeigt die Kehrseite: Beschäftigte finden deutlich weniger Fehler in den Ausgaben, wenn diese angeblich von einem „KI-Mitarbeiter“ stammen, statt von einem Chatbot.
Wer den Agenten als Kollegen wahrnimmt, fühlt sich weniger zuständig und reicht fragwürdiges nach oben weiter, statt es selbst zu korrigieren. Der Zeitvorteil verpufft. Microsoft, OpenAI, Anthropic und Google vermarkten ihre Agenten trotzdem ausdrücklich als digitale Kollegen. Fast ein Drittel der befragten Führungskräfte sieht sie ebenso, teils sogar mit Platz im Organigramm.
Arthur Mensch, Gründer des französischen KI-Unternehmens Mistral, wirbt auf LinkedIn für offene KI. Sein Hauptargument betrifft Geschäftsgeheimnisse: Anbieter geschlossener Modelle speicherten zunehmend Daten und gewönnen Einblick in Kundenprozesse. Einige hätten solche Informationen bereits genutzt, um erfolgreiche Kunden als Konkurrenten anzugreifen.
Mensch rät Firmen, Daten in offenen Systemen abzulegen und eigenes Training aufzubauen. Wer die Kontrolle abgebe, überlasse sein Wachstum anderen. Ähnlich argumentiert Palantir-Chef Alex Karp: Wer seine Modellgewichte kontrolliere, kontrolliere sein Schicksal. Gewichte seien die verdichtete Form jahrelang gesammelten Firmenwissens.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.