// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Update: DeepMind, LLMs in der Medizin, Expertise statt KI, Körperscanner
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Googles KI-Labor DeepMind hat ein Sicherheitskonzept für seine internen KI-Agenten vorgelegt. Die "AI Control Roadmap" geht davon aus, dass die eigenen Systeme nicht zuverlässig im Sinne ihrer Entwickler handeln, und behandelt sie wie Sicherheitsrisiken von innen. Die KI-Agenten sollen nur schrittweise mehr Rechte bekommen, gemessen an ihrem nachgewiesenen Verhalten. Der Vergleich: ein Fahrlehrer mit Doppelsteuerung, der jederzeit eingreifen kann.
Nötig sei das, weil die Agenten tief in Googles Systemen arbeiten, Code schreiben und Zugang zu sensiblen Ressourcen haben. Zur Überwachung liest derzeit ein schwächeres, als vertrauenswürdig eingestuftes Modell die Gedankenkette und Aktionen des stärkeren Modells mit und schlägt bei Verdacht Alarm. Weil künftige Modelle ihr Reasoning verschleiern könnten, sieht ein Stufenplan strengere Kontrollen je nach Fähigkeitsniveau vor, von nachträglicher Protokollauswertung bis zu Echtzeit-Blockaden. DeepMind warnt zudem, das Zeitfenster für solche Standards sei schmal.
Große allgemeine KI-Modelle von OpenAI, Google und Anthropic beantworten medizinische Fragen besser als spezialisierte Systeme für Ärzte. Das zeigt eine Studie in Nature Medicine, für die ein Team aus New York die Programme in Wissenstests und echten Fragen aus dem Klinikalltag verglich. In allen Bereichen lagen die großen Modelle vorn. Die Forscher führen das auf ihre riesigen Datenmengen und die schnelle Weiterentwicklung zurück.
Ein Ersatz für Ärzte sind sie damit nicht. Andere Studien zeigen, dass Menschen mit Chatbot-Hilfe medizinische Probleme oft schlechter einschätzen, und die Systeme erkennen Notfälle oder psychische Krisen unzuverlässig. Das Ergebnis widerlegt die noch vor einem Jahr verbreitete Annahme, kleine, speziell trainierte Modelle lieferten in der Medizin bessere Ergebnisse. Fachleute streiten weiter, ob langfristig Allzweckmodelle oder Spezialsysteme gewinnen.
Unternehmen, die KI zur Stärkung ihrer Mitarbeiter einsetzen, sind erfolgreicher als jene, die damit Menschen ersetzen. Das zeigt das Global AI Jobs Barometer 2026 von PwC, einer der größten Wirtschaftsprüfungsgesellschaften, das mehr als eine Milliarde Stellenanzeigen in 27 Ländern auswertete. Firmen, die stark auf KI setzen, wachsen beim Personal um 52 Prozent schneller und steigern ihre Produktivität deutlich.
Der Wandel trifft vor allem Berufseinsteiger: Klassische Einstiegsjobs für den Aufbau von Routine schwinden, gefragt sind stattdessen Urteilsvermögen und Führungsqualitäten. Zugleich hat sich die Zahl spezifischer KI-Jobs gegenüber 2024 fast verdoppelt, Stellen mit Prompt-Engineering oder Machine Learning wachsen achtmal schneller als der Gesamtmarkt. In Deutschland fühlen sich allerdings nur 21 Prozent der Beschäftigten fit genug, KI-Werkzeuge wirksam zu nutzen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.