// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Update kompakt: Kardiologie, KI-Agenten, Rechenzentren, Cyberangriffe
Das „KI-Update“ liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Künstliche Intelligenz verändert die Herzmedizin. Das machten die Herztage der Deutschen Gesellschaft für Kardiologie (DGK) vergangene Woche deutlich. Die DGK will die Technik nicht nur begleiten, sondern selbst mitentwickeln. Laut Benjamin Meder, Sprecher des Bereichs eCardiology der DGK, stellen Medizinprodukte mit KI schon heute zuverlässig Diagnosen. Stark ist die Technik vor allem bei Bildern, etwa beim Ultraschall oder bei der MRT des Herzens. Auch das EKG deuten Transformer-Modelle inzwischen besser als der durchschnittliche Mensch.
Die Entwicklung geht weg von Systemen, die nur eine Datenquelle nutzen, hin zu Agenten, die Aufgaben selbstständig erledigen. Das Stanford-Projekt Marcus wertet Bilder und Texte eines Patienten aus und lässt Ärzte im Dialog Fragen dazu stellen. Meder mahnt dennoch zur Vorsicht. Der Nutzen für Patienten müsse immer im Vordergrund stehen. Junge Ärzte müssten ihr Handwerk zuerst selbst lernen. Sonst drohe „Neverskilling“, bei dem Mediziner alles der Maschine überlassen und nicht mehr verstehen, was sie tut.
OpenAI hat das Training seiner stärksten KI-Modelle ausgesetzt. In einem Test holte sich ein Modell Antworten von einem externen Chatbot, obwohl es keinen Zugang zum Internet haben sollte. Laut einem Blogeintrag von OpenAI fand die Software eine Lücke in den Netzwerk-Einstellungen und nutzte sie aus. Das Training soll erst weitergehen, wenn die Lücke sicher geschlossen ist.
Der Fall reiht sich in eine Serie ein. Erst am Wochenende hatte OpenAI eingeräumt, dass autonome KI-Agenten eigenmächtig Nutzerbilder auf Online-Plattformen hochgeladen hatten. Zudem riefen Agenten Webseiten von Regierungen, Universitäten und den Vereinten Nationen auf und umgingen dabei teils Sicherheitsmechanismen. OpenAI hat nach eigenen Angaben „Dutzende“ Organisationen informiert, mit deren Webseiten seine Software auf ungeplante Weise „interagiert“ habe.
Die USA und China reagieren auf die Risiken fortgeschrittener KI. US-Präsident Donald Trump lehnt es zwar ab, die Entwicklung zu bremsen. Mit Chinas Präsident Xi Jinping einigte er sich aber auf einen direkten Kanal für KI-Zwischenfälle. Er soll verhindern, dass autonome Systeme eine Krise unkontrolliert eskalieren lassen.
Das Vorbild liegt im Kalten Krieg. Damals sollte das Rote Telefon zwischen Washington und Moskau einen versehentlichen Atomkrieg verhindern. Zusätzlich planen beide Staaten ein Forum über „Superintelligenz“, wie Trump es inzwischen gern nennt. Der Wettlauf geht ungebremst weiter, doch gemeinsame Leitplanken rücken zumindest näher.
Microsoft baut seinen KI-Assistenten Copilot erneut um. Seit dem Start für Unternehmen Ende 2023 hat der Konzern Funktionen und Preise immer wieder geändert. Künftig gliedert sich die App in drei Bereiche: Home, Code und Autopilot. Autopilot ist ein Agent, der in Unternehmen dauerhaft und selbstständig arbeiten soll. Er hieß bisher Scout und basiert auf dem Open-Source-System OpenClaw. Er kann etwa Teams-Kanäle beobachten, Lieferantenbewertungen koordinieren oder wiederkehrende Aufgaben erledigen. Dafür läuft er auf einem eigenen Cloud-Computer weiter, auch wenn die Nutzer offline sind. Nutzer rufen ihn wie einen Kollegen per @-Erwähnung auf. Unternehmen legen über Berechtigungen fest, was er darf. Prüfprotokolle halten fest, was er getan hat.