// HEISE ONLINE — MOBILE & WEB
KI-Update Deep-Dive: Synthetische Bilder gegen den Bias
KI-Modelle zur Hautkrebserkennung sind oft voreingenommen. Das Projekt "MedGenAI" des DFKI will das Problem mit gezielt erzeugten synthetischen Bildern lösen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Künstliche Intelligenz (KI) in der Medizin verspricht, Diagnosen zu unterstützen und Behandlungen zu verbessern. Doch die Modelle sind nur so gut wie die Daten, mit denen sie trainiert werden. Da diese Daten oft einen verzerrten Ausschnitt der Realität darstellen, sind auch die KI-Modelle voreingenommen – ein Phänomen, das als Bias bezeichnet wird. Stanislav Frolov, wissenschaftlicher Mitarbeiter am DFKI, hat sich im Projekt „MedGenAI“ intensiv damit beschäftigt. „Eine KI lernt immer aus Daten. Und diese Daten sind immer ein Ausschnitt unserer Welt“, erklärte Frolov im Interview. Ein realistisches Ziel sei daher nicht, den Bias von KI-Modellen vollständig zu beseitigen. Vielmehr gehe es darum, sichtbar zu machen, „welche Bias es gibt, wie man sie messen kann und was man dagegen tun kann.“
Besonders deutlich wird dies bei der Hautkrebserkennung. Das Melanom ist die gefährlichste Form von Hautkrebs, doch die Heilungschancen sind bei frühzeitiger Erkennung gut. KI könnte hier helfen, doch die Trainingsdatensätze sind unausgewogen. „Zum Beispiel kommen dunklere Hauttypen und auch jüngere Menschen viel seltener vor“, so der Forscher. Dies führe dazu, dass die KI für diese Gruppen schlechter funktioniere und die Fairness der Modelle kaum überprüft werden könne.
Das Projekt „MedGenAI“ begegnet diesem Problem mit einem generativen KI-Modell, das synthetische Bilder von Hautkrankheiten erzeugt. Diese sind gezielt nach Parametern wie Geschlecht, Alter und Hauttyp steuerbar. „So können wir dann mit diesem generativen Modell Testgruppen bauen, also auch Kombinationen, die es in echt kaum gibt“, erläuterte Frolov. Eine Weboberfläche ermöglicht den Nutzenden, Parameter auszuwählen und die Generierung zu starten, um so Schwachstellen wie demografische Verzerrungen präzise aufzudecken.
Um die Qualität der künstlichen Bilder sicherzustellen, werden sie mit echten Daten verglichen und durch eigene Prüfmodelle gefiltert. Im medizinischen Bereich sei es zudem „unverzichtbar, Expertise von Fachärzten einzuholen, die sich diese Bilder anschauen und prüfen, ob sie klinisch plausibel sind“, betonte Frolov. Er stellte klar, dass künstliche Daten echte Daten nicht ersetzen, sondern ergänzen sollen.
Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im "KI-Update" von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.