// SCINEXX — SPAZIO & SCIENZA
Fraktale Muster enthüllen verborgene Grenzen der Vorhersagbarkeit von KI
Schon minimale Unterschiede beim Start können dazu führen, dass ein neuronales Netz nach dem Training eine andere Lösung erreicht. Eine neue Studie erklärt dies mit fraktal verschachtelten Einzugsgebieten im mathematischen Raum möglicher Lernwege. In den untersuchten Netzwerken halfen selbst drastisch präzisere Startwerte kaum, die Ergebnisse besser vorherzusagen oder zu reproduzieren.
Sydney (Australien). Neuronale Netze lernen, indem sie die Gewichtung ihrer Verbindungen Schritt für Schritt verändern und so Muster in Daten erkennen. Selbst wenn Daten und Trainingsverfahren gleich bleiben, können fast identische Anfangswerte zu unterschiedlichen fertigen Modellen führen. Das erschwert es, einmal erzielte Lernergebnisse zuverlässig zu wiederholen.
Oft gelten die wechselnde Reihenfolge von Trainingsdaten oder Rundungsunterschiede bei Computerberechnungen als Ursache solcher Abweichungen. Doch selbst bei vollständig festgelegten Rechenschritten kann eine winzige Veränderung des Ausgangszustands entscheidend sein. Der Grund könnte in der mathematischen Struktur der möglichen Lernwege liegen.
Forscher der University of Sydney um Prof. Pulin Gong haben untersucht, warum sich das Training künstlicher neuronaler Netze so empfindlich verhält. Dazu analysierten sie zunächst ein einfaches Netzwerk mathematisch und überprüften die daraus abgeleiteten Merkmale anschließend an zahlreichen tieferen Netzen. Dabei ging es nicht nur um unterschiedliche Rechenwege, sondern um die endgültigen Lösungen des Trainings.
Die Ausgangswerte, die zu einem bestimmten Endzustand führen, bilden ein sogenanntes Einzugsgebiet. Im vereinfachten Modell waren solche Gebiete von Startpunkten durchsetzt, die zu ganz anderen Ergebnissen führten. Diese Verschachtelung blieb auch dann bestehen, wenn immer kleinere Ausschnitte betrachtet wurden.
Solche Strukturen werden als fraktal bezeichnet, weil sich ihre komplizierten Muster auf immer feineren Skalen fortsetzen. In der Fachsprache handelt es sich hier um durchlöcherte Einzugsgebiete, sogenannte „riddled basins“. Im mathematischen Modell müsste die Unsicherheit der Startwerte um nahezu 24 Größenordnungen sinken, damit sich die Wahrscheinlichkeit eines abweichenden Ergebnisses lediglich halbiert.
Insgesamt umfasste die Untersuchung rund 500.000 Trainingsläufe mit unterschiedlichen neuronalen Netzen, Datensätzen und Lernverfahren. Darunter waren Modelle zur Erkennung von Bildern und zur Verarbeitung von Texten. Bei einem näher untersuchten Bildklassifikator blieb die Häufigkeit verschiedener interner Endzustände über zehn Größenordnungen der Startwertabweichung nahezu unverändert.
Besonders deutlich wurde die Empfindlichkeit bei einer Veränderung des jeweils letzten darstellbaren Bits eines Startparameters. In rund 47,7 Prozent der geprüften Fälle endete das Training dadurch in einer anderen internen Konfiguration. Ähnliche Merkmale zeigten sich auch bei vollständig deterministischen Prozessorberechnungen, bei denen der Rechenablauf selbst nicht zufällig schwankte.
Unterschiedliche interne Parameter müssen allerdings nicht automatisch unterschiedliche Entscheidungen bedeuten. Deshalb verglichen die Forscher zusätzlich, welche Klassifikationen die fertig trainierten Netze für dieselben Eingaben lieferten. In einem repräsentativen Versuch wichen diese bei ungefähr 2,9 Prozent der Eingaben voneinander ab, ohne dass präzisere Startwerte diese Unterschiede wesentlich verringerten.
Die Versuche zeigten außerdem häufig einen Zielkonflikt zwischen Trainingserfolg und Wiederholbarkeit. Lernraten, mit denen die Netze besonders gut trainiert wurden, gingen oft mit einer geringeren Reproduzierbarkeit einher. Bei kleineren Lernschritten wurden die Ergebnisse stabiler, während die Trainingsleistung in den untersuchten Konfigurationen nachließ.