// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Fraunhofer entwickelt Hybride Deepfake-Erkennung
Das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung hat gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik ein Verfahren zur Erkennung KI-generierter Bilder entwickelt. Nach Angaben des Forschungsinstituts soll das Projekt “RealOrRender” nicht nur Deepfakes von echten Bildern unterscheiden, sondern auch nachvollziehbar machen, welche Merkmale zu der jeweiligen Bewertung geführt haben.
Das Bundesamt für Sicherheit in der Informationstechnik fördert das Vorhaben. Der Ansatz des IOSB kombiniert ein Verfahren des maschinellen Lernens mit einer Rekonstruktionsanalyse. Zunächst erstellt ein Bildgenerator eine Rekonstruktion des untersuchten Bildes. Anschließend bewertet ein Klassifizierungsmodell gemeinsam mit dem Rekonstruktionsfehler die Wahrscheinlichkeit, dass das Bild künstlich erzeugt wurde. Laut Fraunhofer erreicht das Verfahren je nach Datensatz eine Erkennungsgenauigkeit zwischen 85 und 91 Prozent.
Neben der Erkennung legt das Forschungsteam besonderen Wert auf die Nachvollziehbarkeit der Ergebnisse. Dazu kommen Verfahren der erklärbaren Künstlichen Intelligenz zum Einsatz, die sichtbar machen, welche Bildbereiche oder Strukturen die Entscheidung beeinflusst haben. Heatmaps markieren besonders relevante Bereiche eines Bildes, während segmentbasierte Analysen zusammenhängende Bildregionen auswerten und deren Beitrag zur Einstufung verdeutlichen. Auffällige Texturen oder charakteristische Frequenzmuster können dabei Hinweise auf synthetisch erzeugte Inhalte liefern.
Nach Angaben des Fraunhofer-Instituts schnitt der hybride Ansatz in Tests mit umfangreichen Bilddatensätzen besser ab als bisherige Verfahren. Die höhere Robustheit soll auch gegenüber künftigen, leistungsfähigeren Bildgeneratoren bestehen bleiben.
Die Forschungsergebnisse fließen in einen Demonstrator ein, den das Bundesamt für Sicherheit in der Informationstechnik zunächst für die Analyse mutmaßlicher Deepfakes einsetzen will. Nach dem Hochladen eines Bildes zeigt das System das Ergebnis der Analyse, erläutert die Gründe für die Einstufung und ergänzt die Bewertung um eine textliche Zusammenfassung. Die Projektpartner haben ihre Ergebnisse zudem in zwei Berichten veröffentlicht, die sich unter anderem an Sicherheits- und Justizbehörden, Medienhäuser, Betreiber sozialer Netzwerke und Bildagenturen richten.
Das US-Marktforschungsunternehmen Gartner prognostiziert, dass die Kosten für KI-gestützte Programmierung bis 2028 das Durchschnittsgehalt von Entwicklern übersteigen. Grund ist der rasant steigende Token-Verbrauch.
Die freie Router-Software OpenWrt schließt in der aktuellen Version 25.12.5 verschiedene kritische Sicherheitslücken. Die Lücken sind teils aus der Ferne ausnutzbar und stecken in zentralen Netzwerkdiensten, die standardmäßig aktiviert sind. Eine Aktualisierung wird dringend empfohlen.
Anthropic hat mit Claude Sonnet 5 sein neuestes Sprachmodell veröffentlicht, das sich besonders für agentische Aufgaben empfiehlt. Es kann Pläne schmieden, Tools wie Browser und Terminals verwenden und in einem Maße autonom arbeiten, wie das noch vor wenigen Monaten nur größeren und teureren...
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat die Technische Richtlinie „Passkey Server“ in der Version 1.0 veröffentlicht. Die Behörde richtet sich damit an Betreiber von Webseiten und Online-Diensten und definiert Passkeys als aktuellen Stand der Technik für die sichere...
Mit dem Bugfix-Update des Browsers Firefox auf Version 152.0.4 nehmen sich die Mozilla-Entwickler unter anderem das KI-Feature Smart Window vor.