// HEISE ONLINE — LINUX & OPEN SOURCE
Kommentar: Was sollen KI-Verbote in Open-Source-Projekten?
Ein KI-Verbot, wie es das GCC jetzt ausgesprochen hat, kann KI-Beiträge nicht verhindern – aber kanalisieren.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Das GCC-Projekt hat sich eine KI-Richtlinie gegeben, die LLM-Beiträge aus der Community stark einschränkt. Zu Recht weisen nun viele Forenmitglieder darauf hin, dass sich gut gemachter KI-Code nicht erkennen lässt. Die Richtlinien laufen ins Leere und schaffen den Projekten höchstens Rechtssicherheit und Verantwortlichkeit.
Die neue Regel für die Contributors des weitverbreiteten GNU-Compilers besagt, dass durch LLMs erzeugte Beiträge nur in Ausnahmefällen erlaubt sind:
Erlaubt ist auch die KI-Nutzung für Aufgaben, die nicht direkt in den Code fließen: Übersetzung, Recherche, Fehleranalyse, Debugging und Ähnliches. Alle Beiträge müssen zudem mit einem„Assisted by“-Tag gekennzeichnet sein.
Viele Projekte hadern mit KI-Beiträgen und suchen Wege, damit umzugehen. Das GCC-Team begründet die Maßnahme damit, Sicherheit schaffen zu wollen: „Es gibt starke und sehr unterschiedliche Meinungen bezüglich Large Language Models (LLMs)“ und jeder sollte mit sicherem Gefühl zum Projekt beitragen können.
Doch die versprochene Sicherheit trügt: Forenmitglieder weisen darauf hin, dass sich KI-Code nicht erkennen lässt, „ein nutzloser Krieg“, was sich auch wissenschaftlich belegen lässt. Das GCC-Team scheint hier einen Kampf gegen Windmühlen zu führen.
Die Formulierungen im Detail weisen jedoch in eine andere Richtung, und das Problem scheint dem GCC-Team durchaus bewusst zu sein. Die Richtlinie will zum einen eine vertrauliche Atmosphäre in der Community schaffen, „good faith“, was indirekt auch Vertrauen in die Mitwirkenden impliziert. Wer dem Projekt KI-Code unterjubelt, bricht moralisch dieses Vertrauen.
Wichtiger scheint zum anderen aber der rechtliche Aspekt und die Absicherung des Teams. Ein Mensch muss seine Beiträge mit Signed-off-by signieren und für Rückfragen gerade stehen: „Ein Mensch, der die Änderungen versteht und vorbereitet ist, Fragen dazu zu beantworten.“ Das verpflichtet ihn, den Code seiner KI gelesen und gegebenenfalls überarbeitet zu haben. Reiner KI-Slop fällt hier durch.
Nicht ohne Grund weist das GCC-Team darüber hinaus auf die legal significance des betroffenen Codes hin. In diesem Punkt geht es zwar eher um das Urheberrecht, zeigt den Contributors aber, dass sie sich in einem rechtlichen Rahmen bewegen.