// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Kommentar: Die einmal mehr besorgten „KI“-Bros
Seit Tagen wird wieder darüber debattiert, ob „KI“ zu gefährlich ist. Die Warnungen sind nicht neu und die Branche hat andere Interessen, kommentiert tante.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Wir lesen in jüngster Zeit viel über die besorgten „KI“-Bros ([Anmerkung der Red.:]tante schreibt „KI“ in Anführungszeichen, weil der Begriff irreführend sei, viel mit vagen Erwartungen verknüpft und nichts mit echter Intelligenz zu tun habe): Dario Amodei und Sam Altman sprechen beide davon, man müsse jetzt die Entwicklung von „Frontier KI“ verlangsamen und sogar Elon Musk stimmt zu:
Eine unheilige Allianz, die nachdenklich machen sollte, gerade wo die drei betreffenden Herren sich alle zutiefst verachten. Ist die Sorge der „KI“-Bros um die Zukunft so groß, dass sie alle Konflikte überstrahlt? Ist der aktuelle Fall um Jacob Coxon, der aus Sorge, „‚KI‘ könnte uns alle auslöschen“, seinen Job bei Anthropic hingeworfen hat, auch ein Ausdruck dieser Angst vor realen Konsequenzen? Coxon tritt sogar im US-Fernsehen auf, um zu unterstreichen, dass uns Menschen kaum Gegenmaßnahmen verbleiben, weil „die KI“ sich einfach wie ein Virus auf andere Maschinen verbreitet, wenn man sie abschalten wollte. Ist das ein reales Szenario?
Natürlich nicht. Und die Art der Berichterstattung ist leider wirklich ärgerlich schlecht.
Zuerst ist es natürlich wichtig zu wissen, dass Anthropic sich aus OpenAI abgespalten hat, weil OpenAI den sich abspaltenden Personen nicht Kult genug war: Offiziell beschreibt Amodei es zwar als unterschiedliche Vorstellungen über die Sicherheit von „KI“ und die Frage, wie man die Fähigkeiten von „KI“ erhöhen kann, doch schon in der Erklärung scheinen die echten Beweggründe hindurch. Anthropic wurde gegründet von Leuten aus der Effective Altruism (EA) Bubble, die wirklich glauben, dass LLMs gleichzeitig ein „existential Risk“ (also ein Risiko für den Fortbestand der Menschheit, hier war eine Sollbruchstelle zu der Sicht von OpenAI) wie auch einen neuen Gott darstellen, der entsteht, wenn man nur die „Scaling Laws“, das heißt, immer größere Systeme zu bauen, anwenden würde. Diesem System sei dann weitgehend die Kontrolle zu übergeben, damit es nahezu alle Probleme der Menschheit lösen kann.
Jürgen Geuter (im Internet bekannter als tante) hat Informatik und Philosophie studiert und arbeitet als Research Director an der Erforschung, Implementierung und Erprobung neuer Technologien. Als unabhängiger Forscher, Autor, Soziotechnologe und Speaker beschäftigt er sich mit Themen an den Schnittstellen von Technologie, Gesellschaft und Politik.
Diese Denkrichtung hatte (und hat) auch bei OpenAI immer einen gewissen Einfluss, dort herrscht allerdings immer noch eine eher pragmatische Perspektive vor: Am Ende hofft man, ein Business zu finden, bevor Sam Altman die Geschichten ausgehen. Anthropic hingegen ist deutlich mehr „on a mission“. Die Übereinstimmung ist also auch aus der Perspektive so ungewöhnlich, dass man genauer hinsehen muss. Gerade Anthropic steckt hier ja in einem Zwiespalt, der bisher immer zugunsten von mehr Entwicklung aufgelöst wurde.
Nun haben wir alle die Geschichte von „unsere magischen KI Modelle sind zu gefährlich/mächtig um sie zu releasen“ jetzt mehrfach durchgespielt. Wir alle erinnern uns, als 2019 sogar GPT-2 zu mächtig für ein öffentliches Release war. Ein Modell, das heute niemanden mehr interessiert, weil es zu schlecht für jeden üblichen Use Case ist.
Aber der Schrägstrich ist wichtig: Die Behauptung von „unser Modell ist super gefährlich“ ist vor allem die Behauptung, dass ein Modell mächtig sei. Es ist eine Werbebotschaft, mit der der Hype um LLMs am Laufen gehalten werden soll.