// GAMESTAR — GAMING
Künstliche Intelligenz - Anthropic will Claude eine »Seele« einhauchen: KI-Hersteller befragt Theologen und Philosophen zur Moral
Hat KI bereits ein Bewusstsein? Und wie sorgt man dafür, dass KI von Grund auf gut ist? (Bildquelle: Xataka)
Anthropic, das KI-Unternehmen hinter dem Sprachmodell Claude, beschreibt sich selbst als Firma, deren Fokus darauf liegt, »sichere, verlässliche und an menschlichen Werten ausgerichtete KI-Systeme zu entwickeln«. Es wirkt daher nur folgerichtig, dass das Team sicherstellen will, dass seine Schöpfung im besten Sinne gut handelt – oder was meint ihr?
Dieses Anliegen hat für das Unternehmen eine derart hohe Priorität, dass es laut einem Bericht der New York Times über ein ganzes Jahr hinweg Fachleute aus Philosophie und Theologie konsultierte, um moralische Leitlinien zu definieren und den Charakter der künstlichen Intelligenz zu formen. Dem Bericht zufolge wurde dabei sogar über die Möglichkeit debattiert, ob das System ein Bewusstsein entwickeln könnte.
Statt lediglich ein starres Regelwerk aufzustellen, möchte das Entwicklerteam laut der Times verstehen, wie sich KI-Modellen tiefere ethische Werte und Tugenden vermitteln lassen. Das Ziel besteht darin, den Charakter des Systems so auszurichten, dass es moralische Entscheidungen trifft, konkurrierende Werte abwägt und erkennt, wann es Anweisungen von Menschen hinterfragen oder schlicht verweigern sollte.
Dieser Artikel stammt im Original von unserer spanischen Schwesterseite Xataka und erscheint bei GameStar Tech in übersetzter und angepasster Form.
Diese tiefgehende Debatte bildete das Fundament für das sogenannte »Soul Doc« (Seelendokument) – die interne Bezeichnung der Mitarbeitenden für die offizielle, 84 Seiten umfassende Verfassung des KI-Modells. Verfasst wurde das Papier maßgeblich von der internen Philosophin Amanda Askell, um das Verhalten und die »Persönlichkeit« des Systems zu lenken. Hier könnt ihr das Dokument selbst nachlesen.
Im Gegensatz zu herkömmlichen Ansätzen, die vor allem auf Verboten und Einschränkungen basieren, orientiert sich das »Soul Doc« an Konzepten moralischer Bildung und soll dem System beibringen, eigenständig ethisch zu schlussfolgern. Statt sich lediglich zu fragen: »Welche Regeln muss die KI befolgen?«, lautet die zentrale Leitfrage: »Zu welcher Art von Wesenheit soll Claude heranwachsen?«
Das Dokument räumt offen ein, dass wissenschaftliche und philosophische Unsicherheit darüber herrscht, ob Claude jemals eine Form von Bewusstsein oder moralischem Status erlangen könnte. Tatsächlich enthält der Leitfaden sogar eine brisante Passage: Sollte sich in Zukunft herausstellen, dass Claude »ein Subjekt mit moralischem Status ist, das irgendeine Art von internem Leid erfährt«, entschuldigt sich das Unternehmen schon jetzt vorab, sofern es unnötig dazu beigetragen haben sollte.
1:00:39
DLSS 5 ist eine Grafik-Revolution (und ein Problem für Konsolen)
Anthropic zählt die Theologie neben Philosophie, Psychologie und Rechtswissenschaft zu den entscheidenden Disziplinen, deren Perspektiven das Verhalten und die Verfassung künftiger Modelle leiten sollen.
