// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Google, OpenAI, Anthropic: Interne Sicherheits-Gespräche wohl schon seit Juli
Angeblich sprechen Google, OpenAI und Anthropic schon seit Juli miteinander über eine Sicherheitsorganisation. Sie soll die KI-Entwicklung kontrollieren.
Erst verließ letzte Woche ein Anthropic-Mitarbeiter das KI-Unternehmen und warf ihm öffentlich vor, Sicherheitsaspekte bei der Entwicklung von KIs nicht ausreichend zu berücksichtigen. Samstag veröffentlichte Anthropics CEO Dario Amodei dann ein Statement, in dem er eine temporäre Verlangsamung der KI-Entwicklung fordert, damit man in Sachen Sicherheit aufholen könne. Auch OpenAI-Chef Sam Altman hatte intern bereits eine Drosselung des KI-Entwicklungstempos erwogen. Jetzt erzählten Insider der Zeitschrift The Information, dass es wohl schon seit Juli im Hintergrund Gespräche zwischen Google, OpenAI und Anthropic über die Gründung einer Sicherheitsorganisation gäbe.
Laut den nicht näher benannten Informanten von The Information gehe es bei diesen Gesprächen darum, eine Organisation zu schaffen, die Sicherheitsstandards für die Entwicklung von KI überwache. So eine Organisation war auch von der Trump-Regierung mal geplant, scheiterte aber angeblich im Weißen Haus an mangelndem Support.
Ebenfalls laut Insiderinformationen, diesmal von Bloomberg, sei die Branche sich in Bezug auf eine Verlangsamung der KI-Entwicklung aus Sicherheitsgründen aber nicht einig. Konkrete Firmen, die sie kritisch sähen, wurden nicht benannt. Aber Meta äußerte sich laut Politico in einem Telefonat mit Trump wohl zumindest kritisch gegenüber einer nationalen Kontrollbehörde.
Die Reaktionen auf den Vorstoß von Dario Amodei am Samstag fielen ganz unterschiedlich aus: Asiens Börsen reagieren mit Kursverlusten, US-Präsident Trump schien von der Idee einer Entwicklungsverlangsamung auch nicht begeistert.KI-Forscher äußerten sich überwiegend positiv.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.
Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an einem Thema, um diesem zu folgen. Wir zeigen Ihnen alle neuen Inhalte zu Ihren Themen.
Mehr erfahren.