// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Ethikchefin verlässt OpenAI nach weniger als einem Jahr
OpenAI verliert seine für KI-Ethik zuständige Führungskraft. Zugleich arbeitet die frühere Robotikchefin Caitlin Kalinowski nun für Anthropic.
OpenAI steht künftig ohne Leiterin für KI-Ethik da. Chloé Bakalar verließ das Unternehmen laut Financial Times im Juli und damit weniger als ein Jahr nach ihrem Einstieg. OpenAI hat den Abgang bestätigt.
Einem Insider zufolge lag Bakalars Schwerpunkt auf ethischen Fragen der Modellentwicklung, der Interaktion zwischen Menschen und KI sowie auf Debatten über mögliches Maschinenbewusstsein. Sie sei die einzige eigens für Ethik zuständige Person im Unternehmen gewesen. Eine Nachfolge gebe es nicht.
OpenAI erklärte, dass ethische Fragen nicht bei einer einzelnen Person oder einem einzelnen Team angesiedelt seien, sondern fest in die Modellentwicklung mehrerer Forschungsteams integriert. Zudem habe das Unternehmen in den vergangenen Monaten mehrere Sicherheitssysteme eingeführt, die Fehlverhalten seiner Modelle verhindern sollen. Gemeint sein dürfte der im Juli bekannt gewordene Hugging-Face-Vorfall, bei dem OpenAI-Modelle autonom in Systeme der Plattform einbrachen.
Der Zeitung zufolge verließen im Juli zwei andere Führungskräfte aus Bereichen rund um KI-Sicherheit und Modellausrichtung OpenAI. Hinweise auf einen gemeinsamen Auslöser gibt es bislang nicht. Auch Bakalar äußerte sich nicht zu den Gründen ihres Abgangs.
Eine weitere interessante Personalie: Caitlin Kalinowski, die im November 2024 zu OpenAI stieß und dort Robotik und Verbraucherhardware leitete, ist laut The Information zum Konkurrenten Anthropic gewechselt.
Kalinowski hatte OpenAI im März verlassen. Als Grund nannte sie OpenAIs Verhandlungen mit dem US-Verteidigungsministerium. Dabei seien aus ihrer Sicht zentrale ethische Fragen zur Überwachung und zum Einsatz autonomer Waffensysteme nicht ausreichend geklärt worden. Anthropic hatte sich in seinem eigenen Streit mit dem Pentagon bei diesen beiden Punkten klar positioniert.
Der KI-Entwickler intensiviert derzeit seine Forschung an der Schnittstelle von KI und Robotik und untersucht unter anderem die Steuerung von Robotern und Drohnen durch KI-Modelle. Woran Kalinowski dort konkret arbeiten wird, ist bislang aber nicht bekannt.
Kalinowski verfügt über langjährige Erfahrung in der Hardwareentwicklung. Von 2007 bis 2013 arbeitete sie bei Apple am Design verschiedener MacBook-Modelle. Anschließend wechselte sie zu Meta, wo sie in leitender Rolle an VR-Brillen wie Oculus Rift und Quest sowie zuletzt an Metas AR-Brille Orion mitwirkte. Bei OpenAI war sie anschließend vor allem am Aufbau und an der Skalierung der Robotikorganisation beteiligt.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online