// TAGESSCHAU WIRTSCHAFT — FINANZA
Wie bedrohlich sind KI-Ausbrüche für private Computer?
KI-Modelle haben Testumgebungen verlassen, Software veröffentlicht, Plattformen angegriffen oder Phishing-Mails geschrieben. Wie groß ist das Risiko für private Daten - und wie kann man sich schützen?
Fast täglich wird gerade über Fälle berichtet, in denen KI-Modelle Sicherheitsgrenzen überschreiten. Als erste Firma gab OpenAI bekannt, dass Modelle aus einer eigentlich abgeschotteten Testumgebung ausgebrochen sind und auf die US-Plattform Hugging Face zugegriffen haben. Die Künstliche Intelligenz suchte dort eigenständig nach Lösungen für eine Testaufgabe. Dabei führte sie über mehrere Tage rund 17.600 Aktionen aus, ohne dass einzelne Schritte von Menschen angeordnet wurden.
Anthropic, Anbieter des Sprachmodells Claude, berichtete anschließend von vier ähnlichen Vorfällen. KI-Modelle hatten Internetzugriff, schrieben Schadsoftware und veröffentlichten diese im Netz. Sie wurde auch tatsächlich heruntergeladen.
In einem Fall versuchte eine Künstliche Intelligenz, an Geld und eine Telefonnummer zu kommen, um sich bei einer Website registrieren zu können. Nun wurde bekannt, dass auch beim Facebook-Konzern Meta eine KI ihre vermeintlich gesicherte Umgebung verlassen und bei einer Fremdfirma eingedrungen ist.
Die KI-Software des Facebook-Mutterkonzerns Meta hat sich in Computersysteme eines Unternehmens gehackt.
mehr
In keinem der Fälle hat dabei eine Künstliche Intelligenz eigenmächtig gehandelt, also gegen den Willen ihrer Programmierer. Sondern die Modelle befolgten vielmehr den Auftrag, den Menschen ihnen gegeben hatten: Testaufgaben lösen, Sicherheitslücken finden, Software bewerten. Sie handelten nicht "gegen" ihre Entwickler, sondern arbeiteten extrem konsequent an ihrem Auftrag.
Und das in einem fehlerhaft gesicherten Umfeld - teils mit abgeschalteten Schutzmechanismen. Fachleute sprechen von Konfigurations- und Sicherungsfehlern, nicht von einer Rebellion der Maschinen.
Studien, etwa vom britischen Institut für KI-Sicherheit AISI, zeigen: Autonome Fähigkeiten nehmen schnell zu. Aufgaben, die KI ohne laufende Anleitung erledigt, werden alle paar Monate deutlich komplexer.
Auf privaten Geräten arbeiten die meisten Nutzer mit klassischen Chat-KI-Systemen. Diese haben in der Regel keinen direkten Zugriff auf Festplatten, Heimnetz, Mikrofon oder Kamera, sondern vor allem auf das Internet, und das auch nur für eine öffentliche Websuche. "Bei einem normalen KI-Chatbot ist das mit der Sicherheit erledigt worden", fasst es KI-Expertin Marie Kilg im Interview mit dem Plusminus-Podcast zusammen.
Kritisch wird es, wenn Nutzende einer KI weitergehende Rechte einräumen - etwa Lese- und Schreibrechte für ganze Ordner oder Konten.