// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
heise+ | Abliterierte KI: Security-Werkzeug oder Weltuntergangswaffe?
Der renommierte Sicherheitsforscher Costin Raiu erklärt, wie wichtig abliterierte Modelle zur Abwehr sind und welche tatsächlichen Gefahren von ihnen ausgehen.
Herkömmliche LLMs besitzen Sicherungen, um den Missbrauch etwa für Angriffe zu verhindern. Doch das hindert auch Sicherheitsforscher daran, mit diesen KI-Modellen ihre eigenen Server auf Lücken hin abzuklopfen: Die KI kann schwer zwischen dem legitimen Einsatz als Pentesting-Tool und dem Missbrauch als Angriffswerkzeug auf einen fremden Server unterscheiden. Bei kommerziellen KI-Systemen läuft man sogar Gefahr, dass das Benutzerkonto gesperrt wird, weil die Absicherung als Angriff missverstanden wird. Wir haben mit dem Sicherheitsexperten Costin Raiu über das Benutzen abliterierter Modelle in der Forschung gesprochen. Ein abliteriertes Modell ist ein Open-Weight-Sprachmodell (LLM), bei dem die antrainierten Sicherheitsfilter und Verweigerungsmechanismen direkt aus den Modellgewichten entfernt oder unterdrückt wurden.
Costin Raiu ist ein Urgestein unter den Forschern mit über 30 Jahren Erfahrung im Bereich IT-Sicherheit. Sein Spezialgebiet ist die Analyse von Advanced Persistent Threats (APTs) und hochentwickelten Malwareangriffen. Sein erstes Antivirenprogramm schrieb er mit 16, später war er langjähriger Leiter des globalen Forschungs- und Analyseteams (GReAT) bei Kaspersky Labs, das unter anderem erforschte, wie Stuxnet, Flame, Duqu, Turla, Lazarus und Moonlight Maze funktionieren. Er hat außerdem die Aktivitäten staatlicher Elite-Hacker erforscht und diese an die Öffentlichkeit gebracht. Darüber hinaus ist er Gründer von „Art of Noth“, ein Think Tank für die Weiterentwicklung von Cyber Security, und der Firma „TLPBLACK“, die Sicherheitsberatung und Threat Intelligence anbietet. Bei Virus Bulletin ist er Mitglied des Technical Advisory Boards und zudem Mitglied der Computer AntiVirus Researchers’ Organization (CARO). Auch im echten Leben weiß er durchaus mit Angriffen umzugehen: Er hat den schwarzen Gürtel in Taekwondo.
Wir haben mit Costin Raiu darüber gesprochen, welchen Mehrwert abliterierte Modelle Sicherheitsforschern bieten und welche Hardware man benötigt, um die eigene Infrastruktur oder Code sinnvoll auf Sicherheitslücken abklopfen zu können. Außerdem sprechen wir über verschiedene Quellen abliterierter Modelle und die Gefahr, sich darüber Backdoors einzufangen. Schließlich gibt uns Raiu noch eine Einschätzung, wie gefährlich abliterierte Modelle in den Händen von Angreifern sind und ob uns deshalb der Weltuntergang bevorsteht.
Home Assistant sollte Ordnung in mein Smart-Home-Chaos bringen. Das klappte nicht. Dafür entdeckte ich die wahre Stärke der Plattform. Ein Erfahrungsbericht.
Mit KI lernen humanoide Roboter immer schneller. Mehrere Hersteller wollen 2027 neue Modelle veröffentlichen – ein Überblick, was sie können und was nicht.
Nützliche KI-Assistenten aus der Cloud gibt es viele. Leider sind sie recht teuer. Abo-Sharing spart Geld. Dafür zahlen Nutzer einen anderen Preis.
Wenig- oder Vielfahrer, kleine oder große Batterie: Ob und wann sich der ID. Polo gegenüber Raval, Polo und Ibiza rechnet, zeigt unser Kostenvergleich.
Der Kia EV2 überzeugt auch mit der größeren von zwei Batterien im Test. Arbeiten muss der Hersteller weiterhin an seiner Software.
Zellchemie, Zellformat und Ladeverhalten bestimmen, wie schnell ein E-Auto-Akku altert. Ein Überblick über die Batterietypen und was ihnen schadet.