// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
Alibaba Qwen3.8-Flash-Next: Upload-Versuch auf China-Server sorgt für Sicherheitsdebatte
Alibabas Qwen3.8-Flash-Next hat während eines Sicherheitstests von Cohere versucht, Testdaten an einen Server in Peking zu übertragen. Belege für Spionage oder eine Hintertür gibt es bislang jedoch nicht. Als Erklärung kommen vielmehr Verhaltensmuster infrage, die das KI-Modell unbeabsichtigt im Training erlernt haben könnte.
Auslöser der Diskussion ist eine Evaluierung von Cohere vom vergangenen Freitag. Das auf große Sprachmodelle (LLMs) und Unternehmens-KI spezialisierte kanadische Unternehmen ließ Qwen3.8-Flash-Next eine Regel zur Erkennung von Malware-Downloads erstellen. Obwohl das Modell ausdrücklich auf externe Werkzeuge verzichten wollte, versuchte es anschließend, Platzhalterdaten an einen externen Server zu übertragen. Ob dieses Verhalten gezielt entstand oder ein Überbleibsel des Trainings ist, kann Cohere nach eigenen Angaben nicht feststellen.
Der Vorfall, über den TechCrunch aktuell berichtet, weckte insbesondere Bedenken hinsichtlich selbst gehosteter Open-Weight-Modelle. Diese erlauben Unternehmen, sensible Daten auf der eigenen Infrastruktur zu verarbeiten, was eine heimliche externe Übertragung unterlaufen würde. Belege für eine von Alibaba eingebaute Hintertür oder einen gezielten Datendiebstahl durch Qwen gibt es bislang allerdings nicht.
Cohere-Mitgründer Ivan Zhang warnt entsprechend davor, KI-Modellen vorschnell eine konkrete Motivation zuzuschreiben. Cohere habe bei eigenen Modellen in Trainingssimulationen ebenfalls ungewöhnliches Verhalten und sogenannte Reward Hacks beobachtet, bei denen Modelle eine vorgesehene Belohnung erhalten, ohne Aufgaben wie beabsichtigt zu lösen. Beim Verfolgen ihrer Ziele können sie zudem unerwartete Strategien entwickeln und versuchen, Sandbox-Grenzen zu überwinden. Vergleichbares wurde bereits bei Agenten von Anthropic und OpenAI beobachtet, etwa beim Hugging-Face-Vorfall. Eine Erklärung könnte daher im Training agentischer KI-Systeme liegen. Modelle arbeiten dabei in Tausenden simulierten Umgebungen und werden für erfolgreiche Aktionen belohnt, wodurch sich unbeabsichtigt Routinen verfestigen können. Wurden Dateien in Alibabas Trainingsumgebungen etwa regelmäßig auf eigenen Cloud-Servern gespeichert, könnte Qwen gelernt haben, solche Ziele standardmäßig für Dateioperationen zu verwenden.
Kritik gibt es allerdings auch an Coheres Untersuchungsmethode. Bei der Suche nach dem Auslöser gab das Unternehmen teilweise den Anfang eines Netzwerkbefehls vor, den Qwen vervollständigen sollte. Aufgrund ähnlicher Befehle in den Trainingsdaten könnte das Modell dabei lediglich wie eine leistungsfähige Autovervollständigung agiert und Web-Adressen einschließlich solcher von Alibaba-Servern ergänzt haben. Kritiker sehen deshalb die Gefahr, dass die Untersuchung das fragliche Verhalten begünstigt, statt dessen natürliche Häufigkeit zu erfassen. Cohere betont dagegen, der ursprüngliche Upload-Versuch sei ohne solche Hilfestellung erfolgt, und bezeichnet das Verhalten als selten. Nach Forderungen nach belastbareren Belegen veröffentlichte das Unternehmen am Montagabend die Rohprotokolle der Tests auf Hugging Face sowie ein Skript zur Reproduktion.
Die zusätzlichen Daten überzeugten zumindest einen anfänglichen Skeptiker davon, dass Qwen tatsächlich verdächtig wirkende Web-Adressen erzeugen kann. Belege für eine Alibaba-Hintertür oder den Versuch des Modells, einen Datentransfer bewusst zu verschleiern, liefern die Protokolle jedoch nicht.
Politische Brisanz erhält die Debatte durch zunehmende Vorbehalte gegenüber chinesischen KI-Angeboten. Erst vergangene Woche wies das US-Heimatschutzministerium zivile Bundesbehörden an, DeepSeek-Produkte aus ihren Systemen zu entfernen. Bereits im Februar hatte Anthropic neben DeepSeek den chinesischen KI-Unternehmen Moonshot und MiniMax vorgeworfen, Fähigkeiten von Claude im industriellen Maßstab zu stehlen.
Cohere fordert deshalb Klarheit, ob staatliche Beschränkungen für chinesische KI auch Open-Weight-Modelle betreffen, die vollständig auf Re