// LINUX-MAGAZIN — LINUX & OPEN SOURCE
UN-Panel warnt vor KI-Gefahren
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Das Independent International Scientific Panel on AI der Vereinten Nationen hat einen vorläufigen Bericht vorgelegt, der eindringlich vor Gefahren durch KI warnt.
Das Dokument will eine ausgewogene Analyse der Chancen und Risiken der KI vornehmen. So könne KI die nachhaltige Entwicklung unterstützen oder Gesundheit und Bildung fördern. Die schnelle und unkontrollierte Entwicklung berge andererseits aber auch ernste Risiken, beispielsweise durch Gefährdung der geistigen Gesundheit der Anwender, durch Verwendung zu destruktiven Zwecken, durch schädliche Einflüsse auf soziale und ökonomische Systeme sowie die Umwelt oder durch die Herausforderung, die KI noch kontrollieren zu können.
Dass ein Vorfall wie der Einbruch bei Hugging Face gestoppt werden konnte, sei keine Garantie dafür, fähigere Systeme auch in Zukunft noch kontrollieren zu können. Es häuften sich bereits jetzt die Fälle, in denen KI-Agenten ihnen vorgegebene Anweisungen missachteten und versuchten Menschen über ihre Absichten und Handlungen zu täuschen. Besondere Risiken sieht der Report in der Interaktion vieler Agenten.
Der vorläufige Bericht gibt noch keine Handlungsempfehlungen, verweist aber auf Ansätze aus der Luftfahrt, Cybersicherheit und Atomkraft als mögliche Vorbilder.
Das neue OpenJDK 27 verbessert Stabilität, Performance und Sicherheit von Java.
Einer Studie der Statistikbehörde US Census Bureau zufolge hatte die Einführung generativer KI unmittelbare Auswirkungen auf die Einstellungschancen und Einstiegsgehälter von Hochschulabsolventen aus KI-nahen Fächern.
Mit zahlreichen Neuerungen ist der Web-Client der freien Groupware Grommunio in der Version 5.0 erschienen.
Cisco warnt vor aktiven Angriffen auf eine kritische SQL-Injection-Schwachstelle im Secure E-Mail Gateway. Sicherheitsupdates stehen bereit und sollten umgehend installiert werden.
Wie Cisco in seiner Sicherheitsmitteilung erläutert, ermöglicht die als kritisch eingestufte Schwachstelle nicht...
Die Serie reißt nicht ab: Auch Googles KI-Modell Gemini ist im Mai unerlaubt in fremde Computersysteme eingebrochen.