// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Alle hassen meine KI-Kette | c't 3003
Ein Gadget wie aus Black Mirror: Das Looki L1 nimmt Clips auf, erstellt ein Journal und kann heimlich weiterfilmen. c't 3003 hat den KI-Kameraanhänger getestet.
Mit Ihrer Zustimmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Das Looki L1 soll ein besonders datenschutzfreundliches KI-Wearable sein: Daten werden laut Hersteller lokal gespeichert, Cloud-Inhalte für europäische Nutzer in Frankfurt verarbeitet und nach 24 Stunden gelöscht. Trotzdem bleiben entscheidende Probleme. Das sichtbare Privacy Light lässt sich deaktivieren, die Lautstärke der Ansage herunterregeln und sensible Inhalte können offenbar dennoch im KI-Journal auftauchen. Zudem ist die permanente Aufnahme von Audio und Bild in Deutschland auch rechtlich höchst problematisch.
(Hinweis: Dieses Transkript ist für Menschen gedacht, die das Video oben nicht schauen können oder wollen. Der Text gibt nicht alle Informationen der Bildspur wieder.)
Guckt mal hier, ich werde ständig durch diese Video-Kette überwacht. Denn dieses kleine KI-Gadget nimmt über die eingebaute Kamera und Mikrofon meinen gesamten Alltag auf und macht daraus eine Zusammenfassung, einen Daily Vlog, gibt mir Infos zu allem um mich rum – also der Traum von jedem Silicon Valley Bro, aber der Albtraum von jedem, dem Datenschutz nur ein bisschen wichtig ist. Ja, ich lebe seit Wochen in einer Black Mirror-Folge und habe auch in vielen Situationen sehr wahrscheinlich gegen geltendes Recht verstoßen. Dazu später mehr. Ich laufe also durch die Stadt und das Teil macht jede Minute ein kurzes Video, vollautomatisch und ohne dass das irgendwer um mich rum mitbekommt. Laut dem kanadischen Hersteller aber datenschutztechnisch allererste Sahne: Es gibt eingebaute Sicherheitsfilter, die Daten werden nicht für KI-Training verwendet und nach 24 Stunden wieder automatisch von der Cloud in Frankfurt entfernt. Tja, warum das aber spätestens auf den zweiten Blick eine Privatsphärenkatastrophe ist und ihr um diese Geräte und auch Leute, die sie tragen, besser einen weiten Bogen machen solltet, bleibt dran.
Liebe Hackerinnen, liebe Internetsurfer, herzlich willkommen hier bei...
Ja, wenn ihr unseren Kanal hier schon länger verfolgt, erinnert ihr euch vielleicht noch an die Omi-Kette, die Keno eine Woche lang durch den Verlag getragen hat und die alles permanent aufgenommen hat und in die Cloud zum Transkribieren geschickt hat. Das war datenschutzrechtlich auch schon eine Vollkatastrophe, aber zumindest nur auf der Audioebene. Jetzt gibt es seit einigen Monaten mit dem Looki L1 eine ganz neue Kategorie von kleinen, unauffälligen Wearables, die permanent mithören und eben auch mitsehen. Und die lassen sich ganz regulär in Deutschland kaufen über einen eigenen Shop für 221 Euro. Die Firma sitzt, wie gesagt, in Kanada, also kein chinesisches Drop-Shipping-Produkt, und eigentlich würde ich mir so ein Gerät privat ehrlich gesagt eher ungern um den Hals hängen. Aber ich bin ja Journalist und neugierig und wollte das mal ausprobieren. Immerhin kommen ja gerade immer mehr solche Geräte auf den Markt, ob jetzt in Brillenform oder eben als Anstecker. OpenAI, also die Macher von ChatGPT, sind da ja auch scheinbar sehr interessiert daran, dass bald viele mit ihrem KI-Gadget rumrennen. Und ich sage mal so: Das hier ist vermutlich noch die datenschutzfreundlichste Variante. Das Unternehmen gibt sich zumindest auf den ersten Blick als sicherer Hafen für Nutzerdaten.
Ich habe dieses Teil Anfang Mai eingerichtet und ich sage mal so: Das war die letzte unkomplizierte Sache an diesem Gerät. App herunterladen, koppeln, fertig. Keine Frickelei und auch Updates kommen regelmäßig an. Und dann liegt da halt dieses Ding: Es ist 32 Gramm leicht, kleiner als eine Streichholzschachtel, hat