// CLUBIC — INTELLIGENZA ARTIFICIALE
Apple bannit de l'App Store les fonctions cachées et les applis de nudification par IA
Apple a modifié son règlement d’examen des applications pour s’attaquer aux outils d’IA capables de déshabiller une personne réelle sur une photo. Les éditeurs qui présentent une appli anodine à ses équipes avant d’activer une fonction cachée risquent désormais le retrait de l’App Store et la résiliation de leur compte développeur.
Au tournant de l’année, des milliers d’internautes ont demandé à l’assistant Grok d’Elon Musk de dénuder des femmes et des mineures sur X. Apple n’a rien dit en public, mais a menacé xAI de retirer Grok de l’App Store en janvier, avant de valider une version corrigée de l’appli. La firme de Cupertino vient de réécrire ses règles. Les images intimes non consenties, y compris celles générées par IA, sont citées noir sur blanc à l’article 1.2, et un nouvel article 2.5.19 bannit toute fonction cachée. Apple durcit le texte, mais les éditeurs d’applis de « nudification » ont surtout profité des failles de son examen et de la vitrine de l’App Store.
« N’incluez aucune fonctionnalité cachée, dormante ou non documentée dans votre application », exige désormais Apple dans son règlement. Les développeurs qui tentent de masquer ces fonctions dans le code de leur appli, par obfuscation ou par une autre méthode, risquent le retrait de l’App Store et la résiliation de leur compte. Avec l’obfuscation, un éditeur rend son code illisible et cache son véritable fonctionnement aux équipes d’examen. L’article 2.3.1 interdisait en réalité les fonctions cachées, mais Apple a voulu une règle plus explicite et nomme la « nudification » dans sa note aux développeurs.
L’éditeur soumet à l’examen une appli inoffensive et ne révèle sa fonction de « nudification » qu’après validation. Apple appelle cette tactique « bait-and-switch ». Ses équipes ont trouvé l’an dernier des fonctions cachées dans 22 000 soumissions, et Apple a retiré près de 59 000 applis validées en tant que jeux ou utilitaires, puis transformées en outils d’escroquerie après leur approbation.
Les éditeurs peuvent aussi jouer sur la localisation de leurs utilisateurs. 9to5Mac a ainsi découvert en juillet sur l’App Store brésilien des dizaines de plateformes de paris déguisées en jeux et en utilitaires, dont beaucoup étaient accessibles aux enfants. Hors du Brésil, ces applis fonctionnaient normalement, et la plateforme de paris n’apparaissait qu’aux internautes connectés depuis une adresse IP brésilienne.
Apple a également réécrit la section 5 de son règlement. Les applis qui facilitent la traite d’êtres humains ou l’exploitation d’enfants, interdites de longue date sur l’App Store, seront aussi bloquées sur les canaux de distribution alternatifs, ouverts en Europe par le DMA.
À l’article 1.2, Apple demande aux éditeurs d’applis de création ou de partage de contenus d’empêcher la publication d’images intimes non consenties et de les retirer sans attendre de signalement. Ceux qui n’installent pas de garde-fous suffisants, ou ne corrigent pas une infraction après notification, risquent d’enfreindre le code de conduite des développeurs et de voir leur appli retirée.
Le Tech Transparency Project est une ONG américaine spécialisée dans les enquêtes sur les géants de la tech. Elle a trouvé en janvier 47 applis de « nudification » sur l’App Store et 55 sur Google Play, avec plus de 700 millions de téléchargements et 117 millions de dollars de revenus au total. Apple et Google prélèvent une commission sur ces revenus, et Apple a retiré 28 de ces applis après la publication. « Grok n’est vraiment que la partie émergée de l’iceberg », avait alors prévenu Katie Paul, directrice de l’ONG, dans un entretien à la presse britannique.
Trois mois plus tard, l’ONG a montré qu’Apple orientait directement les internautes vers ces applis, avec ses suggestions de recherche et ses publicités. Quand l’ONG tapait « AI NS », Apple lui suggérait la recherche « image to video ai nsfw », et plusieurs applis de « nudification » apparaissaient dans les dix premiers résultats. Apple a