// CLUBIC — INTELLIGENZA ARTIFICIALE
L'américain Scale AI est accusé de surveiller les contractuels français
Scale AI est une entreprise américaine dont la plateforme Outlier fait travailler plus de 900 000 contributeurs à l’entraînement d’IA, pour des clients comme Meta, OpenAI ou Google. Cinq plaintes l’accusent de pister ces travailleurs, avec des traceurs tiers et une vérification biométrique, en violation du RGPD.
Ces plaintes ont été déposées le 27 octobre en France, en Italie, aux Pays-Bas et en Autriche par noyb, une association de défense de la vie privée, avec Intérêt à Agir, le groupe de recherche DiPLab et Reversing.Works. Derrière ChatGPT, Gemini ou Grok, il y a aussi des personnes qui vérifient et annotent les réponses des modèles, et ce sont elles que ces démarches cherchent à protéger.
Sur Outlier, des contributeurs présentés comme indépendants (ce que noyb conteste) rédigent des prompts, classent des réponses ou annotent des données pour Meta, OpenAI, xAI, Google, Anthropic ou le gouvernement américain. Selon l’analyse technique de noyb, des traceurs de TikTok, LinkedIn, Facebook, Sprig (une plateforme d’enquêtes) et Datadog (de l'analyse de données) se chargent sur leur appareil dès qu'ils sont sur la plateforme. Le traqueur transmettrait toutes les quelques secondes l’adresse IP, des identifiants uniques et la page consultée. Et cela concernerait aussi l’activité de l’appareil hors Outlier. Ces données peuvent donc servir au profilage et à la publicité ciblée. "Pourquoi LinkedIn ou Facebook devraient-ils savoir sur quelles tâches vous travaillez ?", s’interroge Lisa Steinfeld Leiser, juriste chez noyb.
Et puis, il y a aussi la vérification d’identité. Scale AI impose plusieurs contrôles biométriques menés par Persona. Le contributeur doit filmer son visage et envoyer une pièce d’identité. Pour l’entreprise il s’agit d’éviter l’usurpation d'identité et de vérifier les compétences. Mais pour le cabinet de noyb, le système est complètement disproportionné, d’autant que Persona peut aussi collecter adresses IP, informations sur l’appareil, géolocalisation, adresses et données de crédit. D’ailleurs, nous rapportionsen février que Discord disait avoir mis fin à son test avec Persona au Royaume-Uni, source de nombreuses critiques, et repoussait sa vérification d’âge au second semestre.
Les plaintes invoquent le RGPD et des lois nationales. Selon noyb, Scale AI n’a pas de base légale pour installer des traceurs sans consentement. Elle ne respecterait pas non plus la minimisation des données y compris pour celles de nature biométrique. L'entreprise n’aurait enfin pas répondu aux demandes d’accès des plaignants souhaitant savoir quelle informations sont conservées. Noyb réclame donc une enquête et, si besoin, une amende.
Scale AI a réagi auprès de The Register. L’entreprise affirme que les affirmations du rapport sont infondées et inexactes. Elle assure que les pratiques d’Outlier sont communiquées aux contributeurs, qui y consentent, et qu’elle utilise des outils standards pour vérifier les identités, éviter la fraude, protéger les informations confidentielles et payer correctement les travailleurs. Pour Thomas Le Bonniec, chercheur en sociologie au DiPLab, une telle surveillance serait jugée inacceptable dans tout autre emploi de l’Union européenne. Selon lui, « ce système ne prospère que grâce à son manque délibéré de transparence ».