Trois mois. C’est le temps qu’il a fallu pour comprendre que cocher une case dans l’application iRobot n’avait rien d’anodin. L’idée de départ était simple : activer le “programme d’amélioration de l’expérience utilisateur” pour que le Roomba J7 arrête de finir empêtré dans le câble du chargeur de smartphone qui traîne sous le canapé. Le robot, censé reconnaître les fils électriques et les crottes de chien grâce à sa caméra frontale, promettait justement ce genre de progrès à condition d’accepter que ses images servent à entraîner son intelligence artificielle. Ce qui n’était écrit nulle part en gras, c’est que ces photos du salon pouvaient finir sous les yeux d’un humain, à des milliers de kilomètres, payé pour dire si l’objet flou au sol est bien une chaussette ou un chargeur.
À retenir
- Une simple case à cocher ouvre l’accès à votre salon à des inconnus payés pour analyser vos photos
- Les images des testeurs iRobot ont fini partagées sur Facebook et Discord sans consentement explicite
- Les limites entre ‘amélioration produit’ et ‘violation de vie privée’ demeurent floues et mal encadrées
Le deal caché derrière “amélioration produit”
Le fonctionnement technique n’a rien de mystérieux une fois qu’on le déplie. Le modèle J7 d’iRobot collecte ces données grâce à une caméra frontale alimentée par IA, une évolution par rapport à la technologie de cartographie basée sur gyroscope et accéléromètre utilisée par les modèles moins chers. Ce Roomba peut ainsi reconnaître et photographier les déjections animales et les câbles, puis les partager avec l’application mobile, si l’utilisateur y consent. Mais ces images ne restent pas cantonnées à un algorithme qui apprend tout seul dans son coin.
MIT Technology Review a révélé qu’iRobot, leader du secteur, avait engagé des sous-traitants tiers pour trier et étiqueter les données brutes collectées par la version de développement du Roomba J7. iRobot a partagé ces données avec une start-up nommée Scale AI, laquelle les a à son tour transmises à des sous-traitants indépendants situés au Venezuela. Le principe s’appelle la data annotation : des travailleurs, souvent payés à la tâche et logués depuis chez eux, regardent une image et confirment ou corrigent ce que l’IA croit y voir. Sans ces yeux humains, aucun robot n’apprendrait jamais à distinguer un fil de chargeur d’une queue de chat.
Quand les photos du salon finissent sur Facebook
L’histoire aurait pu s’arrêter là, dans l’anonymat discret des chaînes de sous-traitance. Elle a pris une tout autre tournure en 2020. Des images d’enfants, l’agencement complet de maisons, et même une personne assise sur les toilettes ont été capturées par des modèles de test de robots aspirateurs iRobot, dans des foyers d’Amérique du Nord, d’Europe et d’Asie. Ces images ont ensuite été partagées par des travailleurs vénézuéliens sur des groupes Facebook et Discord, sans qu’ils cherchent réellement à violer la vie privée de qui que ce soit. Un détail glaçant accompagnait pourtant certaines de ces images : une note destinée aux annotateurs précisait de ne pas étiqueter telle image, présente uniquement pour donner du contexte. Preuve que la présence d’un être humain scrutant l’intérieur d’un salon n’était pas un accident de parcours, mais un rouage assumé du processus.
Face au scandale, la réaction d’iRobot a été rapide sur la forme. Peu après avoir été contactée par MIT Technology Review, l’entreprise a mis fin à son contrat avec Scale AI. Sur le fond, le message est resté ambigu : le PDG d’iRobot, Colin Angle, a affirmé dans une publication LinkedIn que rendre ces images accessibles était nécessaire pour entraîner les algorithmes de reconnaissance d’objets de l’entreprise, écartant l’idée que le fait que des travailleurs humains puissent voir les visages des testeurs pose problème. Un argument qui n’a guère rassuré les personnes concernées : les testeurs concernés contestaient fermement l’idée qu’en se portant volontaires pour tester un produit, ils auraient renoncé à toute leur vie privée.
Le salon n’est que la partie visible
Les photos de câbles et de crottes de chien ne racontent qu’une partie de l’histoire. Un aspirateur robot moderne construit en parallèle une carte précise de chaque pièce, meuble par meuble, pour optimiser ses trajets de nettoyage. Certains chercheurs ont montré qu’il est possible d’enregistrer les vibrations produites par un objet comme un aspirateur à l’intérieur d’une maison, puis de les convertir pour reconstituer une conversation qui se déroule dans la pièce. C’est le principe derrière les attaques dites LidarPhone : transformer un capteur de navigation en micro improvisé, sans qu’aucun micro physique ne soit nécessaire.
Le contexte n’aide pas à calmer les inquiétudes. L’annonce par Amazon en 2022 de son intention de racheter iRobot est intervenue à une époque où la concurrence sur le marché et la protection de la vie privée suscitaient des inquiétudes réglementaires croissantes, soulevant des questions sur la manière dont ces données pourraient être exploitées. Sur la question spécifique de la revente de données à des tiers, iRobot a toujours nié en bloc : l’entreprise a affirmé ne jamais vendre de données car ses clients sont une priorité, et ne jamais abuser de leur confiance en vendant ou en violant les données liées aux clients, y compris celles collectées par ses produits connectés. Reste que la frontière entre “améliorer le produit” et “faire regarder son salon par un inconnu” tient parfois à une seule case cochée dans une application.
Ce qui a changé, trois ans plus tard
Le secteur a depuis ajusté le discours, sinon toujours la pratique. Certains fabricants concurrents mettent en avant des garde-fous plus explicites : chez Ecovacs par exemple, les aspirateurs DEEBOT ne collectent des images et vidéos pour la recherche et le développement qu’avec l’accord explicite des utilisateurs, via une demande d’assistance ou l’adhésion volontaire au programme d’amélioration des produits, avec possibilité de se désinscrire depuis les réglages de l’application. D’autres marques ont carrément fait de l’absence de cloud un argument de vente : l’option la plus axée sur la vie privée, le robot aspirateur de Matic, traite tout localement sans connexion internet.
Le fond du problème reste pourtant intact, et il dépasse largement le seul Roomba. Aux États-Unis, les entreprises ne sont pas tenues de divulguer précisément l’usage fait des données, et les politiques de confidentialité contiennent généralement une clause autorisant l’utilisation des données des consommateurs pour améliorer produits et services, ce qui inclut l’entraînement de l’IA : on donne bien souvent son accord en se contentant d’utiliser le produit. Cocher une case pour de meilleures performances anti-câbles, c’est peut-être aussi, sans le savoir précisément, ouvrir une porte sur son salon à des travailleurs qu’on ne rencontrera jamais et dont on ignore jusqu’au pays de résidence.
Sources : technologyreview.com | clubic.com