Les images, les notes de journaux, n’ont pas été faites par une personne, mais par des versions développées de l’aspirateur robot de la série iRobot Roomba J7. Ils ont ensuite été envoyés à Scale AI, une startup qui embauche des employés dans le monde entier pour étiqueter (appelé annoter) les données audio, photo et vidéo utilisées pour former l’intelligence artificielle.
MIT Technology Review a, en particulier, une série d’images vidéo montrant une jeune femme dans des toilettes, dont le visage était obscurci dans l’image principale mais non caché dans les images “en défilement” ci-dessous.
La publication précise que cette image (comme d’autres images “fuites” sur le réseau) sont des scènes que les appareils connectés à Internet tournent régulièrement et envoient au “cloud” – stockage avec stockage et contrôle d’accès stricts.
iRobot, le plus grand fournisseur mondial d’aspirateurs robotiques, a confirmé à la publication que ces images avaient été prises par des robots Roomba en 2020. Cependant, nous ne parlons pas de biens de consommation vendus dans les magasins, mais de prototypes spéciaux qui ont été utilisés par des “collecteurs de données rémunérés”.
De tels dispositifs, a noté le fabricant, étaient marqué d’un autocollant indiquant “enregistrement vidéo en cours”. De plus, les “collecteurs de données rémunérés” (c’est-à-dire les personnes payées par l’entreprise pour participer aux tests d’appareils) ont signé des accords écrits confirmant qu’ils envoient des flux de données, y compris des vidéos, à l’entreprise à des fins de formation.
Selon iRobot, ces collecteurs de données rémunérés devaient “retirer tout ce qu’ils considéraient comme sensible de tout espace dans lequel le robot opère, y compris les enfants”.
Selon iRobot, toute personne dont les photos ou les vidéos sont apparues sur les flux a accepté que des aspirateurs robotiques les contrôlent, écrit le journal. Dans le même temps, iRobot a refusé d’autoriser MIT Technology Review à examiner les accords de consentement et n’a donné à aucun de ses robinets ou employés rémunérés l’occasion de discuter de leur compréhension des termes.
James Baussmann, un porte-parole d’iRobot, a déclaré à la publication que la société “a pris toutes les précautions pour s’assurer que les données personnelles sont traitées en toute sécurité” et que les images partagées avec MIT Technology Review ont été “distribuées en violation d’un accord de non-divulgation écrit entre iRobot et le fournisseur de services. annotation d’image”.
Le PDG d’iRobot, Colin Angle, a déclaré que “iRobot met fin à sa relation avec le fournisseur de services qui a divulgué les images, enquête activement sur la question et [принимает] mesures pour aider à prévenir une fuite similaire par tout fournisseur de services à l’avenir. » La société n’a pas répondu aux questions supplémentaires sur la nature de ces mesures, résumées dans Examen de la technologie MIT.
