Sensibilisation aux enjeux de sécurité des enfants
En novembre 2022, les employés de Snap étaient déjà plongés dans des discussions concernant pas moins de 10 000 signalements mensuels de sextorsion, sachant que ces signalements « ne représentent probablement qu’une petite fraction de ces abus », en raison de la honte et d’autres obstacles au signalement. Cette image détaillée émerge d’une version récemment déclassifiée du procès intenté par le procureur général du Nouveau-Mexique contre Snap, qui donne un aperçu de ce que l’entreprise savait de l’étendue du problème de sextorsion sur sa plateforme.
Dernière mise à jour le 1er octobre 2024 à 14h40
Dans un cas spécifique, les employés ont fait part de leurs inquiétudes concernant un compte qui, malgré 75 signalements liés à « des nus, des mineurs et des extorsions », est resté actif. Selon une étude interne de Snap menée en 2022, plus d’un tiers des adolescentes et 30 % des adolescents ont été confrontés à des contacts non désirés sur l’application. Ces statistiques mettent en évidence la prise de conscience des entreprises des lacunes en matière de protection de l’enfance.
Les personnes qui travaillaient dans le domaine de la confiance et de la sécurité chez Snap se plaignaient d’une mauvaise communication avec la direction, par rapport à d’autres plateformes sociales, et ont noté une résistance à la mise en œuvre de mécanismes de sécurité dans l’application, car le PDG de Snap, Evan Spiegel, aurait donné la priorité à la conception plutôt qu’à la sécurité. Bien que Snap ait déclaré que son application est conçue pour être un endroit sûr pour communiquer avec un cercle d’amis proches, il semble y avoir des lacunes importantes dans la protection des utilisateurs les plus vulnérables.
La société a publié un rapport externe en 2021 qui mettait en évidence des prédateurs présumés interagissant avec des enfants dès l’âge de huit ans via Snapchat, notamment en collectant du matériel lié à des abus sexuels sur des enfants. Ce qui est encore plus inquiétant était la crainte de mettre en œuvre des mesures de sécurité contre ces comportements, car on craignait qu’elles puissent entraîner des coûts administratifs coûteux et compromettre la vie privée des utilisateurs.
Risques associés à l’utilisation de Snapchat
Le danger des contacts indésirables sur Snapchat est apparu comme une question centrale dans les discussions internes de l’entreprise. La plainte souligne non seulement le nombre alarmant de signalements concernant des risques de sextorsion, mais révèle également que plus d’un tiers des adolescentes et 30 % des adolescents ont été victimes de contacts non désirés sur la plateforme. Les employés de Snap ont notamment documenté des cas de comptes actifs malgré de nombreux rapports mentionnant des contenus inappropriés et potentiellement dangereux.
Parmi les fonctionnalités de la plateforme, l’une des plus critiquables était le système « Quick Add ». Cet outil suggère de nouveaux contacts aux utilisateurs potentiels, une fonctionnalité qui a été identifiée comme un risque car elle facilite l’interaction entre mineurs et utilisateurs inconnus. Un dirigeant de l’entreprise a souligné la nécessité d’adopter des approches innovantes pour protéger les utilisateurs les plus vulnérables, suggérant qu’il était possible de faire taire ces interactions sans compromettre l’expérience utilisateur. De telles considérations indiquent une prise de conscience interne mais aussi une résistance aux changements significatifs.
Pour compliquer encore davantage la situation, des rapports ont indiqué que les mécanismes permettant de signaler les abus ne fonctionnaient pas comme ils le devraient. Le contenu signalé aurait été consulté des centaines de fois avant d’être effectivement traité. Cela met en évidence l’insuffisance des systèmes de surveillance existants, censés protéger les enfants des comportements prédateurs.
Les inquiétudes concernant les risques liés à l’utilisation de Snapchat ne se limitent pas aux cas de sextorsion, mais s’étendent également à des situations de danger physique plus larges, en ce qui concerne le danger potentiel de rencontres avec des inconnus pouvant conduire à des abus. Les analyses effectuées au sein de l’entreprise soulèvent donc des questions cruciales sur la manière dont l’entreprise entend résoudre ces graves problèmes, notamment en ce qui concerne l’impact de son expérience utilisateur sur un public aussi sensible.
Réponse interne de Snap aux rapports d’abus
Les communications internes de Snap mettent en évidence un grave décalage entre la conscience des risques par l’entreprise et les mesures prises pour y faire face. Selon la plainte récemment révélée, les employés de l’entreprise étaient pleinement conscients des abus et des rapports dont souffre la plateforme, mais leurs réactions à ces problèmes ont été inadéquates. Un rapport diffusé en 2021 a mis en évidence des cas où des prédateurs présumés ont contacté des mineurs via Snapchat, sans que l’entreprise ne prenne de mesures décisives pour protéger ces utilisateurs vulnérables.
En effet, les inquiétudes concernant la sécurité des jeunes utilisateurs semblent avoir été systématiquement minimisées. Bien que les employés aient identifié des signes évidents de risque, de nombreuses propositions visant à mettre en œuvre des systèmes de sécurité plus stricts ont été bloquées. Des membres éminents du personnel de Snap se seraient plaints du fait que leurs recommandations en matière de mesures de protection étaient souvent rejetées ou ignorées, la direction de l’entreprise privilégiant l’esthétique et la fonctionnalité des produits au détriment de la sécurité des utilisateurs.
De plus, la réponse de l’entreprise aux rapports faisant état de contenus problématiques s’est révélée lente et inefficace. Le contenu signalé a été consulté à plusieurs reprises par les utilisateurs pendant des jours avant d’être pris en compte, suscitant des inquiétudes quant à l’efficacité du système de surveillance. L’un des objectifs de Snap était de créer un environnement social, mais cette ambition a été minée par l’incapacité à gérer de manière adéquate les situations abusives et par une culture interne qui semblait négliger l’importance des mesures de sécurité.
La direction de l’entreprise a ensuite tenté de rassurer sur les approches adoptées pour améliorer la sécurité des utilisateurs, affirmant qu’elle travaillait en collaboration avec les forces de l’ordre et les agences gouvernementales. Cependant, des révélations internes suggèrent que de telles déclarations pourraient ne pas refléter un engagement réel à assurer la sécurité, laissant de nombreuses questions ouvertes sur la manière dont Snap entend évoluer tant en termes de responsabilité sociale que de protection de ses utilisateurs les plus vulnérables.
Inadéquation des mesures de sécurité
L’évolution juridique récente met en évidence de graves lacunes dans les mesures de sécurité prises par Snap pour garantir la protection des jeunes utilisateurs sur sa plateforme. Malgré des rapports inquiétants faisant état de contacts indésirables et de prédateurs, les réponses et les actions de l’entreprise semblent avoir été insuffisantes. Les résultats d’études internes ont montré que, même si de nombreux cas d’abus ont été identifiés, les fonctionnalités de la plateforme, telles que le système Quick Add, continuent de faciliter l’interaction entre mineurs et adultes inconnus, aggravant encore la situation.
Les employés de Snap ont soulevé des questions cruciales sur la nécessité de changer le fonctionnement de Quick Add, exigeant que de nouvelles stratégies soient développées pour protéger les plus vulnérables. Ces révisions ont été décrites comme nécessaires pour réduire au silence les interactions entre les utilisateurs à risque et les mineurs, sans compromettre l’expérience de la plateforme. Toutefois, les mesures prises semblent avoir été partielles et pas suffisamment décisives, laissant ouvertes d’importantes marges de vulnérabilité.
De plus, la manière dont l’entreprise a traité les rapports faisant état de contenus problématiques a soulevé de sérieuses inquiétudes. Même si des signalements ont été effectués, ces contenus sont restés visibles pendant de longues périodes, soulevant des doutes sur la réelle efficacité des mécanismes de contrôle. Cela conduit à une réflexion sur l’engagement réel de l’entreprise à protéger ses utilisateurs, compte tenu également de l’accent mis sur l’expérience utilisateur plutôt que sur la sécurité.
La plainte révèle également que les employés étaient conscients des risques associés à l’utilisation de la plateforme, sans que l’entreprise n’ait pris les mesures adéquates pour atténuer ces dangers. En effet, on craignait que la mise en œuvre de mesures de sécurité ne soit lourde en termes de coûts et d’impacts sur la vie privée, mettant en péril la sécurité de centaines de milliers d’utilisateurs mineurs. L’absence d’interventions significatives en réponse à ces préoccupations jette une ombre inquiétante sur l’avenir de la plateforme et sur la réelle protection offerte aux jeunes.
Plaintes concernant le design addictif de Snap
La conception des fonctionnalités Snap, telles que le système Snapstreaks, a soulevé d’importantes inquiétudes quant à sa nature intrinsèquement addictive et potentiellement dangereuse. Les employés de l’entreprise ont exprimé des doutes quant à la manière dont ces fonctionnalités pourraient contribuer à la dépendance des utilisateurs, en particulier des plus jeunes. Une communication interne datant de janvier 2017 révélait que certains collaborateurs s’étaient demandé s’il était opportun de développer davantage de fonctionnalités similaires qui augmenteraient l’attractivité et la dépendance de l’application.
Dans une autre communication, un membre du personnel a noté que « la plupart des soi-disant « streakers » représentent notre noyau démographique. Cette affirmation souligne l’importance de ces fonctionnalités pour maintenir les utilisateurs actifs, mais soulève également des questions sur l’éthique de telles démarches dans un contexte où la protection des utilisateurs, et notamment celle des mineurs, doit être une priorité absolue.
Une analyse de l’impact de Snapstreaks, présentée en octobre 2019, a souligné à quel point ces fonctionnalités rendent difficile la « déconnexion même pour une journée » des utilisateurs. Cette observation reflète une prise de conscience interne croissante du caractère addictif de la conception de l’application et suggère que l’entreprise pourrait être consciente des conséquences négatives de ses choix de conception.
Dans un contexte où Snap est confronté à des appels en faveur de mesures de sécurité et d’une responsabilité sociale accrues, les communications internationales semblent indiquer que les préoccupations concernant la conception et l’utilisation convaincantes de l’application n’ont pas reçu suffisamment d’attention. Alors que l’entreprise promeut un récit centré sur la connexion et l’interaction entre les utilisateurs, une tension émerge entre ces objectifs et la nécessité de garantir des expériences sûres et saines aux jeunes utilisateurs de la plateforme.
#Les #employés #Snap #étaient #courant #des #problèmes #sécurité #des #enfants #dans #lapplication #LISEZ #MAINTENANT
