IA: La réglementation est essentielle pour freiner la surveillance et la désinformation, selon les experts

Dans un communiqué publié ce vendredi, une quinzaine de rapporteurs et spécialistes* de l’ONU affirment que les nouvelles technologies, dont les systèmes de surveillance biométrique basés sur l’intelligence artificielle, sont de plus en plus utilisées “dans des contextes sensibles”, à l’insu ou sans le consentement de la personne.

Des lignes rouges doivent être tracées de toute urgence

“Des lignes rouges réglementaires strictes et urgentes sont nécessaires pour les technologies qui prétendent réaliser des émotions ou une reconnaissance de genre”, ont déclaré les experts**, dont Fionnuala Ní Aoláin, rapporteur spécial sur la promotion et la protection des droits de l’homme dans la lutte contre le terrorisme.

Les experts, nommés par le Conseil des droits de l’homme, ont condamné la situation déjà “alarmante” utilisation de logiciels espions et de technologies de piratagesurveillance avec des défenseurs des droits humains et des journalistes, “souvent sous prétexte de prendre des mesures de sécurité nationale et de lutte contre le terrorisme”.

Ils ont également réclamé un règlement pour faire face au développement vertigineux de l’intelligence artificielle générative, qui permet aux production massive de faux contenus en lignepromouvant la désinformation et les discours de haine.

Conséquences dans le monde réel

Les experts ont souligné la nécessité de veiller à ce que ces systèmes n’exposent pas davantage les individus et les communautés à des violations des droits fondamentaux ; plus précisément, par l’expansion et l’abus des pratiques de surveillance qui violer le droit à la vie privée et que faciliter la commission de violations gravesy compris les disparitions forcées, et la discrimination.

Ils ont également exprimé leur inquiétude quant au respect de la liberté d’expression, de pensée et de manifestation pacifique, et quant à l’accès aux droits économiques, sociaux et culturels essentiels, ainsi qu’aux services humanitaires.

“Les technologies et applications spécifiques où il n’est pas possible de réglementer les plaintes relatives aux droits de l’homme doivent être complètement évitées”, ont déclaré les experts.

Ils se sont également inquiétés du fait que le développement de l’intelligence artificielle générative est dirigé par un petit groupe de joueurs puissantsy compris les entreprises et les investisseurs, sans exigences adéquates pour effectuer une diligence raisonnable en matière de droits de l’homme ou consulter les personnes et les communautés concernées.

En outre, les experts ont noté que le travail crucial de régulation interne, à travers la modération des contenus, est souvent effectué par des individus en situation d’exploitation par le travail.

plus de transparence

“Une réglementation s’impose d’urgence qui assure la transparence, alerte les gens lorsqu’ils rencontrent des médias synthétiques (formats ou contenus numériques créés ou modifiés par l’intelligence artificielle), et informe le public sur les données et les modèles de formation utilisés », ont noté les experts.

Ils ont également réitéré leurs appels à la prudence dans l’utilisation du numérique dans le cadre des crises humanitairesde la collecte de données à grande échelle, y compris la collecte de données biométriques hautement sensibles, à l’utilisation de technologies avancées de surveillance sélective.

“Nous appelons à la modération dans l’utilisation de ces mesures jusqu’à ce que les implications soient pleinement comprises pour les droits de l’homme et de solides garanties de protection des données sont mises en place », ont-ils déclaré.

Cryptage et confidentialité, primordiaux

Ils ont souligné la nécessité de garantir des solutions techniquesy compris un cryptage solide de bout en bout et un accès illimité aux réseaux privés virtuels, et sécuriser et protéger les communications numériques.

“L’industrie et les États doivent être tenus responsables, entre autres, de leur impact économique, social, environnemental et sur les droits de l’homme”, ont-ils déclaré. “La prochaine génération de technologies ne doit pas reproduire ou renforcer les systèmes d’exclusion, de discrimination et d’oppression.”

*Les rapporteurs spéciaux font partie de ce qu’on appelle Procédures spéciales du Conseil des droits de l’homme.Les Procédures spéciales, le plus grand organe d’experts indépendants du système des droits de l’homme des Nations Unies, est le nom général des mécanismes d’enquête et de surveillance indépendants du Conseil qui traitent de situations nationales spécifiques ou de questions thématiques dans toutes les régions du monde. . Les experts des procédures spéciales travaillent sur une base volontaire ; ils ne font pas partie du personnel de l’ONU et ne reçoivent pas de salaire pour leur travail. Ils sont indépendants de tout gouvernement ou organisation et fournissent leurs services à titre individuel.

**Les experts : Fionnuala Ní Aoláin, rapporteur spécial sur la lutte contre le terrorisme et les droits de l’homme; Irène Khan, rapporteur spécial sur la liberté d’opinion et d’expression; Aua Baldé (présidente-rapporteuse), Gabriella Citroni (vice-présidente), Angkhana Neelapaijit, Grażyna Baranowska, Ana Lorena Delgadillo Pérez, Groupe de travail sur les disparitions forcées ou involontaires; Ana Brian Nougrères, rapporteur spécial sur le droit à la vie privée; Marie Lawlor, rapporteur spécial sur les défenseurs des droits de l’homme; Clément Nyaletsossi Voule, rapporteur spécial sur les droits à la liberté de réunion pacifique et d’association; Pichamon Yeophantong (président), Damilola Olawuyi (vice-présidente), Fernanda Hopenhaym, Elżbieta Karska et Robert McCorquodale, Groupe de travail sur les entreprises et les droits de l’homme; y Ashwini KP, rapporteur spécial racisme et discrimination raciale.