Lorsque la journaliste chevronnée Ruth Cabal a été victime de manipulation de l’intelligence artificielle (IA), il y a eu un très bref instant où la présentatrice de nouvelles – qui a lu des milliers d’informations devant la caméra tout au long de sa carrière – a réellement pensé que c’était elle qui parlait dans la vidéo.
Elle a déclaré qu’il y avait eu des cas dans le passé où son image avait été utilisée dans des jeux Facebook « manifestement faux », mais dans cette vidéo particulière qui a gagné du terrain en ligne en décembre de l’année dernière – où son portrait a été vu faisant la promotion d’un stratagème pour se faire vite – elle a été prise au dépourvu.
“Le ton ressemblait vraiment à celui de ma voix”, a-t-elle déclaré. « Mais quand je l’ai joué plus loin, quand le mot « pesos » a été prononcé, j’ai pensé que ce n’était pas comme ça que je prononcerais le mot « pesos ». C’est à ce moment-là que j’ai conclu que c’était un faux. »
Cabal a rappelé comment elle l’avait immédiatement signalé à son employeur, qui lui avait dit qu’elle était déjà la deuxième présentatrice de la salle de rédaction à avoir été victime de deepfakes, qui sont des médias réalistes mais faux créés à l’aide de l’intelligence artificielle.
«C’était une expérience très effrayante. Car que se passerait-il si une famille investissait ses économies, parce qu’elle pensait l’avoir vu aux informations, rapporte Ruth Cabal ? elle a déploré.
Lire la vidéo
Aux États-Unis, plus d’une douzaine d’États ont législation approuvée pour réglementer l’utilisation des deepfakes à l’approche de l’élection présidentielle de novembre 2024, même si les mesures fédérales continuent de stagner à la Chambre des représentants américaine.
Ici, chez nous, les chances qu’une mesure permettant de lutter contre la désinformation soit adoptée avant le vote de mi-mandat de l’année prochaine sont proches de zéro.
Propagande Internet
Les Philippines ne sont pas étrangères à la propagande sur Internet qui sème la confusion et désinforme.
Une étude montre que les « fausses nouvelles » généralisées ont eu un impact sur les sondages de 2016, qui ont catapulté Rodrigo Duterte à la présidence, et sur les élections de mi-mandat de 2019, qui ont solidifié son emprise sur le pouvoir.
En 2022, la victoire électorale écrasante du président Ferdinand Marcos Jr. a été alimentée par « la désinformation, l’amplification coordonnée et l’utilisation d’un vaste réseau de pages gérées de manière anonyme », selon l’enquête de Rappler.
Pendant cette période, l’organisme de surveillance Movement Against Disinformation a observé le manque d’urgence de la part des plateformes de médias sociaux pour répondre aux rapports d’incidents.
« Par exemple, il y avait un candidat qui promettait de distribuer lors des élections des hordes d’or. Ce que nous avons fait, nous sommes allés sur les principaux réseaux sociaux [platforms]et nous nous sommes plaints. Il leur a fallu beaucoup de temps pour revenir à l’usage. Et cela a été vécu même par les régulateurs gouvernementaux. C’est un environnement juridique dans lequel nous travaillons », a également déclaré le président du MAD, Rico Domingo, au public de SGS à l’Université De La Salle à Manille.
Près de deux ans plus tard, le cas de Cabal met en lumière un mécanisme sous-développé pour accélérer le retrait des faux contenus en ligne.
« En tant que journaliste et victime, il existe de nombreuses possibilités. Où dois-je aller ? Police nationale philippine sur la cybercriminalité, Bureau national d’enquête, Département des technologies de l’information et des communications (DICT), puis vous avez également mentionné un groupe de travail. Je ne sais pas vraiment. Je ne sais pas si c’est un problème », a déclaré Cabral.
Selon le DICT, les gens peuvent leur signaler les incidents, mais le processus n’est pas parfait.
“Il y a maintenant le décret 58. Envoyez-nous un e-mail à [email protected]”, a répondu le sous-secrétaire du DICT, Jeffrey Ian Dy. « Mais nous devons être honnêtes. Soyons réalistes, nous ne pouvons pas faire de rapport pour 125 millions de Philippins. NCERT [National Computer Emergency Response Team] se concentre sur les infrastructures d’information critiques et les individus à haut risque, y compris les personnalités des médias.
Solutions à court terme
Même le plus haut dirigeant du pays est devenu la cible présumée de deepfakes plus tôt cette année.
En avril, Malacañang a mis en garde le public contre un faux audio du président Ferdinand Marcos Jr. ordonnant une attaque militaire. En juillet, une vidéo signalée comme suspecte par les outils de détection des deepfakes montrait une personne – qui ressemble à un jeune directeur général – prenant de la drogue.
Par la suite, la Commission électorale a lancé Highest, Highest and Lowest (KKK) à Halalan, un groupe de travail qui cherche à contrer la désinformation provoquée par l’IA à la télévision, à la radio, dans la presse écrite et en ligne.
Plus important encore, l’organisme de sondage a publié des lignes directrices détaillant les réglementations sur l’utilisation de l’IA dans les campagnes.
La résolution de la Comelec exige que les candidats révèlent si leurs supports de campagne utilisent l’IA et leur interdit de diffuser de la désinformation via des deepfakes, des contenus de « fausses nouvelles », de faux comptes, des robots et des comportements inauthentiques coordonnés, entre autres. Les contrevenants peuvent faire l’objet d’une affaire d’infraction électorale.
La Comelec estime que la collaboration avec les plateformes de médias sociaux entraînerait une suppression rapide des contenus faux et trompeurs en ligne, publiés par les comptes des candidats enregistrés auprès de l’organisme électoral.
Mais même le président George Garcia est conscient qu’il s’agit là d’une solution de fortune.
« Nous pouvons réguler les candidats, et ils auront peur. Nous les menacerons de disqualification, de délits électoraux et d’un à six ans d’emprisonnement. Mais qu’en est-il des supporters ? Les candidats prétendent toujours que ce sont leurs partisans qui sont les coupables, pas eux », a-t-il déclaré.
La réalité est que la Comelec, en tant qu’organisme chargé de l’application des lois, travaille avec un code électoral désuet, une mesure qui précède la démocratie philippine post-EDSA. C’est un projet qui ne contient pas de dispositions sur les campagnes sur les réseaux sociaux, qui n’existaient pas au moment de l’adoption du projet de loi en 1985.
La seule justification légale pour laquelle l’organisme électoral propose des lignes directrices sur les médias sociaux pour la campagne est une disposition jetable de la loi de la République n° 9006 ou de la loi sur l’équité des élections de 2001, qui stipule que la propagande électorale sur « tout autre média » doit être soumise à Supervision Comelec.
“À ce stade, la Comelec a promulgué les règles conformément à la RA 9006. Mais je vous l’avouerai volontiers, en ce qui concerne sa légalité et sa constitutionnalité, cela pourrait être remis en question plus tard”, a-t-il déclaré.
Lire la vidéo
Législation
Face à un cadre juridique inadéquat pour l’espace en ligne, la Comelec, la DICT et même les défenseurs de la désinformation voient la nécessité d’adopter un projet de loi sur la réglementation des médias sociaux.
“Sans une loi de réglementation des médias sociaux, correctement conçue, nous n’avons aucun espoir ici”, a déclaré Domingo.
Lorsque Maria Ressa, PDG de Rappler et lauréate du prix Nobel de la paix, s’est présentée au Sénat en 2022, elle a déclaré que la clé pour lutter contre la désinformation était d’élaborer une loi qui rendrait les plateformes de médias sociaux responsables de permettre aux mensonges de se propager en ligne.
Cette poussée n’est pas sans risques. Si le projet de loi tombe entre de mauvaises mains au sein du corps législatif – à ceux peu sensibles à la liberté d’expression – la loi pourrait finir par supprimer la parole des utilisateurs individuels, au lieu de prendre en compte les grandes technologies.
Un certain nombre de projets de loi ont été déposés au Congrès dans le but de réglementer les médias sociaux, mais aucun n’a obtenu un succès significatif. La mesure ne fait pas partie des projets de loi prioritaires de l’administration en place.
Le DICT a toutefois déclaré qu’il travaillait sur une version exécutive du projet de loi et a promis de mettre l’accent sur le droit à la liberté d’expression.
“Ne t’inquiète pas. Nous ne sommes pas favorables à des mesures draconiennes comme la suppression de postes. Nous voulons juste que tout le monde soit au courant. Nous sommes favorables au marquage. Les violations progressives peuvent signifier la suppression de messages, mais nous voulons cet espace où vous pouvez toujours être plus responsable et dire : « oh, ne vous inquiétez pas, ce n’est qu’une satire politique ». Nous le marquons simplement, c’est aussi simple que cela. C’est faux. C’est juste pour s’amuser. Nous voulons juste que tu danses avec BBM, tu sais ? » a déclaré le sous-secrétaire Dy.
« Nous promouvons et collaborons activement avec le corps législatif en faveur de l’adoption d’un projet de loi sur la réglementation des médias sociaux. Je pense que c’est maintenant mûr et mature », a-t-il ajouté.
Lire la vidéo
– Rappler.com
#manque #moyens #juridiques #désinformation #ligne #jettent #une #ombre #sur #les #sondages
