Un éminent expert du diabète a été contraint de rassurer ses patients sur le fait qu’ils prenaient le bon médicament après avoir vu une vidéo générée par l’IA le montrant décrivant les personnes qui prescrivent ce médicament comme des “idiots”.
Jonathan Shaw, directeur adjoint du Baker Heart and Diabetes Institute de Melbourne, a été alerté de la vidéo lorsque des patients ont commencé à appeler sa clinique pour demander des informations sur un nouveau traitement dont ils le voyaient promouvoir sur Facebook.
“J’ai cliqué sur le lien et bien sûr, il me ressemblait exactement, mais tous les mots avaient été modifiés”, a déclaré le professeur Shaw.
“J’ai immédiatement pensé aux gens qui pourraient faire confiance à ce que je dis, qui entendent désormais des informations que je ne divulguerais jamais.”
Dans la fausse publicité, l’IA a été utilisée pour créer des représentations très réalistes mais fausses de l’animateur de télévision du petit-déjeuner Karl Stefanovic et du professeur Shaw. (ABC-Sciences)
Dans la vidéo, supprimée depuis par la société mère de Facebook Meta, un faux Karl Stefanovic, présente un faux professeur Shaw, qui poursuit en disant que la metformine, un traitement de première intention contre le diabète de type 2, n’est “pas suffisant pour gérer efficacement le diabète”.
Le professeur Shaw présente ensuite un nouveau traitement qui « stabilise le taux de sucre dans le sang en seulement 24 heures » et « s’attaque à d’autres symptômes du diabète ».
Le produit présenté dans la vidéo est un complément alimentaire appelé Glyco Balance, qui contient des bâtons de cannelle, des baies de berbérine et du melon amer.
On ne sait pas si la société qui fabrique le supplément, le groupe Vellec, est responsable de la vidéo.
Lorsque le professeur Shaw a cliqué sur la fausse publicité, il a été redirigé vers la transcription d’une interview qu’il n’avait jamais faite avec le journaliste d’ABC. Ventes Leigh.
La fausse interview du professeur Shaw a été publiée en ligne en novembre. (ABC-Sciences)
Dans ce document, il aurait déclaré que le supplément avait été développé au Baker Institute avec des fonds gouvernementaux.
La transcription affirme également que la metformine, l’un des médicaments les plus couramment prescrits en Australie, est dangereuse.
Bien que certaines personnes puissent ressentir des effets secondaires liés à la metformine, l’innocuité à long terme du médicament a été bien étudié et établi.
Le professeur Shaw a déclaré qu’il craignait que les fausses publicités n’empêchent les personnes atteintes de diabète de prendre leurs médicaments.
“Ma principale préoccupation n’est pas mon risque personnel ou ma réputation, ma principale préoccupation est la désinformation”, a-t-il déclaré.
“Cela rend beaucoup plus difficile pour les membres ordinaires du public d’identifier des sources fiables.”
Les escroqueries deviennent de plus en plus sophistiquées
Ces dernières années, les progrès de l’IA générative ont entraîné une augmentation significative des fausses escroqueries publicitaires utilisant l’identité de célébrités et d’autres personnalités publiques pour vendre des produits.
Plus tôt cette année, de fausses vidéos du Dr Karl Kruszelnicki approuvant les pilules contre la tension artérielle ont été présentées dans des centaines de publicités publiées sur Facebook et Instagram.
Kathy Sundstrom, responsable de la sensibilisation et de l’éducation à l’association caritative nationale anti-arnaque IDCARE, a déclaré que les escroqueries impliquant des vidéos et des fichiers audio générés par l’IA devenaient « la nouvelle norme ».
“L’année dernière, c’est certainement la pire que nous ayons jamais vue”, a déclaré Mme Sundstrom.
“Comme tout le monde a adopté ChatGPT et d’autres plateformes d’IA, les criminels aussi. Cela facilite leur travail… et lors de l’utilisation de la technologie deepfake, cela facilite [the scam] l’air tellement plus convaincant.”
Le Dr Karl simule son utilisation pour vendre des médicaments douteux sur Facebook et Instagram
L’ABC a tenté de contacter le fabricant de Glyco Balance, Vellec Group, par e-mail et par un numéro de téléphone indiqué sur le site Web du complément alimentaire.
UN Le représentant du service client n’a pas été en mesure de confirmer si le groupe Vellec était responsable des fausses publicités et n’a pas pu fournir d’autres coordonnées de l’entreprise.
Mme Sundstrom a déclaré que la promotion de la désinformation médicale était « très préoccupante » et que des escrocs pourraient utiliser des professionnels de la santé dans de fausses publicités pour échapper aux efforts de Meta visant à supprimer les escroqueries mettant en vedette des célébrités.
“[Cyber] le crime est une industrie mondiale qui pèse des milliards de dollars… Ils sont toujours à la recherche de nouvelles méthodes », a-t-elle déclaré.
Créer une illusion de crédibilité
L’utilisation de professionnels de la santé dans de fausses publicités crée également une illusion de crédibilité, souvent amplifiée par un labyrinthe d’autres contenus frauduleux générés par l’IA.
Dans le cas de Glyco Balance, le deepfake du professeur Shaw semble n’être qu’une partie d’une escroquerie en ligne coordonnée.
Conseils pour vous protéger contre les arnaques
Une recherche en ligne du complément alimentaire fait apparaître une litanie de sites sponsorisés et de vidéos YouTube présentant ce qui semble être des avis et des témoignages de clients générés par l’IA.
Il fait également apparaître un lien vers ResearchGate, un site de stockage où les scientifiques conservent une trace de leurs publications.
Mais l’Université de Stanford a confirmé qu’elle n’avait aucune trace du Dr Richard George en tant que professeur ou membre du personnel.
De même, le site Web Glyco Balance indique que le produit a été développé par des médecins, dont le médecin américain Alan Gaby, spécialisé dans la nutrition.
L’ABC a contacté le Dr Gaby et il a confirmé qu’il n’avait aucune implication ni relation avec le produit.
Les diabétiques trompés
Michael, un homme du nord de la Nouvelle-Galles du Sud, qui n’est à l’aise que de partager son prénom, a entendu parler pour la première fois de Glyco Balance via Facebook.
L’homme de 79 ans, qui a reçu un diagnostic de diabète il y a 10 ans, a décidé de cliquer sur le lien après avoir commencé à ressentir de nouveaux symptômes.
“J’ai cliqué sur l’étiquette “En savoir plus” et derrière elle se trouvait un entretien prolongé avec le Dr Norman Swan.
“De nombreuses pages détaillaient le développement du produit en collaboration avec l’Université d’Oxford et AstraZeneca, tous des noms bien connus.”
Chargement…
Michael a remarqué qu’il y avait une offre limitée dans le temps – cinq bouteilles pour le prix de trois – et a décidé d’essayer le supplément.
Mais il a presque immédiatement regretté son achat.
“J’y suis retourné et j’ai commencé à lire les commentaires… Les gens disaient : ‘J’ai pris un comprimé et je me sens mieux'”, a-t-il déclaré.
“Allez… Tu ne te sens pas mieux avec un seul comprimé.”
Peu de temps après, Michael a demandé un remboursement pour les 340 $ qu’il avait dépensés.
Lutter contre les allégations de santé infondées
Les suppléments Glyco Balance sont censés contenir « des extraits naturels et des vitamines essentielles » formulés pour « soutenir une glycémie et un profil lipidique sains ».
Mais lorsqu’il s’agit de gérer le diabète de type 2, il n’y a que faibles preuves d’un bénéfice possible pour quelques compléments alimentaireset les autorités sanitaires soulignent que les traitements médicaux ne doivent pas être remplacés par des produits de santé non éprouvés.
ABC Health dans votre flux Instagram
Les fausses publicités pour Glyco Balance indiquent également qu’il a été « approuvé » par la Therapeutic Goods Administration (TGA) australienne.
Il n’est cependant pas inscrit au registre australien des produits thérapeutiques et n’a pas été évalué par la TGA pour sa qualité, sa sécurité ou son efficacité.
Un porte-parole de la TGA a déclaré que le régulateur était au courant de l’affaire – ainsi que d’autres impliquant des professionnels de la santé et des célébrités pour des produits de santé – et qu’il « évaluait la situation ».
“Nous sommes préoccupés par la santé et la sécurité des Australiens qui accèdent en ligne à des produits thérapeutiques non approuvés ou à des informations sur ces produits”, a déclaré le porte-parole.
“Il est important que les consommateurs soient conscients qu’il n’existe aucune garantie quant à la sécurité ou à la qualité des produits thérapeutiques dont la fourniture n’est pas approuvée en Australie, comme ceux achetés sur Internet.”
En Australie, les praticiens de la santé et les chercheurs en médecine sont également interdit de promouvoir des produits thérapeutiques ou faire des témoignages à leur sujet.
Le professeur Shaw a déclaré que les fausses escroqueries aux mentions pouvaient potentiellement créer des problèmes juridiques épineux pour les professionnels de la santé qui en étaient au centre.
Le professeur Jonathan Shaw est directeur adjoint du Baker Heart and Diabetes Institute à Melbourne. (Fourni : Baker Institute)
“Nous avons toutes sortes de réglementations qui semblent très bien fonctionner… Puis, tout d’un coup, cela se produit, où tout cela est passé par la fenêtre”, a-t-il déclaré.
Le risque que des professionnels de santé soient usurpés ou que leur voix soit clonée par l’IA empêche déjà certains d’apparaître dans les médias ou de s’engager en ligne, a-t-il ajouté.
À qui revient la tâche de s’attaquer aux deepfakes des médecins ?
Meta a supprimé la fausse vidéo du professeur Shaw le 29 novembre, neuf jours après qu’elle ait été signalée par le Baker Institute. L’institut a déclaré que ce n’est que lorsqu’il a déposé une plainte distincte pour violation de propriété intellectuelle que la vidéo a été supprimée.
“Meta ne veut pas d’escroqueries sur nos plateformes, et nous continuons d’investir dans des outils et des technologies pour les prévenir”, a déclaré un porte-parole de l’entreprise.
Au cours d’un programme pilote entre avril et mai, Meta a supprimé plus de 8 000 escroqueries générées par l’IA et utilisées visages de personnalités publiques.
La société a également testé la technologie de reconnaissance faciale pour lutter contre les escrocs qui utilisent des célébrités pour promouvoir leurs produits.
Meta sévit contre les escroqueries contre les fausses célébrités
Mais jusqu’à présent, cette technologie est limitée à 50 000 personnalités publiques sélectionnées qui doivent adhérer au programme. Entre-temps, davantage de professionnels de la santé sont ciblés.
“Je connais d’autres spécialistes très éminents du diabète à qui cela est également arrivé”, a déclaré le professeur Shaw.
Un porte-parole de la TGA a déclaré que le régulateur travaillait en étroite collaboration avec plusieurs plateformes numériques, dont Meta, pour dissuader et lutter contre la publicité illégale de produits thérapeutiques.
En 2023-2024, la TGA a demandé la suppression de plus de 4 800 publicités illégales de produits thérapeutiques sur diverses plateformes numériques.
Mme Sundstrom a déclaré que l’un des principaux défis pour les entreprises technologiques et les régulateurs était le volume de matériel frauduleux produit et la vitesse à laquelle il était développé.
Elle a décrit la situation comme un « coup de tonnerre », avec de nouvelles publicités apparaissant souvent presque immédiatement après la suppression des autres.
“Quand nous regardons [online content]qu’il s’agisse d’une vidéo ou d’une publication sur Facebook… nous devons avoir ce soupçon par défaut, l’examiner et voir si cela a du sens”, a-t-elle déclaré.
“Cela signifie que vous devez accorder cinq minutes supplémentaires avant d’interagir avec quelque chose.
“C’est fatiguant, mais c’est tellement important.”
#Des #escrocs #utilisent #des #vidéos #médecins #générées #par #lIA #pour #colporter #des #suppléments #des #conseils #santé #nocifs