Monsieur Jim Mann. Photo : Billy Wong/Université d’Auckland
Un professeur qui s’est fait passer pour vendre un faux traitement contre le diabète exhorte les Néo-Zélandais à ne pas se laisser prendre au piège des escroqueries.
Sir Jim Mann, un éminent endocrinologue, a été mortifié lorsqu’il a découvert que son visage et sa voix étaient utilisés pour arnaquer des patients atteints de diabète de type 2.
Une vidéo publiée sur Facebook en novembre prétendant être une conférence prononcée par Sir Jim a exhorté les patients à arrêter de prendre le médicament metformine et à acheter à la place un produit gommeux frauduleux.
En réalité, la vidéo utilisait la technologie AI deepfake pour usurper l’identité de sa voix.
“L’IA était si efficace qu’on aurait dit que je prononçais réellement ces mots… Je (l’imitateur) disais qu’il y avait une découverte concernant un nouveau médicament naturel pour le diabète, et que le médicament standard actuel pour le diabète de type 2 était inapproprié et ne devrait plus être utilisé.
Sir Jim craignait que son expertise ne soit utilisée pour nuire à ceux-là mêmes qu’il avait consacré sa vie à aider.
“C’était particulièrement grave parce que cela demandait aux gens d’arrêter de prendre un médicament. Étant donné que j’exerce la médecine du diabète depuis incroyablement longtemps, je suis un client de Diabetes New Zealand… c’était potentiellement dangereux.” recommandation”, a-t-il déclaré.
Stacey Edmonds, une éducatrice en escroquerie deepfake travaillant pour Mastercard, a déclaré que les escroqueries devenaient de plus en plus courantes et avancées.
“Au moins 29 % des Kiwis ont été ciblés par des escroqueries deepfake au cours des 12 derniers mois, et bien sûr, ce ne sont que les personnes qui l’ont signalé et qui savent qu’il s’agit d’un deepfake.”
Les escroqueries pouvaient circuler pendant des jours entiers parce que les utilisateurs des réseaux sociaux ne prenaient pas la peine de les signaler, a-t-elle déclaré.
“Combien de fois avez-vous vu un deepfake et pensé ‘c’est probablement une arnaque’ et l’avez-vous simplement ignoré ?”
Lorsque la vidéo de Sir Jim a été signalée et supprimée, il a déclaré qu’elle était réapparue sous un autre compte.
“Il a été retiré assez rapidement, mais il est ensuite réapparu à plusieurs reprises. Chaque fois qu’il y avait une plainte, elle semblait revenir très rapidement.
“Je n’aurais jamais cru que cela aurait pu arriver. Je ne pensais pas que les gens prenaient la peine de faire ça pour des gens comme moi.”
Photo : 123RF
Mais Edmonds a déclaré qu’il était essentiel que les Néo-Zélandais comprennent que cette technologie existait et était utilisée pour les cibler.
“Le numéro un [tip] c’est savoir qu’ils existent, car une fois que vous savez qu’ils existent, si vous voyez quelque chose et pensez que c’est un peu étrange ou un peu douteux, vous [recognise it]”.
Même si la technologie a considérablement progressé ces dernières années, elle a déclaré qu’il existait encore des moyens d’identifier les usurpateurs.
“Est-ce que leur visage correspond à ce qu’ils disent ? Souvent, la moitié inférieure du visage ne correspond pas, donc cela semble un peu étrange. L’audio semble-t-il un peu bizarre ?
“Donc, vous avez cette combinaison de : le visage correspond-il à la bouche ? La bouche correspond-elle aux mots ? Le son semble-t-il naturel ?”
Ces défauts pourraient être corrigés à l’avenir, mais certaines tactiques anti-arnaque resteraient pertinentes, a-t-elle déclaré.
“Les escroqueries fonctionnent sur l’ingénierie sociale, elles veulent donc vous faire sentir effrayé, excité, inquiet, parce que l’émotion entre en jeu et vous êtes incapable de prendre des décisions rationnelles et critiques. Donc si cela semble trop beau pour être vrai, c’est probablement le cas. “
Sir Jim a exhorté les utilisateurs des médias sociaux à faire preuve de plus de discernement.
“Il devrait y avoir un niveau de suspicion plus élevé. Les gens doivent être conscients qu’il existe un très large éventail d’escroqueries. Il ne s’agit pas seulement de personnes qui tentent d’accéder à votre compte bancaire, vous appellent et vous demandent votre code PIN.
“Un certain nombre de personnes m’ont dit : ‘Mon Dieu, cela a été une bonne leçon pour nous.’ … Que vous ne devriez pas vous laisser tromper simplement parce que vous entendez quelqu’un de connu parler de quelque chose.
#médecin #spécialisé #dans #diabète #pris #dans #une #tromperie #profonde