La recherche révèle que les humains ont du mal à détecter le discours Deepfake

Selon une étude récente menée par l’University College London (UCL), les humains ont du mal à détecter le deepfake speech. La technologie Deepfake consiste à échanger la ressemblance d’une personne dans une image ou une vidéo avec celle de quelqu’un d’autre. Il a également été utilisé pour recréer des voix à des fins frauduleuses.

L’étude de l’UCL a utilisé un algorithme de synthèse vocale formé sur des ensembles de données accessibles au public pour développer 50 échantillons de parole deepfake en anglais et en mandarin. Ces échantillons ont ensuite été joués pour 529 participants qui ont tenté de faire la distinction entre les vraies et les fausses voix.

Les résultats ont révélé que les gens n’étaient capables de détecter avec précision le discours deepfake que 73% du temps. Cependant, il y a eu une légère amélioration des taux de détection après que les participants ont reçu une formation sur la façon de reconnaître les voix profondes. Cela met en évidence le défi d’identifier de manière fiable le contenu artificiel.

L’étude soulève la question de savoir si les humains auraient encore plus de mal à détecter le discours deepfake créé à l’aide de la technologie la plus avancée actuellement disponible. Les chercheurs soulignent la nécessité de développer des détecteurs de parole automatisés plus robustes pour atténuer les menaces potentielles.

De plus, cette étude est la première du genre à explorer la capacité des humains à détecter la parole générée artificiellement dans une langue autre que l’anglais. Fait intéressant, les locuteurs anglais et mandarin ont montré des taux de détection similaires, bien que les anglophones aient souvent fait référence à la respiration, tandis que les locuteurs mandarins ont noté la cadence comme méthode de décodage.

Les experts avertissent que les deepfakes pourraient constituer une menace importante, en particulier lors des futures élections. Des plateformes comme TikTok ont ​​déjà pris des mesures pour interdire les deepfakes des jeunes. La disponibilité croissante d’outils sophistiqués pour créer des deepfakes nécessite le développement de stratégies pour lutter contre leur utilisation abusive potentielle tout en reconnaissant les applications positives de cette technologie.