Les 5 plus grandes menaces de l’IA pour 2024 selon le gourou de la cybersécurité Mikko Hyppönen

Mikko Hyppönen a passé des décennies en première ligne dans la lutte contre les logiciels malveillants. Cet homme de 54 ans a vaincu certains des vers informatiques les plus destructeurs au monde, www.youtube.com/watch?v=lnedOWfPKT0″ data-mce-href=”https://www.youtube.com/watch?v=lnedOWfPKT0″>< span=””>un style = “font-weight: 400;” data-mce-style=”font-weight: 400;”>traqué “font-weight: 400;”> les créateurs du tout premier virus PC et a vendu son propre logiciel depuis son adolescence à Helsinki. un>p>

style = “poids de la police : 400 ; » data-mce-style=”font-weight: 400;”>Dans les années qui ont suivi, il a gagné n>air.com/news/2004/01/virus-hunters-200401″ data-mce-href=” 400 ;” data-mce-style=”font-weight: 400;”>Profils Vanity Fair= “poids de la police : 400 ;” data-mce-style=”font-weight: 400;”>, places parmi les 100 meilleurs penseurs mondiaux de la politique étrangère et rôle de directeur de la recherche chez yle=”font-weight: 400;” data-mce-style=”font-weight: 400;”>WithSecren>< span=””> style = « poids de la police : 400 ; » data-mce-style=”font-weight: 400;”> — le plus grand

Le Finlandais à queue de cheval est également le conservateur du site en ligne -mce-href=”Musée. Pourtant, toute l’histoire de ses archives pourrait être éclipsée par la nouvelle ère technologique : l’ère du « https://thenextweb.com/topic/artificial-intelligence »>xtannotation sans ambiguïté wl-thing” itemid=” intelligence.

“L’IA change tout”, a déclaré Hyppönen à TNW lors d’un appel vidéo. « La révolution de l’IA va être plus grande que la révolution Internet. »

ata-mce-style=”font-weight: 400;”>En tant qu’optimiste autoproclamé, le chasseur de hackers s’attend à ce que la révolution laisse un impact positif. Mais il s’inquiète également des cybermenaces que cela va déclencher. À l’aube de 2024, Hyppönen a dévoilé ses cinq préoccupations les plus urgentes pour l’année à venir. Ils ne viennent pas dans un ordre particulier, même s’il y en a un qui provoque le plus de nuits blanches.

Les chercheurs décrivent depuis longtemps les deepfakes comme les plus crime-researchers-warn” data-mce-href = “https://thenextweb.com/news/deepfakes-are-the-most-worrying-ai-crime-researchers-warn”>utilisation alarmante de l’IA à des fins criminelles, mais les médias synthétiques n’ont toujours pas réalisé leurs prédictions. Pas encore en tout cas.

Ces derniers mois, leurs craintes ont cependant commencé à se concrétiser. enextweb.com/sujet/deepfake”>Les tentatives de fraude deepfake ont augmenté de 3 000 % en 2023, selon recherche d’Onfidoune licorne de vérification d’identité basée à Londres.

Dans le monde de la guerre de l’information, les vidéos fabriquées progressent également. Les deepfakes grossiers de Le président ukrainien Volodymyr Zelensky des premiers jours de l’invasion à grande échelle de la Russie ont récemment été remplacés par des manipulations médiatiques.

Les deepfakes apparaissent également désormais sous forme de simples inconvénients. L’exemple le plus notable a été découvert en octobre, lorsqu’une vidéo est apparue sur TikTok qui prétendait montrer MrBeast proposant de nouveaux iPhones pour seulement 2 $.

Beaucoup de gens reçoivent cette publicité frauduleuse de moi… les plateformes de médias sociaux sont-elles prêtes à gérer la montée des deepfakes de l’IA ? Ceci est un sérieux problème pic.twitter.com/llkhxswQSw

– M.Beast (@MrBeast) 3 octobre 2023

Pourtant, les escroqueries financières qui exploitent des deepfakes convaincants restent rares. Hyppönen n’en a vu que trois jusqu’à présent – ​​mais il s’attend à ce que ce nombre prolifère rapidement. À mesure que les deepfakes deviennent plus raffinés, accessibles et abordables, leur ampleur pourrait augmenter rapidement.

“Cela ne se produit pas encore à grande échelle, mais cela va devenir un problème dans très peu de temps”, dit Hyppönen.

Pour réduire le risque, il suggère une défense à l’ancienne : des mots sûrs.

Imaginez un appel vidéo avec des collègues ou des membres de votre famille. Si quelqu’un demande des informations sensibles, comme un transfert d’argent ou un document confidentiel, vous demanderez le mot de sécurité avant de répondre à la demande.

“Pour le moment, cela semble un peu ridicule, mais nous devrions quand même le faire”, conseille Hyppönen. « Mettre en place un mot de sécurité dès maintenant est une assurance très bon marché contre le moment où cela commencera à se produire à grande échelle. C’est ce que nous devrions retenir dès maintenant pour 2024. »

Même si leur nom ressemble à des deepfakes, les escroqueries profondes n’impliquent pas nécessairement des médias manipulés. Dans leur cas, le « profond » fait référence à l’ampleur massive de l’arnaque. Cet objectif est atteint grâce à l’automatisation, qui peut étendre les cibles d’une poignée à une infinité.

Ces techniques peuvent dynamiser toutes sortes d’escroqueries. Escroqueries à l’investissement, escroqueries par phishing, escroqueries immobilières, escroqueries aux billets, escroqueries amoureuses… partout où il y a du travail manuel, il y a de la place pour l’automatisation.

Se souvenir du L’escroc de l’amadou? L’escroc a volé environ 10 millions de dollars à des femmes qu’il a rencontrées en ligne. Imaginez s’il avait été équipé de grands modèles de langage (LLM) pour diffuser ses mensonges, de générateurs d’images pour ajouter des preuves photographiques apparentes et de convertisseurs de langage pour traduire ses messages. Le bassin de victimes potentielles serait énorme.

“Vous pourriez arnaquer 10 000 victimes en même temps au lieu de trois ou quatre”, explique Hyppönen.

Les escrocs d’Airbnb pourraient également en récolter les fruits. Actuellement, ils utilisent généralement des images volées à partir d’annonces réelles pour convaincre les vacanciers d’effectuer une réservation. C’est un processus laborieux qui peut être déjoué par une recherche d’image inversée. Avec GenAI, ces barrières n’existent plus.

“Avec Stable Diffusion, DALL-E et Midjourney, vous pouvez simplement générer un nombre illimité d’Airbnb totalement plausibles que personne ne pourra trouver.”

L’IA écrit déjà des logiciels malveillants. L’équipe de Hyppönen a découvert trois vers qui lancent des LLM pour réécrire le code à chaque fois que le malware se réplique. Aucun n’a encore été trouvé sur les réseaux réels, mais ils ont été publiés sur GitHub – et ils fonctionnent.

À l’aide d’une API OpenAI, les vers exploitent GPT pour générer un code différent pour chaque cible qu’ils infectent. Cela les rend difficiles à détecter. OpenAI peut cependant mettre sur liste noire le comportement du malware.

“Cela est réalisable avec les systèmes d’IA générative d’écriture de code les plus puissants, car ils sont fermés”, explique Hyppönen.

« Si vous pouviez télécharger l’intégralité du grand modèle de langage, vous pourriez l’exécuter localement ou sur votre propre serveur. Ils ne pouvaient plus vous mettre sur liste noire. C’est l’avantage des systèmes d’IA générative fermés.

L’avantage s’applique également aux algorithmes générateurs d’images. Offrez un accès ouvert au code et regardez vos restrictions sur la violence, la pornographie et la tromperie être démantelées.

Dans cet esprit, il n’est pas surprenant qu’OpenAI soit plus fermé que son nom ne l’indique. Eh bien, cela et tous les revenus qu’ils perdraient au profit des développeurs imitateurs, bien sûr.

Une autre préoccupation émergente concerne les exploits Zero Day, qui sont découverts par les attaquants avant que les développeurs n’aient créé une solution au problème. L’IA peut détecter ces menaces, mais elle peut aussi les créer.

“C’est génial de pouvoir utiliser un assistant IA pour trouver les jours zéro dans votre code afin de pouvoir les corriger”, explique Hyppönen. « Et c’est horrible quand quelqu’un d’autre utilise l’IA pour trouver des jours zéro dans votre code afin de pouvoir vous exploiter. Nous n’en sommes pas encore exactement là, mais je crois que ce sera une réalité – et probablement une réalité à court terme.

Un étudiant travaillant chez F-Secure a déjà démontré la menace. Dans le cadre d’un travail de thèse, ils ont reçu des droits d’utilisateur réguliers pour accéder à la ligne de commande sur un ordinateur Windows 11. L’étudiant a ensuite entièrement automatisé le processus de recherche de vulnérabilités pour devenir l’administrateur local. F-Secure a décidé de classer la thèse.

« Nous n’avons pas été responsables de publier la recherche », déclare Hyppönen. “C’était trop bon.”

F-Secure intègre l’automatisation à ses défenses depuis des décennies. Cela donne à l’entreprise un avantage sur les attaquants, qui s’appuient encore largement sur des opérations manuelles. Pour les criminels, il existe un moyen évident de combler l’écart : des campagnes de malware entièrement automatisées.

“Cela transformerait le jeu en une bonne IA contre une mauvaise IA”, explique Hyppönen.

Ce jeu devrait bientôt commencer. Lorsque cela se produit, les résultats pourraient être alarmants. Tellement alarmant que Hyppönen classe les logiciels malveillants entièrement automatisés comme la menace de sécurité numéro un pour 2024. Pourtant, une menace encore plus grande se cache au coin de la rue.

Hyppönen a une hypothèse notoire sur la sécurité de l’IoT. Connue sous le nom de loi Hyppönen, cette théorie stipule que chaque fois qu’un appareil est décrit comme « intelligent », il est vulnérable. Si cette loi s’applique aux machines superintelligentes, nous pourrions avoir de sérieux ennuis.

Hyppönen s’attend à être témoin de l’impact.

« Je pense que nous deviendrons le deuxième être le plus intelligent de la planète au cours de ma vie », dit-il. “Je ne pense pas que cela se produira en 2024. Mais je pense que cela se produira de mon vivant.”

Cela ajouterait de l’urgence aux craintes concernant intelligence artificielle générale. Pour maintenir le contrôle humain sur l’AGI, Hyppönen plaide en faveur d’une alignement avec nos objectifs et nos besoins.

« Les choses que nous construisons doivent avoir une compréhension de l’humanité et partager ses intérêts à long terme avec les humains… Les avantages sont énormes – plus grands que jamais – mais les inconvénients sont également plus grands que jamais. »