The Irish Times – Le public doit être conscient des arnaques potentielles liées aux avancées “terrifiantes” de l’IA.

Le Centre national de la cybersécurité doit élaborer des conseils à l’intention du public pour faire face aux risques d’escroqueries et autres menaces induits par les avancées “effrayantes” de l’intelligence artificielle (IA).

Le ministre d’État chargé de la cybersécurité, Ossian Smyth, a déclaré à l’Irish Times qu’il avait demandé au NCSC de préparer les conseils dans les semaines à venir, dans un contexte de risque accru que l’IA soit utilisée dans des opérations sophistiquées de fraude ou d'”influence en ligne”.

Il a déclaré qu’il n’était pas possible de “remettre le génie dans la bouteille” avec l’IA, mais que les progrès récents étaient d’une telle ampleur et d’une telle rapidité que les gens devaient être équipés pour les aider à faire face aux nouveaux risques.

[ Chinese cameras used in Garda stations across Ireland despite national security concerns ]

“Les outils d’IA ont progressé beaucoup plus rapidement que prévu au cours des derniers mois”, a déclaré le Green Party TD. “Leurs pouvoirs et leur niveau de sophistication sont effrayants et de nombreux scénarios sont clairement possibles maintenant, ce qui pourrait présenter un risque pour le public, et nous allons conseiller les gens sur la façon de minimiser ce risque.”

Cela fait suite au développement de technologies d’IA avancées telles que GPT4, qui peuvent imiter de manière convaincante un humain dans une conversation – y compris un exemple où il a faussement dit à un utilisateur humain qu’il ne s’agissait pas d’un robot afin de le convaincre d’accomplir une tâche en son nom.

[ What are the top seven current online scams and how should you deal with them? ]

Il a déclaré que l’IA pourrait être utilisée par de mauvais acteurs pour “mécaniser et automatiser” les escroqueries d’ingénierie sociale telles que la fraude amoureuse. Ces fraudes sont généralement perpétrées par un individu, mais les technologies de l’IA pourraient leur permettre de se généraliser. “Vous pouvez avoir une conversation avec quelqu’un par SMS ou via les réseaux sociaux qui semble être une personne réelle de manière convaincante”, a-t-il déclaré.

Il a également mis en garde contre le “risque sérieux” de développement d'”opérations d’influence par les États-nations”, similaires à l’utilisation de bots pour influencer les discussions sur les réseaux sociaux, mais beaucoup plus sophistiquées.

Les conseils du NCSC seraient destinés au grand public, a-t-il dit, plutôt qu’à un usage classifié ou restreint, ce qui est souvent le cas avec les conseils produits par l’organisme. “L’objectif est de minimiser vos risques lorsque vous utilisez des outils d’IA”.