Tromperies dangereuses et deepfakes : nouveau projet de recherche à l’OTH Amberg-Weiden
16 janvier 2025 Amberg / Weiden.
Depuis la sortie de Chat GPT en novembre 2022, le monde est fasciné par l’intelligence artificielle (IA) et les possibilités qu’offrent les outils basés sur l’IA. Depuis, les systèmes d’IA se sont considérablement développés et deviennent de plus en plus puissants. Mais à mesure que le potentiel de ces systèmes augmente, la possibilité d’utiliser l’IA à des fins déloyales augmente également : les fausses nouvelles peuvent se propager efficacement sur tous les canaux et les cyberattaques peuvent être personnalisées, automatisées et affinées par l’IA afin que même les attaquants les moins expérimentés puissent réussir. à grande échelle peuvent mener des attaques.
Afin de relever ces défis, l’OTH Amberg-Weiden et l’Office d’État pour la sécurité de l’information (LSI) ont lancé le 16 janvier 2025 le projet de recherche « HeCKI – Défis pour la cybersécurité grâce à l’IA ». Le ministre des Finances et de l’Intérieur, Albert Füracker, a donné le signal de départ officiel à l’OTH à Amberg.
Objectifs et signification du projet
L’objectif du projet est de créer une base scientifique en identifiant et en évaluant systématiquement les nouvelles menaces posées par l’intelligence artificielle afin de développer sur cette base des offres éducatives orientées vers des solutions. Le professeur Clemens Bulitta, président de l’OTH Amberg-Weiden, a souligné : « La souveraineté numérique et la sécurité informatique sont les fondements essentiels d’une transformation numérique réussie de notre société. Nous sommes donc très heureux d’approfondir encore notre partenariat éprouvé avec le ministère d’État des Finances et de l’Intérieur et d’apporter notre expertise au projet de recherche commun « HeCKI ». Notre objectif déclaré est de ne donner aucune chance aux attaquants grâce à notre contribution et de positionner ainsi la Bavière de manière optimale pour une transformation numérique sécurisée.
Au début du projet, le ministre des Finances et de l’Intérieur, Albert Füracker, a souligné l’urgence du projet : « Grâce à l’IA, les vidéos ou les voix peuvent facilement être truquées, ce qui signifie que le ‘truc des petits-enfants’, par exemple, atteint un nouveau stade, dimension dangereuse. Les manipulations, par exemple pour obtenir des données sensibles ou pour diffuser des pièces jointes contenant des « virus », sont plus faciles. En Bavière, nous prenons la sécurité informatique et l’avenir numérique très au sérieux – nous travaillons intensivement pour garantir qu’ils soient toujours sécurisés !
Le professeur Daniel Loebenberger, chef de projet et expert en cybersécurité à l’OTH Amberg-Weiden, explique : « Les capacités croissantes de l’IA nécessitent une conscience médiatique radicalement nouvelle : des textes générés automatiquement à partir de grands modèles de langage et des fausses nouvelles nous inondent tous. chaînes, l’évaluation de l’authenticité se situe actuellement uniquement parmi les consommateurs de médias. ‘HeCKI’ offre une vue d’ensemble des opportunités et des défis actuels, notamment dans la lutte contre les fausses nouvelles, qui évolue constamment en relation avec l’IA.»
Avec le lancement du projet de recherche, l’Office d’État pour la sécurité de l’information franchit une étape importante vers l’optimisation et l’amélioration à long terme des normes de sécurité dans l’État libre de Bavière. « En analysant les opportunités offertes par l’IA aux attaquants potentiels, nous souhaitons obtenir des informations précieuses afin de mieux évaluer les modèles d’attaque et d’en tirer des mesures ciblées et des recommandations d’action. Notre objectif n’est pas seulement d’agir de manière défensive, mais aussi de renforcer de manière proactive la sécurité informatique des systèmes informatiques de Bavière”, déclare Bernd Geisler, président de l’Office d’État pour la sécurité de l’information.
La recherche comme base d’une formation orientée solutions
L’OTH Amberg-Weiden est actif dans la recherche sur l’IA depuis de nombreuses années et propose une large gamme de cours ainsi que de nombreuses initiatives de recherche, regroupées au sein du Centre d’innovation et de compétence pour l’intelligence artificielle (IKKI). En tant que membre de la plateforme de coopération KI Campus Ostbayern, les échanges et la collaboration régionaux sont encouragés. Afin de transmettre ces connaissances de manière ciblée, l’OTH AW peut s’appuyer sur l’expertise du laboratoire des médias e-learning. Celui-ci a été fondé en 2017 dans le cadre du laboratoire d’apprentissage sur la cybersécurité et, sous la direction du professeur Loebenberger, a depuis lors aidé de nombreux experts de toute l’Allemagne à transférer leurs découvertes scientifiques dans des formats d’apprentissage interactifs.
Sensibilisation généralisée aux risques liés à l’IA
Les offres de formation sont utilisées aussi bien à l’OTH AW qu’au LSI et touchent ainsi un large groupe cible. Les nouveaux formats attirent très tôt l’attention sur les divers dangers et les utilisations possibles de l’IA. « HeCKI » sensibilise ainsi non seulement aux risques actuels en matière de cybersécurité, mais positionne également OTH Amberg-Weiden comme un partenaire important des entreprises et des institutions publiques dans le domaine de l’IA et de la cybersécurité.
” dos
Ces sujets pourraient également vous intéresser :
#Neumarktaktuell #Tromperies #dangereuses #deepfakes #nouveau #projet #recherche #lOTH #AmbergWeiden