2024-06-17 22:58:58
Jeudi, l’Agence de cybersécurité et de sécurité des infrastructures a lancé son premier exercice sur table avec plus de 50 experts en IA du gouvernement et de l’industrie au cours d’un exercice de quatre heures pour aider à comprendre et à atténuer les menaces numériques qui pèsent sur les systèmes d’intelligence artificielle.
Dirigé par le Joint Cyber Defense Collaborative, un consortium de dirigeants des secteurs public et privé, l’exercice théorique a simulé un incident de cybersécurité ciblant un système basé sur l’IA. Les participants ont pratiqué les efforts de réponse aux incidents pour atténuer les dommages causés par l’attaque hypothétique, y compris le partage d’informations et la collaboration opérationnelle.
L’exercice était divisé en trois modules et décrivait un scénario hypothétique dans lequel des pirates informatiques seraient capables de contourner un agent de défense IA personnalisé en interne dans le système de messagerie d’une organisation. Un ensemble de participants gouvernementaux ont été exclus des deux premiers modules et inscrits au cours du troisième pour ensuite simuler la manière dont les participants de l’industrie interagiraient et collaboreraient avec les nouveaux entrants après qu’un incident se soit produit.
La mission de cet exercice théorique était de faire prendre conscience de la manière dont les systèmes d’IA peuvent présenter de nouveaux vecteurs de cybermenaces contre les réseaux numériques, d’examiner les réponses actuelles et d’établir des priorités de partage d’informations pour les opérateurs d’infrastructures critiques, les fournisseurs de sécurité et d’autres parties prenantes.
« Cet exercice marque une nouvelle étape dans notre engagement collectif à réduire les risques posés par l’IA. Cela souligne également l’importance de développer et de fournir des produits d’IA conçus avec la sécurité comme priorité absolue », a déclaré la directrice de la CISA, Jen Easterly, dans un communiqué. « En tant que coordinateur national pour la sécurité et la résilience des infrastructures critiques, nous sommes ravis de travailler avec nos partenaires pour tirer parti de cet effort afin d’aider les organisations à sécuriser leurs systèmes d’IA. »
Les résultats de cet exercice de simulation contribueront à éclairer un prochain manuel que la CISA et le JCDC travaillent à publier fin 2024, qui offrira un soutien et des conseils pour les réponses aux cyberattaques basées sur l’IA. L’agence prévoit de mener un deuxième exercice théorique pour tester le playbook après sa sortie.
Amazon Web Services, Cisco, Cranium, HiddenLayer, IBM, Microsoft, NVIDIA, OpenAI, Palantir, Palo Alto Networks, Protect AI, Robust Intelligence, Scale AI, FBI, National Security Agency, Bureau du directeur du renseignement national, ministère de la Défense , et le ministère de la Justice figuraient parmi les agences et entreprises participantes.
“Chez OpenAI, nous croyons fermement que la sécurité est un sport d’équipe. Elle se nourrit de la collaboration et bénéficie énormément de la transparence”, a déclaré Matt Knight, responsable de la sécurité chez OpenAI, dans un discours préparé. “Nous sommes fiers d’avoir participé à l’événement de table. exercice avec JCDC.AI et d’autres leaders de la sécurité – ces collaborations profitent à nos efforts de développement et de déploiement en toute sécurité de la technologie d’IA.
Cet exercice de sécurité sur table fait suite à des initiatives plus vastes de l’administration Biden visant à exploiter la myriade d’utilisations bénéfiques de l’IA tout en atténuant les résultats négatifs. C’était le thème central de l’étude du Bureau de la politique scientifique et technologique de la Maison Blanche. Aspirations de l’IA conférence, également tenue jeudi.
Alors que AI Aspirations présentait des démonstrations de systèmes et des discussions sur les cas d’utilisation à court terme et actuels des systèmes d’IA et d’apprentissage automatique, les dirigeants ont noté que l’IA peut à la fois contribuer à soutenir la posture de cybersécurité moderne et la gêner.
“Pour la sécurité ici chez nous, l’IA sera essentielle pour renforcer la cybersécurité et protéger nos infrastructures critiques”, a déclaré le directeur de l’OSTP, Arati Prabhakar, dans son discours d’ouverture de la conférence.
#CISA #mène #exercice #simulation #sur #table #basé #sur #lIA #avec #gouvernement #lindustrie
1718700240
