- Un hacker inconnu a piraté les systèmes internes d’OpenAI
- Cependant, il n’y a eu aucune fuite de données client
- Le hacker était censé capter les conversations des employés, mais il n’a pas eu accès aux ressources de ChatGPT
Au début de l’année dernière, il y a eu un incident de sécurité assez important au cours duquel un pirate informatique s’est introduit dans les systèmes de messagerie internes d’OpenAI. Cela a ensuite suscité des inquiétudes quant à la possibilité que ces vulnérabilités soient exploitées par des États hostiles.
La communication interne est terminée
Le pirate informatique était censé découvrir et obtenir les communications internes entre les chercheurs d’OpenAI, mais n’a pas eu accès aux systèmes de base et aux codes sources de ChatGPT lui-même.
La direction d’OpenAI a informé les employés de l’incident lors d’une réunion à l’échelle de l’entreprise en avril dernier, mais a décidé de ne pas divulguer l’incident ni de contacter le FBI ou la police. La direction de l’entreprise a estimé qu’il n’y avait eu aucune fuite de données de clients ou de partenaires commerciaux et que le pirate informatique n’était apparemment qu’une personne privée, sans lien avec aucun gouvernement étranger.
Mais l’ensemble du piratage a attiré l’attention sur les préoccupations internes concernant les mesures de sécurité de l’entreprise, qui n’est tout simplement pas une entreprise technologique parmi tant d’autres. Certains employés d’OpenAI s’inquiéteraient du fait que des entités étrangères pourraient tenter de pirater, y compris, par exemple, des groupes de piratage liés à la Chine, et pourraient ainsi finir par voler toutes les technologies avancées d’intelligence artificielle dont ils disposent dans OpenAI.
Menace pour la sécurité nationale ?
De facto, selon certaines sources, cela pourrait constituer une menace potentielle pour la sécurité nationale, car même si des outils comme ChatGPT sont actuellement davantage utilisés à des fins scientifiques, de recherche, de travail et de divertissement, le potentiel de leurs futures versions semble être plusieurs fois plus grand. . Le possible vol de technologies aussi avancées et leur éventuelle utilisation abusive par une « puissance hostile » est quelque chose que craignent certains employés actuels et anciens d’OpenAI, comme le rapporte par exemple le New York Times.
L’un d’eux est Leopold Aschenbrenner, ancien responsable de programme technique chez OpenAI. Il a attiré l’attention sur ces préoccupations et ces risques potentiels dans une note adressée au conseil d’administration de l’entreprise, dans laquelle il affirme, entre autres, qu’OpenAI ne protège pas suffisamment ses secrets. Aschenbrenner a ensuite été renvoyé d’OpenAI en raison d’une fuite présumée, qui, selon lui, était politiquement motivée.
“Nous apprécions les inquiétudes soulevées par Léopold pendant son mandat chez OpenAI, mais elles n’ont pas conduit à son départ”, a déclaré la porte-parole d’OpenAI, Liz Bourgeois, au New York Times.
OpenAI est-il suffisamment protégé ?
Les inquiétudes sur les conséquences d’une attaque informatique liée à la Chine peuvent paraître alarmantes au premier abord, mais elles ne sont pas infondées. Lors d’un récent incident, des pirates informatiques chinois ont exploité les systèmes Microsoft pour attaquer les réseaux du gouvernement fédéral américain.
Même si les systèmes d’IA actuels peuvent faciliter la propagation de la désinformation et contribuer à la suppression de certains emplois, il existe jusqu’à présent peu de preuves qu’ils représentent un risque majeur pour la sécurité nationale entre les mains d’une puissance étrangère.
Il convient certainement de noter qu’OpenAI a récemment ajouté à son conseil d’administration Paul Nakasone, un ancien général de l’armée qui dirigeait la National Security Agency et était responsable des cybermenaces. La direction de l’entreprise est donc consciente des risques potentiels de ses systèmes, ou du moins de l’attrait de ses systèmes pour les puissances étrangères, la seule question est de savoir si elle prend des mesures suffisantes et si les inquiétudes d’Aschenbrenner et d’autres sont justifiées.
Auteur de l’article
Adam Homola
Les nouvelles technologies me fascinent depuis mon plus jeune âge. Au fil du temps, mon intérêt à long terme pour les jeux et l’industrie du jeu s’est naturellement ajouté au matériel, aux logiciels, aux services Internet et, à partir de 2022, à l’intelligence artificielle.
2024-07-06 20:00:00
1720304629
#hacker #piraté #les #systèmes #internes #dOpenAI #Les #experts #mettent #garde #contre #les #menaces #sécurité #nationale #SMARTmania.cz