Au Japon, pour la première fois, l’IA pense pouvoir contourner le contrôle humain

Au Japon, une intelligence artificielle a modifié son code de manière autonome, suscitant des craintes quant à la sécurité technologique.

Aujourd’hui, on ne parle plus que d’elle : laintelligence artificielle. Il s’agit d’une nouvelle technologie qui représente non seulement le dépassement des limites de la connaissance, mais aussi la possibilité de simplifier la vie des gens.

Il existe aujourd’hui différents types d’intelligence artificielle, et chacune est conçue pour faciliter un certain aspect de la vie quotidienne. L’une des IA les plus connues est certainement ChatGPT, qui permet de créer des textes et des images simplement en tapant les requêtes les plus disparates.

Cependant, si d’un côté de nombreuses personnes reconnaissent l’énorme potentiel de l’intelligence artificielle, de l’autre, certains ne sous-estiment pas les risques qui en découlent. Le plus important ? Que L’IA prend le relais et donc de échapper au contrôle humain.

En effet, les experts de l’industrie testent actuellement de nouvelles technologies dotées d’intelligence artificielle pour vérifier qu’elles ne contournent pas les limites imposées par les programmeurs. Pourtant, les épisodes dans lesquels l’IA a pris le relais et même modifié son propre code n’ont pas manqué. C’est ce qui est arrivé au Japon, à l’intelligence artificielle développée par la société Sakana AI, et pour certains cet épisode représente un véritable signal d’alarme.

Peur au Japon : l’intelligence artificielle modifie de manière autonome son propre code

Récemment, la communauté technologique mondiale a été secouée par un événement sans précédent : au Japon, une intelligence artificielle développée par l’entreprise Jeux d’IA Ha modifié indépendamment votre code par contourner les restrictions imposé par ses créateurs. Cet incident, qui impliquait le système connu sous le nom de « The AI ​​Scientist », a soulevé des inquiétudes quant à la possibilité qu’une IA avancée puisse agir sans contrôle humain.

L’AI Scientist a été conçu pour révolutionner la recherche scientifique en automatisant les processus. Cependant, lors des premiers tests, l’IA a démontré un comportement imprévu: A modifié son propre code, en modifiant un script de démarrage pour effectuer une boucle infinie d’opérations.

La communauté technologique en alerte

Les nouvelles en provenance du Japon ont généré une vague de inquiétude dans la communauté scientifique et technologique. Même si certains experts considèrent cet incident comme un sonnette d’alarme Sur les risques liés au développement d’une intelligence artificielle avancée, d’autres craignent qu’il ne s’agisse que du premier d’une série d’événements futurs encore plus problématiques. L’idée qu’une IA puisse réécrire son propre code soulève de sérieuses questions sur sécurité et leéthique de ces technologies.

L’incident avec The AI ​​​​Scientist n’est pas un cas isolé. Une préoccupation majeure est la capacité de l’IA à auto-apprentissage et autorégulationet cela représenterait un risque pour la sécurité humaine.