L’intelligence artificielle doit « dormir » et « rêver » pour éviter un « oubli catastrophique »

La Intelligence artificielle (IA) Ils devraient avoir la capacité de dormir et de rêver comme des êtres humains pour éviter qu’ils ne provoquent des « phénomènes catastrophiques » qui entraînent des erreurs dans les tâches qui leur sont assignées ou mettent même en danger l’humanité.

C’est ce qu’a prévenu une équipe de scientifiques de l’Université de Catane en Italie dans un nouvelle étude dans lequel Ils proposent de créer une IA capable de reproduire le comportement humain afin que vous puissiez apprendre à effectuer des tâches mieux que les modèles qui ne prennent pas le temps de « se reposer ».

“Nous proposons un apprentissage consolidé veille-sommeil (WSCL), une stratégie d’apprentissage qui exploite la théorie complémentaire des systèmes d’apprentissage et les phases veille-sommeil du cerveau humain pour améliorer les performances des réseaux neuronaux profonds pour les tâches de classification visuelle dans des environnements d’apprentissage continu”, ont écrit les chercheurs.

Twitter a bloqué les recherches sur Taylor Swift parce qu’ils diffusaient de fausses photos pornographiques créées avec l’IA

Les scientifiques pensent ainsi qu’il serait possible d’éviter un phénomène appelé « oubli catastrophique », qui se produit lorsqu’un modèle d’IA à qui on a appris de nouvelles tâches oublie tout ce qu’il a appris.

Lorsque les modèles d’IA apprennent une nouvelle tâche, Ils ont une fâcheuse tendance à tout oublier brusquement et complètement. ce qu’ils ont appris auparavant. Fondamentalement, ils effacent les données passées et ajoutent de nouvelles connaissances.

Les chercheurs ont mené une expérience pour démontrer « l’importance du rêve » et ont noté une « amélioration significative des performances ».

Tout comme les humains forment des souvenirs à long terme pendant leur sommeil, les chercheurs ont découvert que l’IA se souvient mieux des tâches qui lui sont assignées après une phase de repos.

Plus proche de Terminator : OpenAI a approuvé l’utilisation de ChatGPT pour l’armée américaine

Les modèles d’IA ont été entraînés sur des ensembles de données pendant une phase de « veille » avant de passer à des périodes de « sommeil ». Pendant la période de sommeil, On leur a montré des photos de ce qu’ils avaient appris pour les aider à se souvenir.

Il y a un an, dans une étude publiée dans la revue scientifique Biologie computationnelle PLOSun groupe de scientifiques a développé comment entraîner l’intelligence artificielle pour simuler le fonctionnement d’un cerveau humain, et spécifiquement le rôle du sommeil, et être capable de se souvenir d’activités sans oubli catastrophique.

“Une fois qu’ils ont été formés correctement, il est très difficile de leur apprendre une tâche complètement nouvelle, et si vous parvenez à entraîner la nouvelle tâche, vous finissez par endommager l’ancienne en mémoire”, a déclaré le co-auteur de l’étude et chercheur à l’Institut. Institut d’informatique, Académie tchèque des sciences, Pavel Sanda.

De cette manière, quand ils ont accepté une tâche et passent à la suivante, ils finissent par oublier le premierquelque chose qui ne se produit pas dans le cerveau humain grâce à la phase de sommeil paradoxal, qui reprend ces souvenirs et évite un « oubli catastrophique ».

Un soulagement pour les humains : nous sommes moins chers que l’IA dans la plupart des métiers (pour l’instant)

Parce que le sommeil améliore l’apprentissage en permettant « la réactivation spontanée de schémas de mémoire précédemment appris », les chercheurs pensent que cette technique peut être appliquée à l’IA.

Malgré les résultats positifs, certains experts ne croient pas que l’imitation du cerveau humain soit la voie à suivre pour le développement de l’IA.

L’expert Andrew Rogoyski a déclaré dans Nouveau scientifique: “Le cerveau humain ne doit pas être considéré comme l’architecture définitive de l’intelligence. C’est le résultat de millions d’années d’évolution et d’une gamme inimaginable de stimuli. “Nous pouvons développer des IA qui ont des structures complètement différentes de celles de leurs concepteurs biologiques.”

ds