Des experts en technologie, dont Elon Musk, ont exhorté les scientifiques à suspendre le développement de l’intelligence artificielle (IA) pour s’assurer qu’elle ne présente pas de risque pour l’humanité.
Les chefs de la technologie, dont le co-fondateur d’Apple Steve Wozniak et le co-fondateur de Skype Jaan Tallinn, ont signé une lettre ouverte exigeant que tous les laboratoires cessent de former des systèmes d’IA pendant au moins six mois.
La prévalence de l’IA a considérablement augmenté ces dernières années, des systèmes tels que le chatbot ChatGPT faisant rapidement partie de la vie quotidienne.
La lettre disait: «Ces derniers mois, les laboratoires d’IA se sont enfermés dans une course incontrôlable pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable.
“Les systèmes d’IA contemporains deviennent désormais compétitifs pour les humains dans les tâches générales et nous devons nous demander : devrions-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérité ?”
Il a ajouté : “Des systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables”.
Les chefs de la technologie ne veulent pas de systèmes d’IA plus puissants que le nouveau chatbot GPT-4 et ont appelé les chercheurs à se concentrer sur la précision, la sécurité et la transparence de la technologie.
La société de technologie américaine OpenAI a publié sa dernière version du chatbot AI ChatGPT plus tôt ce mois-ci.
ChatGPT a été lancé à la fin de l’année dernière et est devenu une sensation en ligne en raison de sa capacité à tenir des conversations naturelles mais aussi à générer des discours, des chansons et des essais.
Le bot peut répondre aux questions de manière humaine et comprendre le contexte des requêtes de suivi, un peu comme dans les conversations humaines. Il peut même admettre ses propres erreurs ou rejeter des demandes inappropriées.
Selon OpenAI, GPT-4 a “des capacités de raisonnement plus avancées” que ChatGPT mais, comme ses prédécesseurs, GPT-4 n’est toujours pas entièrement fiable et peut “halluciner” – un phénomène où l’IA invente des faits ou fait des erreurs de raisonnement.
La lettre indique que l’humanité peut désormais profiter d’un “été d’IA” où elle peut récolter les fruits des systèmes, mais seulement une fois que les protocoles de sécurité ont été établis.
Monde
Les entreprises hôtelières d’Amsterdam condamnent les publicités vous exhortant à…
La lettre ajoutait : « L’humanité peut profiter d’un avenir florissant avec l’IA. Après avoir réussi à créer de puissants systèmes d’IA, nous pouvons maintenant profiter d’un « été de l’IA » dont nous récoltons les fruits, concevons ces systèmes pour le bénéfice de tous et donnons à la société une chance de s’adapter.
“La société a marqué une pause sur d’autres technologies avec des effets potentiellement catastrophiques sur la société.
« Nous pouvons le faire ici. Profitons d’un long été d’IA, ne nous précipitons pas sans préparation dans une chute.
X
