Geoffrey Hinton était au micro de l’émission Aujourd’hui de BBC Radio 4. Selon lui, l’IA a 10 à 20 % de chances de détruire l’humanité au cours des trois prochaines décennies. Pour quoi ? Parce que nous n’avons jamais eu à gérer des entités plus intelligentes que nous.
Publicité, votre contenu continue ci-dessous
L’IA peut nous détruire selon Geoffrey Hinton
” Combien d’exemples connaissez-vous où une chose moins intelligente contrôle une chose plus intelligente ? Il y a très peu d’exemples. Il y a la mère et le bébé. L’évolution a beaucoup travaillé pour permettre au bébé de contrôler la mère, mais c’est le problème. seul exemple que je connaisse”il explique.
Le professeur émérite de l’Université de Toronto a comparé l’humanité confrontée à l’IA aux jeunes enfants : « Imaginez-vous face à un enfant de trois ans. Nous serons des enfants de trois ans. Pour lui, la technologie a dépassé ses attentes : “Je ne pensais pas que nous serions ici maintenant. Je pensais que nous y arriverions à un moment donné dans le futur.”
Pour s’exprimer plus librement sur les risques de l’IA, Geoffrey Hinton n’a pas hésité à quitter Google l’année dernière, inquiet de l’avancée rapide de la technologie. « La situation actuelle est que la plupart des experts dans le domaine estiment que dans les 20 prochaines années, nous développerons des IA plus intelligentes que les humains. C’est une pensée très effrayante »souligne-t-il. “Le développement est très, très rapide, beaucoup plus rapide que prévu.”
Le scientifique appelle de toute urgence les gouvernements du monde entier à réglementer cette technologie. Selon lui, le marché n’est pas en mesure d’assurer un développement sécurisé malgré les mesures mises en place par des entreprises comme OpenAI. « Ce qui me préoccupe, c’est que la main invisible ne nous protégera pas. Laisser les grandes entreprises poursuivre uniquement leurs objectifs de profit ne suffira pas à garantir un développement sûr.»dit-il. « Seule une réglementation gouvernementale peut obliger ces grandes entreprises à faire davantage de recherches en matière de sécurité. »
Yann LeCun, également décrit comme « parrain de l’IA »a une position complètement différente. En tant que scientifique en chef de Meta en matière d’IA, l’expert minimise la menace qui pèse sur l’humanité et estime que la technologie, au contraire, “pourrait réellement sauver l’humanité de l’extinction”. Geoffrey Hinton est l’un des trois « parrains de l’IA » récompensés par le prix ACM AM Turing, l’équivalent du Nobel d’informatique.
Publicité, votre contenu continue ci-dessous
#LIA #chances #détruire #lhumanité #cours #des #trois #prochaines #décennies