L’IA ne fonctionnera pas uniquement sur l’informatique
getty
La diversité est une force, surtout lorsqu’il s’agit de conception d’intelligence artificielle. C’est pourquoi des personnes issues de divers horizons professionnels, du droit aux arts créatifs, doivent être impliquées dans la conception et le développement de l’IA. Cependant, de nombreuses équipes qui tentent de se connecter grâce à l’IA se heurtent souvent à une pierre d’achoppement majeure : la confusion.
James Landayprofesseur d’informatique à l’Université de Stanford, a plaidé en faveur de l’IA participative dans un récent podcastdéclarant que la conception holistique des systèmes d’IA dès le départ est désormais la partie la plus importante de la mise en œuvre de l’IA. L’IA ne réussira pas sans des valeurs centrées sur l’humain, a insisté Landay lors de sa discussion avec Lauren Yeeassocié principal chez McKinsey.
Arriver à une IA centrée sur l’humain ne concerne pas seulement les applications, Landay. cofondateur et codirecteur du Institut de Stanford pour l’intelligence artificielle centrée sur l’humain (HAI), a expliqué. “Il s’agit également de la manière dont nous créons et concevons ces systèmes d’IA, des personnes que nous impliquons dans ce développement et de la manière dont nous favorisons un processus plus centré sur l’humain lorsque nous créons et évaluons des systèmes d’IA.”
Le défi de l’IA est son imprévisibilité. Il s’agit d’un type de technologie différent de celui des PC, par exemple, « et il n’est pas aussi fiable à certains égards », a déclaré Landay. En effet, les systèmes d’IA sont probabilistes, qui peuvent fournir des résultats différents en fonction des données qu’ils reçoivent, par opposition à des systèmes déterministes, « où la même entrée vous donne toujours le même résultat. Nous devons penser différemment à la conception des systèmes d’IA.
Introduisez des données dans les modèles probabilistes de l’IA « et recevez des résultats différents, en fonction de la manière dont ces données sont traitées dans cet immense réseau neuronal », a-t-il déclaré. Les modèles probabilistes génèrent également des hallucinations ou des affirmations qui ne sont pas vraies. “Nous ne savons même pas pourquoi ils se produisent, et c’est en fait l’un des problèmes les plus importants concernant ceux qui construisent ces modèles.”
Les systèmes d’IA sont donc plus difficiles à gérer lorsqu’ils tournent mal. “C’est pourquoi nous devons penser à concevoir les systèmes d’IA différemment, car ils vont devenir omniprésents dans notre vie quotidienne, de la santé à l’éducation en passant par le gouvernement”, a déclaré Landay.
« À l’heure actuelle, nous avons principalement des groupes d’ingénieurs, comme des groupes d’IA responsables ou des équipes de sécurité, qui sont censés vérifier les produits avant leur sortie. Malheureusement, il existe de nombreuses incitations à simplement mettre quelque chose à la porte. Et ces équipes n’ont pas vraiment le capital social pour arrêter cela.
Au lieu de cela, une expertise diversifiée doit être intégrée dans le processus de conception et de développement. « Nous avons besoin d’équipes réunissant ces différentes disciplines – les spécialistes des sciences sociales, les humanistes, les éthiciens – car les problèmes seront alors détectés plus tôt. Et en tant que membres de l’équipe, ces personnes disposeront du capital social nécessaire pour réaliser ce changement.
L’un des défis d’une approche ouverte et multidisciplinaire de l’IA est qu’il y a de nombreux chefs dans une cuisine bondée. “Les gens dans différents domaines parlent des langues différentes, donc les mêmes mots peuvent signifier des choses différentes pour différentes personnes”, a prévenu Landay. « Par exemple, je travaille sur un projet avec un professeur d’anglais et quelqu’un de la faculté de médecine. Et ce qu’ils appellent une « étude pilote » n’est pas ce que j’appellerais une « étude pilote ».
Dans le même temps, une telle confusion n’est peut-être pas une si mauvaise chose : elle peut conduire « à de nouvelles idées et à de nouvelles façons de voir les choses », a-t-il expliqué. « Par exemple, des personnes ont travaillé sur de grands modèles de langage et se sont penchées sur le traitement du langage naturel. Et puis ils tombent sur un éthicien ayant une formation en sciences politiques qui remet en question certaines de leurs activités ou la manière dont ils publient leurs logiciels sans garanties particulières.
L’IA remodèle nos entreprises, nos lieux de travail et notre société dans son ensemble. Il est urgent que ce soit un processus collaboratif.
#Pourquoi #tout #monde #des #technologues #aux #créatifs #doit #guider #conception #lIA