Alan Mislove, chercheur : « Il existe des entreprises technologiques qui ont une influence incroyable sur notre façon de parler et de penser » | Technologie

Alan Mislove est professeur d’informatique à la Northeastern University (États-Unis) et étudie depuis des années le fonctionnement des algorithmes qui régulent nos vies : du prix des vols aux publicités ou à l’octroi de crédits. Son expérience l’a amené à travailler à la Maison Blanche pendant un an et demi pour contribuer à l’élaboration d’une nouvelle législation en la matière. Il y a observé que tous les ministères voulaient savoir comment l’IA allait les affecter. Mislove, 44 ans et née à la Nouvelle-Orléans (USA), Il a également collaboré au décret de Biden sur l’IA, qui est désormais en danger avec le nouveau président Trump. Il vient de passer par Madrid pour intervenir à l’IMC (Internet Measurement Conference), l’une des plus grandes conférences sur les réseaux, le trafic et la sécurité, organisée cette année par IMDEA Networks et l’Université Carlos III.

Demander. Un algorithme peut-il être si important qu’il puisse affecter l’avenir de la démocratie ?

Répondre. Oui, bien sûr, cela peut être essentiel. De nombreuses personnes ne sont pas informées par les médias traditionnels. Les plateformes comme X ou TikTok sont, dans de nombreux cas, le moyen par lequel les gens accèdent à l’information et, avec autant de contenu disponible, ils ont besoin d’algorithmes pour décider ce qu’ils vont voir. En politique, il est essentiel d’écouter les deux côtés pour comprendre quels sont leurs arguments, mais ce n’est pas ce que font habituellement les algorithmes. Ils sont optimisés pour l’interaction, vous passez donc plus de temps sur la plateforme. La meilleure façon d’y parvenir est de vous montrer davantage de contenus qui vous intéressent plutôt que de contenus qui ne vous intéressent peut-être pas, mais qui pourraient vous être utiles pour prendre une décision politique.

P. Les algorithmes changent-ils les opinions ?

R. C’est une question intéressante. Je ne pense pas que nous connaissions vraiment la réponse. Il y a 20 ou 30 ans, il existait un type de média que la plupart des gens consommaient. Il y avait donc une sorte de base commune de ce qui était considéré comme généralement accepté. Aujourd’hui, ce n’est plus le cas.

P. Il est surprenant que j’étudie cette question depuis des années et que je n’aie pas la réponse.

R. Il y a des sociologues qui observent l’impact direct, car cela se concentre sur les humains, ce que j’étudie peu parce que je me concentre sur les algorithmes. Ces systèmes évoluent très rapidement. Nous avons tout étudié, du commerce électronique aux applications de mobilité ou à la publicité. Il faut des mois, voire des années, pour vraiment comprendre le fonctionnement d’un de ces systèmes. Alors que nous concevons une expérience pour répondre à certaines de ces questions, les systèmes ont déjà changé. x [antes Twitter]par exemple, a beaucoup changé.

P. Est-ce inquiétant de ne pas vraiment savoir comment ils nous affectent ?

R. Il est vrai qu’il est de plus en plus difficile de comprendre comment exactement les algorithmes affectent nos vies. Souvent, les gens ne réalisent même pas qu’il existe des algorithmes de recommandation ou de classement derrière les systèmes qu’ils utilisent. L’un des points clés sur lesquels nous avons travaillé lorsque j’étais à la Maison Blanche était de définir les pratiques que le gouvernement devrait suivre lorsqu’il utilisait l’IA. L’un des points principaux était la transparence : informer les gens lorsqu’il existe un algorithme qui prend à leur sujet une décision susceptible de les affecter négativement et avoir la possibilité de faire appel.

P. Cela concerne les algorithmes des systèmes publics, mais les utilisateurs savent déjà que les réseaux sociaux sont organisés avec des algorithmes…

R. La plupart le font, mais ce qu’ils ne savent pas, c’est la quantité de données collectées. Par exemple, les applications sur votre mobile collectent une multitude d’informations sur vous. Les gens ne réalisent pas la quantité de données entrant dans ces algorithmes, ni à quel point elles sont déséquilibrées en raison de la quantité d’efforts, d’argent et de ressources nécessaires pour affiner ces algorithmes afin qu’ils vous montrent exactement ce qu’ils veulent.

P. Le but de ces entreprises est de gagner de l’argent. S’ils changent également la société, est-ce une conséquence involontaire ?

R. Je ne peux pas parler de leurs motivations, mais oui, le but de ces entreprises est de tirer le meilleur parti de vous. Certaines des plus grandes entreprises du monde gèrent une énorme quantité de données et ont une influence ahurissante sur notre façon de parler ou de penser, que ce soit à l’échelle nationale ou mondiale. Il est facile d’imaginer à quel point cela peut devenir incontrôlable.

P. Le gouvernement américain essaie-t-il d’interdire TikTok pour ces raisons ?

R. Il existe de nombreuses raisons d’interdire TikTok. De plus en plus de gens réalisent la puissance de ces systèmes. Ils ont le pouvoir d’influencer les gens de plusieurs manières. Par exemple, j’ai vu un graphique circuler sur X, qui disait que la plateforme recommande davantage de contenus de droite. Même si c’était vrai, ce qui pourrait être le cas, ce serait peut-être parce que ces types de personnes sont plus actifs sur Twitter, ou cela pourrait être parce que l’algorithme le recommande réellement. Je ne sais pas laquelle des deux est vraie et je pourrais concevoir une expérience pour l’étudier. Mais il existe de nombreuses explications potentielles. Ce n’est pas parce que vous voyez une différence que c’est la faute de l’algorithme.

P. Il est difficile d’attendre quand cette semaine des gens s’interrogent sur l’influence de X sur l’élection de Trump…

R. D’autres fois, nous avons eu des cas où nous en étions sûrs, mais ce n’était pas comme ça. Par exemple, il y a 10 ans, lorsque nous étudiions la discrimination dans les prix des vols. Il y avait des moments où les gens disaient : « J’ai cherché un vol et quelqu’un d’autre a cherché le même vol et les prix étaient différents ! » Nous avons commencé à concevoir des expériences pendant un an et à contrôler les variables et avons découvert que cela n’était vrai que dans des circonstances très spécifiques. Presque toujours, ce qui arrivait était un pur hasard.

P. C’est une coïncidence ?

R. Il y avait quelques exceptions. Nous avons découvert que dans certaines applications, cela change selon que vous soyez sur un mobile ou sur un ordinateur. Dans d’autres, cela dépend du pays où ils pensent que vous vous trouvez : même s’il s’agit du même vol, si je l’achète aux États-Unis ou en Espagne, les prix peuvent être différents. Les compagnies aériennes font cela depuis des années. Il y a une tendance naturelle à penser, chaque fois que vous voyez une différence, « ah, un algorithme me fout en l’air », ce qui est parfois vrai, mais la plupart du temps, ce n’est pas le cas. Ce n’est pas vraiment de la discrimination, ils essaient juste des choses différentes.

P. Il y a aussi ceux qui soupçonnent le téléphone portable parce qu’ils reçoivent des publicités sur des choses qu’ils viennent de commenter à haute voix…

R. Je dirais qu’il y a un peu de biais de confirmation. Vous ne remarquez que lorsque cela se produit, pas lorsque cela ne se produit pas. Il y a probablement mille autres choses que vous avez dites à votre partenaire ce jour-là et qui n’ont pas fonctionné. Certains de mes collègues ont réalisé une étude parce que les gens se demandent si Alexa ou les applications de votre téléphone vous écoutent ou vous enregistrent. Ils ont réalisé une étude avec des applications mobiles. Ils ont trouvé des applications qui faisaient d’autres choses horribles, mais elles ne vous ont pas enregistré en secret. parfois il y a ciblage en fonction des ménages. Les sociétés de données se rendent compte que vous vivez avec cette autre personne et associent les profils de différentes manières. Ainsi, dans certains contextes, il se peut que votre partenaire recherche quelque chose et que vous commenciez soudainement à voir des publicités pour ce produit. Mais je pense, encore une fois, que cela pourrait être l’explication ou simplement le hasard et que vous avez remarqué cette coïncidence. Scientifiquement parlant, nous devrions concevoir une expérience pour démontrer que cela se produit systématiquement.

P. Les algorithmes de personnalisation iront-ils plus loin ?

R. Au fil des années, j’ai seulement constaté qu’ils augmentent. De plus en plus de systèmes sont personnalisés simplement parce que davantage de données sont disponibles. Chaque fois que vous vous trouvez dans une situation où il y a une tonne de contenu, plus que quiconque ne peut en consommer, vous avez besoin d’une sorte d’algorithme qui dit « voici ce qui vous intéresse ». C’est la personnalisation. Il est probable que ces algorithmes feront de plus en plus partie de notre vie quotidienne.

P. Avez-vous le plus peur ou avez-vous plus d’espoir pour les cinq prochaines années ?

R. Si vous me l’aviez demandé il y a cinq ans, j’aurais répondu que les gens n’ont aucune idée de ce qui se passe, j’aurais été plus pessimiste. Maintenant, j’ai l’impression que l’on prend davantage conscience de la quantité d’algorithmes impliqués dans ces systèmes. C’est quelque chose qui est dans l’opinion publique. La réponse optimiste est que les gouvernements sont vraiment aux prises avec ces questions, ce qui me donne l’espoir que, dans cinq ou dix ans, nous aurons trouvé un moyen d’équilibrer les choses. La réponse pessimiste est que ces systèmes progressent si rapidement et que les entreprises sont si puissantes que les gouvernements auront du mal à suivre.