L’Open Source peut-il sauver l’IA ?

Excusez le titre clickbait, mais tout ce que nous écrivons ces jours-ci n’est-il pas fait pour piloter un algorithme, quelque part ? Il se trouve que je viens d’assister à un événement très intéressant; et il s’agissait, assez d’actualité, de l’open source et de l’IA. Mais est-ce que j’écris à ce sujet simplement parce que c’était intéressant et que je voulais partager quelques réflexions ? Ou s’agit-il uniquement de référencement, plus quelques astuces de psychologie comportementale que je dois appliquer pour garantir des clics mesurables, le faisant ainsi grimper dans le classement des sites sociaux et, en fait, avoir une belle apparence sur les tableaux de bord internes et agrégés ? C’est comme si nos seigneurs robots avaient déjà gagné, et il ne nous reste plus qu’à les accueillir.

Mais je m’égare. Pour en revenir à nos moutons (comme on dit en français, et je reviendrai sur la question), il y avait beaucoup à apprendre du lancement de OpenUKles dernières recherches d’ sur l’impact économique des logiciels open source (OSS) sur l’industrie britannique, et plus largement, ses VAB – Valeur ajoutée brute. OpenUK est un organisme industriel national relativement récent, créé directement pour “faire passer les technologies ouvertes – non seulement l’OSS, mais les données ouvertes, les normes ouvertes et l’innovation ouverte – sur le radar britannique”, selon sa PDG et conférencière d’ouverture, Amanda Brock.

L’objectif public d’OpenUK est de développer le leadership britannique et la collaboration mondiale dans le domaine de la technologie ouverte, ce qui signifie essentiellement stimuler la symbiose entre les organisations britanniques et la technologie ouverte. Pouvoir au coude d’OpenUK, c’est ce que je dis – je recommande aux parties intéressées de jeter un coup d’œil au recherche (dirigé par le directeur de la recherche, le Dr Jennifer Barth) et agir sur ses conclusions. En un mot, OSS apporte plus de 13 milliards de livres sterling de valeur au Royaume-Uni, soit 27% de la contribution de UK Tech et prévoit d’investir un montant de 327 millions de livres sterling. Selon mes calculs, c’est à peu près un retour sur investissement prévu de 41x.

Je sais que ce n’est pas aussi simple que cela, dans la mesure où les dépenses sont destinées à un pool mondial de développeurs, d’innovateurs, de fournisseurs et autres. Mais néanmoins – et Amanda l’a souligné – de nombreuses solutions construites sur OSS finissent par être basées aux États-Unis, y compris des sociétés fondées au Royaume-Uni telles que Weaveworks (pour GitOps) et Snyk (Development Security). Les investisseurs britanniques sont traditionnellement réticents par rapport à ceux de la région de la baie et ont besoin de mieux comprendre ce que l’OSS apporte en conséquence. Et inversement, l’OSS crée plus d’opportunités pour le développement des compétences et la création de nouvelles entreprises, faisant avancer les objectifs de notre nation multi-insulaire sur la scène mondiale.

La mouche de la taille de Jeff Goldblum dans la pommade est l’IA, qui est sortie apparemment de nulle part pour être le sujet brûlant de cette année. Pas tout à fait vrai – nous avons beaucoup entendu parler de l’IA ces derniers temps – mais il semblait que cela se passait de la même manière que les téléviseurs 3D, avant que Midjourney et ChatGPT n’arrivent. Pas ironiquement, cela a atterri en plein milieu du cycle de recherche OpenUK (qui a dû engendrer un deuxième rapport de recherche à mi-chemin) et de la législation britannique sur l’IA (qui a dû être réécrite en vol pour prendre en compte les modèles à grande échelle).

L’IA est un domaine important pour le monde des technologies ouvertes, d’abord en termes de logiciels (la plateforme d’IA la plus utilisée, TensorFlow, est open source), mais aussi pour les données. Wikipédia a été fondée sur des principes ouverts, à la fois en utilisant l’open source et en publiant ses données ouvertes sur une plate-forme de contenu ouverte, ce n’est donc pas un hasard si son fondateur Jimmy Wales était présent. Les développements récents de l’IA générative sont directement liés à la disponibilité de sources de données ouvertes – “50 % des entrées de ChatGPT proviennent de Wikipédia”, déclare Jimmy, qui est d’accord avec cela. “C’est pour ça.”

Alors, à la question, l’ouverture peut-elle sauver l’IA ? La réponse est non, pas en soi, mais cela peut contribuer à fournir les outils dont nous avons besoin pour le fournir, d’une manière qui profitera à la société en général (et donc au Royaume-Uni en particulier), en mettant la technologie entre les mains du plus grand nombre. L’une des raisons est que, comme OSS, le génie de l’IA est sorti de la bouteille. “Nous ne pouvons pas supposer qu’il y a six entreprises que nous pouvons réglementer”, déclare Jimmy, pointant du doigt les millions de développeurs amateurs qui jouent déjà avec Midjourney via Discord ou qui écrivent leurs propres versions de logiciels d’IA générative. L’IA peut apprendre du monde OSS, le pouvoir de la responsabilité individuelle – nous ne pouvons pas blâmer les outils, mais nous pouvons légiférer contre ce que les gens créent, suggère-t-il. « Vous pouvez toujours utiliser Photoshop pour créer une image ; ça n’aurait tout simplement pas l’air très réel – ça va maintenant paraître plus réel.

Cela ne veut pas dire que nous nous passerons d’une législation générale au niveau de l’entreprise et au niveau national, mais cela doit viser les conséquences de l’IA, plutôt que son utilisation inévitable et plus générale. « La seule chose qui est inévitable, c’est que les gouvernements vont réglementer – si c’est trop descendant, ce sera trop difficile. Mais l’approche opposée, la responsabilité individuelle avec le bon niveau de gouvernance, ascendante et basée sur des principes, c’est la meilleure approche », déclare Amanda. Comme l’a souligné Chris Yiu, directeur des politiques publiques chez Meta, cela va de pair avec la transparence et l’ouverture qui sont (l’indice est dans le nom) les piliers de l’OSS. Si le génie de l’IA a engendré beaucoup de petits génies, nous pouvons les utiliser comme un réseau de pairs pour créer un résultat plus solide.

Je peux être d’accord, tant que la responsabilité et l’ouverture sont appliquées à toutes les étapes du cycle de livraison – il y a beaucoup à déballer sur “le bon niveau de gouvernance” à travers la collecte et la gestion des données, la cybersécurité et la gestion des accès, les meilleures pratiques de processus et les questions juridictionnelles (ce qui est légal dans un pays peut ne pas l’être dans un autre, et peut être contraire à l’éthique dans les deux). Par exemple, si je pouvais utiliser les données de l’API ouverte Strava pour créer une image des personnes susceptibles de souffrir de problèmes médicaux et que je la publiais ensuite, qui en serait responsable ? Ou si je créais le code et le laissais traîner ?

Cela me frappe que la Grande-Bretagne post-Brexit soit dans une position unique pour établir un programme différent de celui de l’UE, qui envisage une réglementation descendante, ou des États-Unis, qui ont l’habitude de jouer un peu plus vite et plus lâchement avec la vie privée que nous ne le souhaiterions. À ce stade, des organisations telles qu’OpenUK pourraient se retrouver avec leur travail coupé – c’est une chose de plaider pour une plus grande acceptation de l’OSS, mais c’en est une autre structurellement de se retrouver comme les personnes les plus importantes dans un espace nouvellement créé, mais critique. C’est un bon problème à avoir, mais pas un à prendre à la légère.

Nous avons le temps de bien faire les choses. Personne dans la salle n’a pensé que l’IA était un train en fuite : même s’il existe des exemples de défis liés à l’IA, ils restent l’exception plutôt que la norme (a déclaré Chris Yiu, « Nous sommes loin de tout ce qui approche la super-intelligence. »). Peut-être que les modèles open source et la méthode ouverte pour en créer de nouveaux peuvent en effet contrer les pires aléas potentiels de l’IA ; et en ce moment, nous avons besoin de toute l’aide que nous pouvons obtenir alors que nous élaborons une nouvelle compréhension de l’impact de l’ère de l’information, à la fois au Royaume-Uni et au-delà.

À ce stade, nous pouvons garder nos robots là où ils doivent être, dans un soupir de soulagement, même pour les plus craintifs de l’avenir de l’IA.