Des maisons se cachent derrière des parcelles de forêt tropicale subtropicale dans la banlieue ouest de Brisbane, des chevaux broutent dans des enclos et des panneaux routiers mettent en garde contre les cerfs et les kangourous.
Nichée entre un méandre de la rivière et les contreforts de la chaîne D’Aguilar, la banlieue d’Anstead peut sembler un habitat inadapté à un professeur de commerce d’origine polonaise qui estime que nous devons entrer dans l’ère de l’intelligence artificielle.
Pourtant, tout ne se passe pas comme il semble dans la maison de Marek Kowalkiewicz, au milieu des gommiers.
“Quand j’ai quitté la Silicon Valley, mes enfants avaient environ cinq ans et n’avaient aucune idée de ce qu’était un iPad”, dit-il depuis la véranda surplombant son terrain. « Il y a le monde infusé de technologie dans lequel je me trouve de 21 heures à 17 heures, et puis il y a ce monde légèrement – en surface – moins infusé de technologie.
Nous sommes le premier lundi de mars et Kowalkiewicz est à quelques heures du lancement de L’économie des algorithmes : l’IA et l’essor des serviteurs numériques. Dans son premier livre, le professeur de l’Université de technologie du Queensland affirme qu’une nouvelle ère, alimentée en partie par des agents non humains, remodèle progressivement notre économie et notre société depuis des années – d’une manière qui n’est pas toujours visible et peu comprise.
Kowalkiewicz affirme que « le rôle des personnes est plus crucial que jamais » dans le contexte de l’émergence de l’IA. Photographie : Dan Peled/The Guardian
Jusqu’à récemment, Kowalkiewicz admet que même lui – le directeur fondateur du Centre de recherche sur l’économie numérique de QUT – ne pouvait pas voir les choses telles qu’elles étaient. Les algorithmes, pensait-il alors, ne pouvaient pas être considérés comme des agents dans notre monde, de simples morceaux de code suivant les instructions humaines.
«J’avais tort», admet-il dans le livre.
Une fois ses yeux ouverts sur cette nouvelle forme d’action, Kowalkiewicz a compris qu’elle affectait nos vies depuis des années, de manière allant de l’absurde au transcendantal, en passant par le terrifiant. Et lui, un homme d’un optimisme technologique suprême, s’est rendu compte que si nous voulons garantir que les algorithmes contribuent à un monde meilleur et non à un avenir dystopique, « le rôle des personnes est plus crucial que jamais ».
Dans cette nouvelle économie « étrange » décrite par Kowalkiewicz, et que nous avons progressivement acceptée comme réalité, les gestionnaires algorithmiques attribuent des emplois aux chauffeurs de covoiturage et, essentiellement, licencient ceux qui ont de mauvaises notes. Montez à bord de l’un des robotaxis de San Francisco et vous serez piloté par un algorithme. Postulez pour un emploi et votre CV peut être numérisé par un algorithme. Et ce n’est qu’un début : les nouveaux fonds de capital-risque de trading de cryptomonnaies sont, du PDG jusqu’au PDG, « totalement inhumains ».
Kowalkiewicz ne craint pas que la technologie nous supplante. Au lieu de cela, affirme-t-il, nous vivons à l’aube de « l’ère de l’augmentation ». Alors que l’arrivée d’Internet dans les années 90 et 2000 a marqué le début d’une « ère de la numérisation » – une « économie des personnes » dans laquelle les individus pouvaient rivaliser avec les entreprises – aujourd’hui, un nouvel agent prend le pouvoir : l’algorithme. Mais les humains peuvent conserver et accroître leur pouvoir – à condition que nous apprenions à affirmer notre libre arbitre.
En fait, il affrontera plus tard dans la soirée – devant un public d’environ 100 personnes lors du lancement de son livre au Queensland AI Hub dans le quartier des discothèques de Fortitude Valley, vêtu de Nikes « jaune minion », d’un jean, d’un t-shirt ajusté et d’un blazer – Plutôt que de craindre l’économie des algorithmes, les entreprises et les particuliers avisés sont désormais capables d’invoquer des serfs « surhumains » à leurs ordres.
« Pour ma part, je salue nos serviteurs numériques », déclare Kowalkiewicz sous les applaudissements.
À côté d’un ravin obstrué par les mauvaises herbes, à la limite de la superficie d’Anstead de Kowalkiewicz, se tapit une créature trapue. De loin, cela pourrait être un wombat. Kowalkiewicz appelle ce robot tondeuse, quelque peu ironiquement, « Bolt ». Bien qu’électrifié, ce n’est pas Usain.
Un robot nettoyeur rôde dans la piscine. À l’intérieur, « Bumper 1 » et « Bumper 2 » – comme le balai enchanté de Goethe – nettoient les planchers en bois. Les lumières s’allument lorsque Kowalkiewicz entre dans une pièce.
« Dès que nous quittons la maison, la maison commence à être occupée – tous les robots sortent », dit-il. « Des robots qui bougent, des robots qui regardent, des robots qui écoutent. »
Les serviteurs veulent être utiles, ils veulent travailler 24h/24 et 7j/7, pleins d’énergie, n’est-ce pas ?
Les robots, dit Kowalkiewicz, sont des algorithmes incarnés. Même si peut-être pas autant que Kowalkiewicz, la plupart d’entre nous invitent des robots et des algorithmes dans nos maisons depuis de nombreuses années maintenant, ils forment une sorte de papier peint. Ce n’est que lorsque nous les croisons dans la nature que nous nous rendons compte : des algorithmes dotés d’agences tourbillonnent tout autour de nous.
Ils surprennent même Kowalkiewicz. Kowalkiewicz a glissé sur un sentier traversant la forêt voisine de Moggill par une soirée humide et hivernale. Plus vite qu’il n’a pu évaluer ses propres blessures, un « serviteur numérique » dans son poignet a décidé que la chute était suffisamment grave pour alerter sa femme s’il ne pouvait pas répondre dans les 20 secondes. Kowalkiewicz allait bien et a annulé l’appel.
Le livre de Kowalkiewicz regorge d’anecdotes sur de telles rencontres avec des algorithmes – même si toutes ne sont pas bienveillantes.
Certains sont ridiculement incompétents, comme la « guerre d’enchères hilarante » de 2011 entre algorithmes rivaux, qui a vu l’un d’entre eux tenter de vendre – sans succès – un exemplaire d’un livre de biologie sur les mouches sur Amazon pour plus de 23,6 millions de dollars.
D’autres effets bien plus sinistres des algorithmes dans le monde réel sont bien documentés. Aux États-Unis, des piétons ont été fauchés par des robots-taxis ; les prisonniers se sont vu refuser la libération sous caution sur les conseils, en partie, d’un logiciel ; en Australie, des bénéficiaires de l’aide sociale ont été traqués à tort et illégalement par un collecteur de dettes algorithmique connu sous le nom de robodebt. Au Royaume-Uni, des étudiants sont descendus dans la rue en 2020 après s’être vu refuser des places dans les universités en raison des calculs des serviteurs du numérique – leurs chants de « merde avec l’algorithme » se sont avérés un « moment déterminant » pour Kowalkiewicz et une source d’inspiration pour son livre.
Humain ou IA ? L’avenir des normes de beauté – vidéo
Pour un passionné de technologie ayant une formation en développement de logiciels, la diffamation d’un logiciel par les étudiants semblait confuse : l’algorithme suivait simplement les instructions de ses codeurs humains. Cela impliquait une sorte d’agence que Kowalkiewicz avait initialement rejetée.
Oui, l’algorithme suivait simplement les instructions humaines, mais son niveau d’autonomie signifiait que ce faisant, il avait des conséquences réelles à la fois « imprévues » et – même aux yeux de ses créateurs – « injustes ». Ici, Kowalkiewicz a réalisé qu’il existait un nouveau type d’agence, une agence qui ne devrait pas être laissée à elle-même.
Le livre de Kowalkiewicz s’adresse aux entreprises et aux entrepreneurs et explique comment exploiter les algorithmes à leur avantage.
Mais bien qu’il s’agisse en grande partie d’un guide pour gagner de l’argent dans la nouvelle économie qu’il décrit, il nous implore également de ne pas la laisser « échapper à tout contrôle ». La clé, affirme-t-il, consiste à affirmer l’action humaine grâce à la culture numérique.
« Plutôt que d’arrêter [generative] Expériences d’IA, nous devons commencer l’éducation GenAI ».
Car ce qui unit bon nombre des rencontres difformes et malveillantes entre les humains et les algorithmes, affirme Kowalkiewicz, ce sont nos incompréhensions sur ce qu’ils peuvent faire.
Un algorithme est un ensemble d’instructions étape par étape – « comme une recette » pour un ordinateur. Même si un algorithme peut être très efficace, voire « surhumain », dans son travail dans le cadre de ces paramètres définis, ces serviteurs ont besoin d’un cerveau humain plus adaptable pour les aider à surmonter des défis imprévus.
La flexibilité et l’interprétation, écrit Kowalkiewicz, sont des compétences « difficiles à réduire à des règles codées », tout comme les domaines dans lesquels les humains peuvent surpasser les algorithmes – dans un avenir « prévisible ».
Comment pouvons-nous développer ces compétences, demande Kowalkiewicz lors du lancement de son livre. Jouez, répond-il, expérimentez les nouvelles technologies, exploitez leur puissance et découvrez leurs défauts.
Kowalkiewicz affirme que certains de ses robots électroménagers lui coûtent plus de temps qu’ils n’en gagnent. Photographie : Dan Peled/The Guardian
« C’est exactement pour cela que j’ai autant de robots à la maison : certains d’entre eux sont absolument inutiles », dit-il. «Certains d’entre eux… me font passer plus de temps à les réparer et à les gérer qu’ils ne m’en font réellement gagner. Mais il n’y a pas d’autre moyen ».
Kowalkiewicz doit sauver « Bolt » tous les quelques jours lorsqu’il reste coincé sur une branche tombée et toutes les quelques années, il doit remplacer les câbles de terre qui marquent sa limite, de peur que le robot tondeuse ne disparaisse dans la nature. Et, comme les serviteurs de la franchise animée dont Kowalkiewicz s’inspire, les algorithmes nécessitent une surveillance humaine constante.
« Les serviteurs veulent être utiles, ils veulent travailler 24 heures sur 24, 7 jours sur 7, pleins d’énergie, n’est-ce pas ? il dit.
“Mais vous détournez le regard pendant une demi-journée et ils commencent à faire des ravages.”
2024-03-10 02:02:00
1710027607
#souhaite #bienvenue #nos #serviteurs #numérique #linitié #Silicon #Valley #met #garde #contre #les #algorithmes #tout #les #adoptant #Livres #australiens
