Le consultant politique Juri Schnöller dans une interview sur les opportunités de l’IA pour la démocratie

Monsieur Schnöller, vous voulez sauver la démocratie avec l’IA. Pourquoi?

La démocratie est dans une crise de confiance. Le populisme augmente, les médias sont de plus en plus fragmentés et la satisfaction de la population à l’égard du système étatique est à son plus bas niveau historique. Le système politique doit devenir plus rapide et plus efficace. L’IA peut aider à surmonter ces crises.

Comment c’est censé fonctionner?

L’IA peut être utilisée dans d’innombrables domaines pour rendre les citoyens plus satisfaits de leur État. Par exemple, grâce aux outils d’IA, les permis de construire peuvent être délivrés plus rapidement ou les qualifications professionnelles étrangères peuvent être reconnues plus rapidement. Les deux prennent des années pour le moment. C’est ennuyeux pour les personnes concernées.

Ceci vise à une administration plus efficace. Mais est-ce que cela aide vraiment à surmonter la crise de la démocratie ?

Bien entendu, ce n’est là qu’un élément parmi d’autres. Il faut commencer partout. L’IA permet également de nouvelles formes de participation politique. Taïwan dispose d’un système d’IA qui permet aux citoyens d’avoir leur mot à dire sur l’endroit où une nouvelle route ou un nouveau parc devrait être construit dans leur communauté. Sans l’IA, de tels projets prennent énormément de temps ; les efforts nécessaires pour demander l’avis des individus coûtent beaucoup de temps. L’IA, quant à elle, peut résumer les saisies de texte de centaines d’habitants et suggérer des compromis – en quelques secondes. Cela pourrait également modifier les votes nationaux. Au lieu de simplement voter oui ou non en un seul vote, nous pourrions également présenter différentes versions d’une nouvelle loi à la population.

Que se passe-t-il si le système hallucine, c’est-à-dire génère des informations fausses ou trompeuses ?

Une IA bien développée est intégrée dans un système d’évaluation humaine. Les experts examinent les résultats et ont la possibilité d’apporter des corrections. Des boucles de rétroaction peuvent également être intégrées pour améliorer continuellement la qualité et la précision des résultats de l’IA. Les craintes suscitées par les hallucinations ne doivent pas nous amener à négliger les avantages potentiels des systèmes d’IA en matière de participation citoyenne. Aujourd’hui, la participation politique est souvent dominée par quelques personnes. L’IA offre désormais la possibilité d’une participation plus large et plus inclusive.

Cela semble bien, en théorie. Cependant, nous ne parvenons pas actuellement à nous identifier de manière infalsifiable sur Internet. Avec de tels outils, peut-on exclure l’influence de l’étranger ?

Non. Le danger est toujours grand. Nous sommes dans une guerre de l’information, la désinformation est omniprésente. Notre démocratie n’est pas préparée à la vague d’innovation que l’IA déclenchera dans les années à venir. Mais nous ne pouvons reconnaître et atténuer les inconvénients de la technologie que si nous l’utilisons nous-mêmes.

Pensez-vous que cela réussira ?

Oui. La question de savoir si l’IA arrivera a depuis longtemps une réponse. La question la plus cruciale est : comment est-il utilisé ? Pour l’instant, nous laissons le développement de l’intelligence artificielle aux grandes entreprises à but lucratif. Mais nous avons besoin d’une forme d’intelligence artificielle qui génère également une valeur ajoutée sociale au bénéfice de tous dans les démocraties pluralistes.

Comment est-ce censé réussir ?

Il faut avant tout utiliser les systèmes d’IA de manière pragmatique. Je préviens que nous créons un nouveau ministère qui fera ensuite avancer les projets d’IA d’en haut. J’espère plutôt une sorte de mouvement populaire dans lequel de nombreuses organisations locales utiliseront les systèmes d’IA au profit des gens. Des services spécifiques devraient être facilités, par exemple après la naissance d’un bébé, vous ne devriez pas avoir à passer des jours à rechercher les formulaires d’enregistrement et d’allocation parentale, mais plutôt pouvoir trouver et télécharger les documents de demande en une seule recherche. requête. De tels services améliorent la vie quotidienne de millions de personnes. Et ce faisant, nous veillons également à ce que les gens soient plus satisfaits de l’administration.

Les systèmes sont-ils déjà prêts pour cela ?

Pas encore, mais ils seront prêts. En attendant, nous devons investir du temps, de l’argent et du savoir-faire. Nous avons laissé le marché aux entreprises américaines dans le domaine des réseaux sociaux. Nous ne devons pas refaire cette erreur dans le domaine de l’IA. Nous avons donc besoin d’une IA européenne dont le point central sont nos libertés individuelles.

Qui devrait investir de l’argent ?

Nous, les contribuables. Mais de nouvelles sources de financement sont également envisageables. Bill Gates a un jour proposé de taxer les systèmes d’IA.

De nombreuses personnes redoutent les changements sociaux majeurs provoqués par l’IA et la critiquent. Pensez-vous toujours que c’est une bonne idée d’intégrer cette technologie relativement nouvelle dans les processus démocratiques ?

C’est précisément parce que les changements sociaux sont si importants que nous devons intégrer l’IA dans notre démocratie. Nous sommes au début d’une évolution. L’impact des nouvelles technologies est souvent surestimé à court terme et sous-estimé à long terme. Nous ne pouvons pas encore prédire quels effets l’IA aura sur le marché du travail ou sur la formation de l’opinion. Mais la question est la suivante : disposons-nous de suffisamment de personnes qualifiées dans la politique et dans la société pour évaluer cela et prendre les bonnes décisions dans l’intérêt de la société ?

Et est-ce qu’on a ça ?

Non pas encore. Un exemple en est l’application de la loi : nous pouvons déjà anticiper qu’il y aura bientôt beaucoup plus de fraude. Imaginez à quel point il est facile d’ajouter l’IA à l’astuce des petits-enfants : les criminels simulent la voix des enfants et incitent les membres de leur famille à leur envoyer de l’argent. Des choses comme celle-ci deviennent de plus en plus faciles. Néanmoins, nous n’avons pratiquement pas de procureurs maîtrisant les méthodes d’enquête numériques.

Êtes-vous toujours optimiste quant à notre capacité à faire du bon travail avec l’IA ?

Oui. Nous avons tendance à nous considérer comme le point final de l’histoire humaine. Il est fort possible que les générations futures poursuivent ce progrès. Peut-être trouveront-ils aussi de nouvelles formes de démocratie.

Vous lisez souvent dans les médias les effets néfastes de l’IA sur la démocratie, par exemple les deepfakes ou les campagnes de désinformation à grande échelle en provenance de Russie. Ils disent que l’IA est une opportunité pour la démocratie. Les médias sont-ils trop pessimistes pour vous ?

Oui. Les médias adorent les histoires apocalyptiques. Je ne pense pas que ce sera si grave. Le fait est que soit nous repensons la démocratie avec l’IA, soit elle mourra lentement.

Que veux-tu dire?

Avec l’IA, les pays autocratiques peuvent déstabiliser nos démocraties libérales de manière encore plus spécifique. Nous devons renforcer notre système politique et mieux le légitimer. Cela signifie que nous devons adapter la démocratie aux évolutions sociales et technologiques. Cela a été réalisé à maintes reprises dans l’histoire. Les Grecs de l’Antiquité, par exemple, étaient convaincus de leur démocratie. Aujourd’hui, nous savons que divers groupes dans la Grèce antique étaient exclus de la prise de décision, les femmes par exemple. Nous avons donc continuellement développé la démocratie. Nous ne pouvons pas soudainement arrêter de faire ça maintenant.

L’IA a été utilisée de manière néfaste lors de campagnes électorales précédentes : des affiches électorales sont soudainement apparues avec des photos de scènes qui n’ont jamais eu lieu. Les deepfakes ont été largement évoqués sur les réseaux sociaux. Les appels automatisés visaient à décourager les électeurs américains de voter. Comment atténuer ces effets ?

Une réforme de l’éducation est nécessaire. Nous devons acquérir une meilleure connaissance des médias afin de pouvoir identifier plus rapidement les faux contenus. Mais les plateformes et les partis sont également mis à l’épreuve. Une plus grande expertise en IA est nécessaire.

Cela pourrait aider à long terme. Mais le progrès technologique arrive plus vite que nous ne pouvons nous former. Sommes-nous préparés à cette vitesse extrême de changement ?

Non. Mais rarement dans l’histoire avons-nous été préparés aux innovations technologiques. Néanmoins, il est important de rester ouvert aux nouvelles technologies. Soit nous jouons le jeu et fixons les règles, soit nous regardons de côté. Je suis convaincu que l’IA nous sera bénéfique si nous commençons dès aujourd’hui à l’utiliser au profit de la société.

Open AI, le leader de l’industrie de l’IA, est très clair dans sa mission : l’entreprise souhaite créer un système qui soit à bien des égards plus intelligent que nous, les humains. D’une certaine manière, elle a déjà réussi. Comment pensez-vous que nous devrions traiter les entreprises technologiques comme Open AI ?

Le plus important est que nous ne perdions pas notre pouvoir créateur. Mais à l’heure actuelle, ce sont les entreprises, et non la société, qui sont les principaux moteurs de l’innovation. Ils inventent de nouvelles choses pour faire du profit. Nous devons les contrôler plus strictement.

Que demandez-vous spécifiquement ?

Les entreprises doivent faire preuve de transparence sur les données utilisées pour entraîner leurs modèles d’IA et rendre leurs modèles visibles publiquement. Il devrait également y avoir une sorte d’audit, un système permettant d’identifier et d’atténuer les risques des entreprises d’IA. Une situation similaire se produit déjà dans le secteur bancaire. Cela pourrait également s’appliquer aux entreprises d’IA.

Malgré votre enthousiasme pour l’IA : que devrait-il se passer pour que vous descendiez dans la rue contre l’IA ?

Si l’IA était utilisée pour restreindre mes droits fondamentaux ou mes libertés civiles, je me défendrais. Je descendrais dans la rue le jour où l’IA était utilisée pour créer une surveillance systématique afin de se protéger contre les troubles ou le terrorisme.