La intelligence artificielle il a commencé comme quelque chose de très spécialisé, que seules quelques personnes pouvaient utiliser. Cependant, aujourd’hui, toute personne qui le souhaite y a accès via des algorithmes tels que ChatGPT, par exemple. Pour cette raison, de nombreuses personnes mettent en garde contre l’importance de concevoir correctement ces algorithmes, en précisant quels sont leurs objectifs, afin qu’ils ne nous donnent pas mauvaises surprises. L’une des personnes qui a le plus insisté sur cette question est le philosophe Nick Boströmqui en 2014 expliquait avec un exemple très simple ce qui pouvait arriver si cela n’était pas fait correctement.
Il a donné comme exemple une intelligence artificielle dont l’objectif est de fabriquer des clips. On ne lui donne aucun autre but, juste celui-là. A terme, selon ce philosophe spécialiste de l’éthique de l’IA, il pourrait anéantir l’humanité.
Il a utilisé cet exemple parce qu’il est apparemment très innocent ; mais selon lui pourrait être extrapolé à presque toutes les intelligences artificielles. Pour cette raison, il est d’une grande importance de définir quels sont leurs objectifs et de préciser que ces algorithmes doivent servir l’humanité. Si ce n’est pas fait correctement, ils n’auront aucune raison d’essayer de le protéger.
Comment une intelligence artificielle qui fabrique des trombones peut-elle détruire l’humanité ?
Évidemment, tout cela est un hypothèse que Bostrom a soulevé pour avertir de l’importance des objectifs. Cette intelligence artificielle n’existe pas. Mais encore, voyons comment il pourrait anéantir tous les êtres humains.
Il s’agirait d’un algorithme simple auquel on donnerait un seul objectif : fabriquer autant de clips que possible. Il commencerait à le faire sans arrêt, mais comme il s’agit d’un algorithme capable de calculer toutes les possibilités, il arriverait un moment où Je conçois les humains comme une nuisance. À tout moment, quelqu’un pouvait l’éteindre, et vous ne pouviez pas faire autant de clips que possible. De plus, les humains ont des atomes qui pourraient être transformés en plus de trombones. Ils gaspillent.
Ceci est un exemple extrême. Mais cela aide à voir l’importance de définir les objectifs des algorithmes d’intelligence artificielle à mesure qu’ils deviennent plus efficaces.
Ils doivent servir les humains
Posant son exemple, Bostrom a expliqué que l’un de ces objectifs qui doivent être définis est que l’intelligence artificielle sera toujours doit servir l’humanité. Si cela n’est pas précisé et ne sert que les intérêts d’une seule personne ou d’un groupe, le reste sera considéré comme inutile.
Bref, l’intelligence artificielle est utile. Beaucoup. Cependant, des limites doivent être fixées et il convient de préciser à quoi cela sert et comment cela doit fonctionner. Comme Bostrom l’a dit un jour : « Nous devons faire attention à ce que nous souhaitons d’un superintelligenceparce que nous pouvions l’obtenir.” En fait, cela pourrait même aller beaucoup plus loin que nous ne le souhaitons. Pour que cela ne se produise pas, les algorithmes doivent être très bien considérés avant de les concevoir. Il est clair que, maintenant qu’il commence à exploser, il y a beaucoup à légiférer et beaucoup d’éthique à discuter. Mais, au-delà de cela, il y a aussi beaucoup de technologie à concevoir avec soin pour ne pas nous surprendre.
