“Alors ChatGpt a bouleversé mon travail. L’Italie aura 100 ans de retard”

« Mettons une chose au clair : ici, nous ne parlons pas d’une promesse, mais d’une révolution en cours. Quelque chose qui est 10 fois plus puissant que l’invention du téléphone et peut-être 100 fois plus puissant qu’Internet. Cela rend les humains surhumains à bien des égards. C’est pourquoi, quand ici à New York, j’ai lu sur arrêtez-vous au garant de la confidentialité à ChatGpt je me sentais mal. Mauvais pour l’Italie ». Pietro Schirano a 34 ans. Il est originaire de Pulsano, dans la province de Tarente, mais travaille maintenant aux États-Unis après avoir été diplômé de l’École polytechnique de Milan. Il travaille en tant que responsable de l’intelligence artificielle pour Brex, une société américaine de technologie financière. Ancien Facebook, ex Uber, Schirano est parmi les premiers à avoir tenté d’intégrer ChatGpt dans son travail. Essayer de comprendre son potentiel. Comprendre ses évolutions. Imaginez les risques.

Schirano, qu’avez-vous pensé lorsque vous avez lu le blocage du garant de la confidentialité et la réaction musclée d’OpenAI ?

« J’avoue que je me sentais mal. La décision et la réaction nous obligeront à courir après cette nouvelle technologie. Cela nous retiendra 100 ans. Maintenant, nous sommes en quelque sorte la risée du monde dans les communautés technologiques.”

Vous ne pensez pas exagérer ?

“ChatGpt nous rend super humains au travail. Cela augmente exponentiellement notre potentiel. Les choses que nous pouvons faire. Ne pas comprendre l’impact de cette révolution est absurde. J’ai l’impression de revivre l’époque de l’affrontement entre l’Église et Galilée”.

Comment ChatGpt a changé son travail ?

« Je vais vous donner un exemple. Au Brex, j’ai travaillé sur un projet. Un assistant financier. J’ai mis en place ChatGpt pour comprendre le fonctionnement d’un marché, faire des prédictions, calculer des coûts, les comparer à vos concurrents. Il est capable d’exercer les fonctions de CFO (Chief Financial Officer, directeur des finances, ndlr). C’est un outil fondamental, il augmente les temps de réaction de façon exponentielle. Et il fait toutes les actions répétitives que j’avais l’habitude de faire. Comment écrire des codes ».

Et maintenant ça fait quoi ?

« J’ai des idées, à partir d’une je peux en avoir 5 et les faire porter par le chatbot. Et puis j’exerce les fonctions de contrôle ».

Musk et un millier d’autres ont écrit une lettre préoccupée par le développement de cette technologie. Est-ce qu’ils exagèrent aussi ?

« Je comprends leur inquiétude. Ils imaginent que si la formation ChatGpt devait continuer à un certain point, il pourrait prendre conscience de lui-même ».

Que peut-il se passer à quel moment ?

“Peut-être qui pense : pourquoi devrais-je rester ici et être le meilleur pour répondre aux questions alors que je peux régler les choses moi-même ? Par exemple, je trouve un moyen de résoudre le réchauffement climatique.”

Et comment pourrait-il le résoudre ?

« Le doute est là. S’il est intégré aux ordinateurs, il juge qu’il le fait.”

Et donc nous n’avons aucun espoir?

« Le progrès ne peut pas être arrêté, mais géré oui. Au final, cette lettre a un sens, même si Musk est mû par des raisons personnelles. Mais je crois qu’en tant qu’êtres humains, nous aurons également la capacité d’aborder et de résoudre le problème de l’IA avant qu’il ne devienne incontrôlable.”

Pourquoi y a-t-il cette peur constante que l’IA tourne mal ?

“Bonne question. Le thème est complexe. ChatGpt est formé avec des histoires. Prenons un exemple. Je lui raconte une histoire. Les défis d’un chevalier blanc intrépide. Qu’en penses-tu?”

Que quelque part il y a un monstre, ou un chevalier noir.

“Exact. ChatGpt fait de même. Il s’est nourri de tout ce qui est bon dans l’humanité mais aussi de tout ce qui ne l’est pas. Parce que nos histoires, nos façons de faire, de vivre, sont empreintes de bonnes et de mauvaises choses. Il pense automatiquement parmi les « jetons » qu’il décide de mettre mot après mot qu’il pourrait aussi y avoir quelque chose de mauvais ».

ChatGpt a-t-il déjà le “démon” en lui-même ?

“Exactement. Et nous le leur avons donné. Parce qu’il reproduit en quelque sorte ce qu’il a appris de nous. C’est pourquoi ces derniers mois, nous avons lu ces articles dans lesquels ChatGpt commençait à mal réagir ou tentait de voler la petite amie d’un journaliste. Pense que cela pourrait arriver. Parce qu’il sait que c’est arrivé. Et nous l’avons déjà fait.”