“Microsoft a licencié toute son équipe d’éthique et de société au sein de l’organisation de l’intelligence artificielle”, selon un rapport de Plateforme (via Gizmodo).
La décision aurait fait partie d’un plan de licenciement plus large touchant 10 000 employés de Microsoft.
Microsoft est une force majeure dans le développement de grands modèles de langage et d’autres technologies liées à l’IA, et est l’un des principaux bailleurs de fonds d’OpenAI, la société qui a créé GPT-3, ChatGPT et, plus récemment, GPT-4. (L’autre jour, il a été révélé que le chatbot AI de Microsoft, “Sydney”, exécutait GPT-4.)
Plateforme rapports:
Cette décision laisse Microsoft sans équipe dédiée pour s’assurer que ses principes d’IA sont étroitement liés à la conception de produits à un moment où l’entreprise mène la charge pour mettre les outils d’IA à la disposition du grand public, ont déclaré les employés actuels et anciens.
Microsoft maintient toujours un Office of Responsible AI actif, qui est chargé de créer des règles et des principes pour régir les initiatives d’IA de l’entreprise. L’entreprise affirme que son investissement global dans le travail responsable augmente malgré les récents licenciements….
Mais les employés ont déclaré que l’équipe d’éthique et de société a joué un rôle essentiel en veillant à ce que les principes d’IA responsable de l’entreprise se reflètent réellement dans la conception des produits expédiés.
«Les gens regardaient les principes émanant du bureau de l’IA responsable et disaient:« Je ne sais pas comment cela s’applique », explique un ancien employé. “Notre travail consistait à leur montrer et à créer des règles dans des domaines où il n’y en avait pas.”
Ces dernières années, l’équipe a conçu un jeu de rôle appelé Judgment Call qui a aidé les concepteurs à imaginer les dommages potentiels pouvant résulter de l’IA et à en discuter lors du développement du produit. Il faisait partie d’un plus grand “boîte à outils de l’innovation responsable” que l’équipe a publié publiquement.
Plus récemment, l’équipe s’est efforcée d’identifier les risques posés par l’adoption par Microsoft de la technologie OpenAI dans sa suite de produits.
L’équipe éthique et société était à son apogée en 2020, alors qu’elle comptait environ 30 employés, dont des ingénieurs, des designers et des philosophes. En octobre, l’équipe a été réduite à environ sept personnes dans le cadre d’une réorganisation….
Environ cinq mois plus tard, le 6 mars, les employés restants ont été invités à se joindre à un appel Teams à 11h30 PT pour entendre une «mise à jour critique de l’entreprise» de [corporate vice president of AI John] Montgomery. Au cours de la réunion, on leur a dit que leur équipe était finalement éliminée.
Un employé affirme que cette décision laisse un vide fondamental dans l’expérience utilisateur et la conception holistique des produits d’IA. “Le pire, c’est que nous avons exposé l’entreprise à des risques et les êtres humains à des risques en faisant cela”, ont-ils expliqué.
Le conflit souligne une tension continue pour les géants de la technologie qui créent des divisions dédiées à rendre leurs produits plus socialement responsables. Au mieux, ils aident les équipes produit à anticiper les utilisations abusives potentielles de la technologie et à résoudre les problèmes avant leur expédition.
Mais ils ont aussi pour tâche de dire « non » ou de « ralentir » au sein d’organisations qui souvent ne veulent pas l’entendre – ou d’énoncer les risques qui pourraient entraîner des maux de tête juridiques pour l’entreprise s’ils faisaient surface lors d’une découverte juridique.
Plus de détails ici.
(par Eric Steinhart)
