L’Institut AI-SDM de la CMU reçoit 20 millions de dollars de la NSF pour améliorer la prise de décision humaine grâce à l’IA dans les domaines sociétaux

AI-SDM est l’un des sept instituts d’IA décerné aujourd’hui par la National Science Foundation(s’ouvre dans une nouvelle fenêtre). Un engagement de 20 millions de dollars sur cinq ans de la part de la NSF soutiendra l’institut.

“Les meilleures applications de l’intelligence artificielle dans les domaines sociétaux viendront non seulement lorsque nous ferons progresser l’IA pour la prise de décision, mais aussi pour mieux comprendre la prise de décision humaine, et lorsque nous pourrons réunir les deux”, a déclaré Aarti Singh(s’ouvre dans une nouvelle fenêtre)professeur au Département d’apprentissage automatique(s’ouvre dans une nouvelle fenêtre) des CMU École d’informatique(s’ouvre dans une nouvelle fenêtre), qui assumera les fonctions de directeur de l’institut. « Les spécialistes des sciences sociales étudient le comportement humain. Les chercheurs en apprentissage automatique développent de nouvelles technologies d’IA pour faciliter la prise de décision. Pour un impact maximal de ces technologies, nous devons faire collaborer des spécialistes des sciences sociales et des chercheurs en IA pour trouver des solutions qui tireront parti de la capacité de l’IA tout en garantissant l’acceptation sociale.

AI-SDM réunira des experts de l’École d’informatique et Collège Dietrich des sciences humaines et sociales(s’ouvre dans une nouvelle fenêtre) à la CMU, ainsi qu’à l’Université de Harvard, au Boston Children’s Hospital, à l’Université Howard, à Penn State, à la Texas A&M University, à l’Université de Washington, à la MITRE Corporation, à la Navajo Technical University et à la Winchester Thurston School. Ce groupe diversifié de chercheurs et de praticiens travaillera avec les services de santé publique, les agences de gestion des urgences, les organisations à but non lucratif, les entreprises, les hôpitaux et les cliniques de santé pour améliorer la prise de décision.

“Avec l’intelligence artificielle qui progresse à un rythme vertigineux, notre avenir dépend de la collaboration des chercheurs, des spécialistes des sciences sociales, des décideurs et du public pour comprendre ces outils et les utiliser de manière éthique”, a déclaré la députée Summer Lee (PA-12), dont le district comprend la CMU. «Je suis fier d’annoncer une bourse de recherche de 20 millions de dollars de la National Science Foundation pour la CMU afin de diriger l’Institut d’IA pour la prise de décision sociétale du pays. Une collaboration de plusieurs institutions, dont mon alma mater, l’Université Howard, l’institut travaillera de manière interdisciplinaire pour concevoir des outils d’IA éthiques et centrés sur l’humain pour aider à améliorer la réponse aux catastrophes et aider les responsables de la santé publique, les travailleurs communautaires et les cliniques.

AI-SDM est le cinquième institut d’IA financé par la NSF à inclure des chercheurs de la CMU, et le premier à être dirigé par l’expertise de l’université. Les professeurs de la CMU contribuent déjà à l’AI Institute for Collaborative Assistance and Responsive Interaction for Networked Groups (AI-CARING), à l’AI Institute for Future Edge Networks and Distributed Intelligence (AI-EDGE), à l’USDA-NIFA AI Institute for Resilient Agriculture (AIIRA ) et l’Institute for Agricultural AI for Transforming Workforce and Decision Support (AgAID). Ces instituts(s’ouvre dans une nouvelle fenêtre) ont été créés en 2021.

“Les instituts nationaux de recherche sur l’IA sont un élément essentiel de l’écosystème de l’innovation, de l’infrastructure, de la technologie, de l’éducation et des partenariats en matière d’IA de notre pays”, a déclaré le directeur de la NSF, Sethuraman Panchanathan. “Ces instituts sont à l’origine de découvertes qui permettront à notre pays d’être à l’avant-garde de la révolution mondiale de l’IA.”

En réunissant des chercheurs en IA et en sciences sociales, AI-SDM permettra de prendre des décisions fondées sur des données, robustes et économes en ressources et d’améliorer les résultats en tenant compte des facteurs humains qui sont essentiels à l’acceptation de ces décisions sur le terrain, tels que les préjugés, la perception de risque, confiance et équité. AI-SDM vise à tirer parti de l’IA pour mieux comprendre la prise de décision humaine ; améliorer la capacité de l’IA à prendre des décisions ; et d’appliquer ces avancées pour créer des choix meilleurs et plus fiables.

“L’intelligence artificielle recèle un potentiel extraordinaire, et à ce stade critique de son développement, les parties prenantes de toutes les frontières disciplinaires doivent se rassembler pour appliquer de manière responsable ces percées générationnelles au monde réel”, a déclaré Thérèse Mayer(s’ouvre dans une nouvelle fenêtre), vice-président de la CMU pour la recherche. “La CMU est reconnaissante du partenariat de la National Science Foundation, dont l’engagement permettra à AI-SDM et à ses partenaires de faire progresser des solutions d’IA puissantes et centrées sur l’humain pour les situations difficiles qui nécessitent une prise de décision en une fraction de seconde.”

AI-SDM entreprendra plusieurs axes fondamentaux pour améliorer la compréhension de la prise de décision humaine et créer des outils d’IA pour l’aider. Les scientifiques cognitivo-comportementaux développeront des modèles informatiques pour représenter avec précision comment et pourquoi les humains prennent les décisions qu’ils prennent en temps de crise. Prédire les choix humains est essentiel pour développer de meilleurs outils d’IA et assurer leur succès dans la société. Ce travail sera dirigé par Cléotilde Gonzalez(s’ouvre dans une nouvelle fenêtre)enseignant-chercheur à la CMU Département des sciences sociales et de la décision(s’ouvre dans une nouvelle fenêtre)et Christopher Dancy, professeur agrégé au Penn State College of Engineering.

“Notre travail à l’AI-SDM contribuera à la recherche fondamentale nécessaire pour prédire avec précision les choix humains dans des conditions d’incertitude, de contraintes de temps et de dynamique temporelle. Nous construirons l’avenir de la science de la décision cognitive expérimentale et informatique, en promouvant l’équité et la justice par Complémentarité de l’IA », a déclaré Gonzalez, qui sera le codirecteur de la recherche de l’institut.

Forts de cette compréhension, les spécialistes des sciences sociales et les chercheurs en IA travailleront ensemble pour comprendre la complémentarité homme-IA et créer des modèles de prise de décision de groupe et hybride homme-IA. Cela permettra également de comprendre comment les valeurs sociales telles que l’équité, l’éthique et le risque influencent les choix individuels et collectifs. Ce travail sera dirigé par Ariel Procaccia, professeur d’informatique à Harvard, et Aaditya Ramdas(s’ouvre dans une nouvelle fenêtre)maître de conférences à la CMU Département de statistique et science des données(s’ouvre dans une nouvelle fenêtre) et département d’apprentissage automatique.

“Lorsque l’IA ou les humains prédisent comment une situation particulière évoluera ou proposent diverses options à prendre en raison de différentes perceptions sous-jacentes du risque et de l’utilité, il est important de réfléchir à la meilleure façon d’obtenir ces préférences complexes et de les combiner dans une décision de groupe”, dit Ramdas. “Dans un contexte où ces agents prennent des décisions répétées, nous espérons concevoir des algorithmes qui peuvent apprendre de l’expérience comment combiner ces décisions – de l’IA ou des humains avec des incitations individuelles éventuellement différentes – vers un objectif de groupe commun.”

Enfin, les chercheurs en IA de l’institut développeront des outils capables de prendre des décisions autonomes qui soutiendront les personnes dans la gestion des catastrophes et de la santé publique. Ils devront travailler dans des environnements dynamiques et incertains et sous une pression et des contraintes intenses. Ils devront jongler avec des objectifs concurrents avec des informations incomplètes et se coordonner avec de nombreuses personnes utilisant une communication imparfaite, ce qui est une tâche considérable pour l’IA actuelle. Ce travail sera dirigé par Sham Kakade, professeur d’informatique et de statistiques à Harvard, et Jeff Schneider(s’ouvre dans une nouvelle fenêtre)enseignant-chercheur à la CMU Institut de robotique(s’ouvre dans une nouvelle fenêtre).

“Nous sommes particulièrement enthousiasmés par l’opportunité pour l’IA d’aider de vraies personnes dans des scénarios où une bonne prise de décision est la plus nécessaire, mais difficile à trouver”, a déclaré Schneider. “Les chercheurs de la CMU développent déjà des systèmes avancés d’IA et de robotique qui seront utile pour accompagner les défis sociétaux.

Les outils d’IA créés par AI-SDM aideront non seulement les décideurs dans les tâches à accomplir, mais les aideront également à réfléchir sur les actions passées et à évaluer les décisions non prises. Si un responsable des urgences ou un responsable de la santé publique avait envoyé des ressources ou des interventions ciblées à un endroit plutôt qu’à un autre, le résultat aurait-il été différent ? Les outils capables de modéliser ou de simuler ces scénarios aideront à prendre de meilleures décisions. Des recherches approfondies dans le domaine des sciences humaines ont examiné comment le raisonnement contrefactuel et causal affecte la prise de décision et l’acceptation humaines, et l’application de cette recherche est essentielle pour une IA explicable à laquelle on peut faire confiance. Kun Zhang(s’ouvre dans une nouvelle fenêtre)professeur associé à la CMU Département de philosophie(s’ouvre dans une nouvelle fenêtre)dirigera cet effort.

“Il y a deux décennies, la CMU a contribué à créer le domaine moderne de la découverte causale”, a déclaré Zhang. «Nous allons maintenant à un niveau supérieur pour trouver des variables causales cachées et des relations causales pour l’inférence causale et le raisonnement contrefactuel à partir de vidéos, d’images, de textes et de données tabulaires. Cet effort aura des implications directes non seulement dans la prise de décision, mais également dans des domaines connexes tels que la découverte scientifique, les soins de santé, le marketing, etc.