Managing the collaboration between domain experts and Artificial Intelligence : Two case studies in the healthcare system.
Gérer la collaboration entre l’expert métier et l’Intelligence Artificielle : Deux études de cas dans le système de soins.
Résumé
Artificial Intelligence (AI) leverages machine learning methods to automate the creation of complex statistical models. These AI tools can perform tasks with expert-level proficiency, yet the precise way results are generated often remains opaque, posing challenges for their integration into organizations. This thesis explores the collaboration between domain experts and AI tools within the healthcare system.In the healthcare system, human-AI collaboration is particularly critical due to the professional and moral responsibilities inherent in medical decisions and their inherent uncertainty. While AI tools promise to address the tensions in this system by offering increased personalization of care at lower costs, they also raise concerns, and their real-world adoption remains to be fully realized.Our empirical approach includes two case studies, illustrating these dynamics. RADO focuses on the use of an AI tool by radiologists for mammographic analysis, aiming to enhance their activities. KOVAK, examines how a medical research team uses AI tools to analyze patient cohort data.A first analytical framework observes how experts leverage their knowledge to incorporate AI results, thereby demonstrating an engaged collaboration. A second one identifies the dual nature of the AI tool use, between a way to optimize an activity or generate learning. A third one, based on Peirce’s work on pragmatic inquiry, considers the AI tool as a partner in the knowledge construction process.We propose our collaboration model, EMC2 (Expert Machine Collaborative Community). It integrates various modes of managing expert-AI collaboration, thus facilitating better integration of this collaboration within organizations.This thesis contributes to the literature on human-AI collaboration models by defining management modes derived from an empirical approach. It also contributes to the literature on AI tool usage by specifying interrogative practices and by applying the concept of pragmatic inquiry.
L’Intelligence Artificielle (IA) mobilise des méthodes d’apprentissage machine pour automatiser la création de modèles statistiques complexes. Ces outils d’IA peuvent accomplir des tâches avec des performances similaires à celles des experts, mais la manière dont les résultats sont produits reste souvent opaque, posant des défis pour leur intégration dans les organisations. Cette thèse explore la collaboration entre les experts métier et les outils d’IA dans le contexte du système de soins.Dans le système de soins, cette collaboration est cruciale en raison de la responsabilité professionnelle et morale des décisions médicales et de leur incertitude inhérente. Si les outils d’IA promettent de répondre aux tensions de ce système en offrant une personnalisation accrue des soins à moindre coût, ils suscitent également des craintes et leur adoption reste à concrétiser.Notre démarche empirique produit deux études de cas illustrant ces dynamiques. RADO porte sur les usages d’un outil d’IA par des radiologues pour l’analyse mammographique, visant à améliorer leur activité. La seconde étude de cas, KOVAK, examine comment une équipe de recherche médicale utilise des outils d’IA pour analyser des données de cohortes de patients.Nous utilisons un premier cadre d’analyse pour observer comment les experts intègrent leurs connaissances avec les résultats de l’outil d’IA, démontrant ainsi un engagement dans la collaboration. Un deuxième cadre caractérise une double nature de l’usage de l’outil d’IA, entre optimisation d’une activité et apprentissages, et montre l’augmentation des capacités des radiologues grâce à cette collaboration Un troisième cadre, fondé sur les travaux de Peirce sur l’enquête pragmatiste, considère l’outil d’IA comme un partenaire dans la construction des connaissances.Nous proposons un modèle de collaboration, l’EMC2 (Expert Machine Collaborative Community). Il intègre différents modes de gestion de la collaboration expert-IA facilitant ainsi une meilleure intégration de cette collaboration au sein des organisations.Cette thèse contribue à la littérature sur les modèles de collaboration humain-IA par des modes de gestion issus d’une démarche empirique. Elle enrichit aussi la littérature sur les usages des outils d’IA en spécifiant des pratiques interrogatives et en appliquant le concept d’enquête pragmatiste.
| Origine | Version validée par le jury (STAR) |
|---|---|
| Licence |
