Artificial spatial attention for interpretable deep models of embryonic quality
Attention spatiale artificielle pour des modèles profonds interprétables de qualité embryonnaire
Résumé
In vitro fertilization (IVF) is one of the most common treatments for infertility. This procedure involves growing embryos in a controlled environment and assessing their quality after several days of growth. Time-lapse technology allows continuous monitoring of embryos and generates a large number of images that have already been exploited by deep learning applications. A significant limitation to the development of these solutions is the opaque nature of the proposed models, which poses problems, notably ethical ones, already raised by the community. We have developed a database, annotated by several experts, which we have made public in order to allow the community to compare the developed algorithms and reach a consensus. To make model decisions more transparent and explainable, we have worked on a new non-parametric artificial attention mechanism (BR-NPA). We compare this proposal with the state of the art in artificial visual attention in terms of the reliability of saliency maps generated using objective metrics. We discuss the limitations of these metrics and propose other complementary metrics. This work shows the interest in spatial attention models to improve the interpretability of deep learning models, to help biologists working in the field of IVF, and all practitioners using image classification models in their daily work.
L’un des traitements les plus courants de l’infertilité est la fécondation in vitro (FIV). Cette procédure consiste notamment a cultiver des embryons en milieu contrôle et a en évaluer la qualité après plusieurs jours de croissance. La technologie time-lapse permet un suivi continu des embryons et génère une grande quantité d’images qui a déjà été exploitée par des applications d’apprentissage profonds. Une limitation importante au développement de ces solutions est la nature opaque des modèles proposes qui pose des problèmes éthiques déjà soulevés par la communauté. Nous avons développe une base de données annotées par plusieurs experts pour permettre a la communauté de comparer les algorithmes développes et d’arriver a un consensus. Pour rendre les décisions des réseaux plus transparentes et explicables, nous avons travaille sur un nouveau mécanisme d’attention artificielle non-paramétrique (BR-NPA). Nous comparons cette proposition avec l’état de l’art de l’attention visuelle artificielle du point de vue de la fiabilité des cartes de saillance produites a l’aide de métriques objectives. Nous discutons des limites de ces metriques et proposons d’autres metriques complémentaires. Ce travail montre l’intérêt des modèles d’attention spatiale pour améliorer l’interprétabilité des modèles d’apprentissages profonds, dans le but d’aider les biologistes travaillant dans le domaine de la FIV mais aussi tous les praticiens utilisant des modèles de classification d’images dans leur travail quotidien.
| Origine | Version validée par le jury (STAR) |
|---|