La transparence des intelligences artificielles médicales est une nécessité à la fois technique, légale et éthique. Elle motive le développement d’un champ de recherche sur l’explicabilité des algorithmes. Toutefois, la plupart des solutions proposées ne sont pas orientées par une finalité spécifique. De fait, une majorité de travaux se consacre à améliorer la compréhensibilité des modèles, tandis qu’une minorité s’interroge sur le caractère approprié des solutions proposées pour l’utilisateur final. Je montrerai dans cette présentation, exemples à l’appui, que le développement de solutions permettant de rendre les résultats des intelligences artificielles compréhensibles par les médecins devrait prendre en compte les contextes que ces technologies ont vocation à intégrer.  

Abstract en anglais : Transparency of medical artificial intelligences is a technical, legal and ethical necessity. It has motivated the emergence of a research field on the explainability of algorithms. However, most of the proposed solutions are not oriented by a specific purpose. In fact, a majority of researches focuses on improving the comprehensibility of the models, while a minority questions the relevance of the proposed solutions for the end user. I will show in this presentation, with examples, that the development of solutions to make the results of artificial intelligences understandable to physicians should take into account the contexts these technologies are intended to integrate.