Intelligence artificielle : quels risques ?
De nombreuses applications téléchargeables sur smartphone – gratuites ou payantes – s’érigent aujourd’hui en de véritables « outils diagnostiques » en dermatologie, en proposant notamment la détection de cancers de la peau (grâce à l’intelligence artificielle [IA], la photographie de la lésion prise par l’utilisateur est comparée à d’autres photographies, pour en distinguer le caractère malin ou bénin).
Présentées comme un outil précieux pour les patients – car elles leur permettraient de déceler rapidement une lésion préoccupante, voire de bénéficier de l’avis d’un professionnel par le biais de l’application elle-même –, ces technologies ne sont pourtant pas sans risques.
Dans un communiqué publié le 21 septembre 2022, la Société française de dermatologie (SFD) alerte ainsi contre leurs inconvénients et possibles mésusages : tout d’abord, l’absence d’accompagnement humain et médical, d’autant plus inquiétant que le patient peut être confronté à un diagnostic potentiellement grave, pouvant susciter une angoisse à laquelle l’IA n’est pas en mesure de répondre.
Ensuite, cette analyse segmentée d’une lésion choisie par le patient, en dehors de tout contexte et en l’absence d’interrogatoire mené par un médecin, empêche un examen clinique complet de toute la peau, avec le risque principal de méconnaître d’autres lésions.
Ces outils interrogent enfin quant à la protection des données personnelles et le droit à l’information, voire mettent en danger le secret médical et le consentement éclairé : captation des données personnelles et médicales d’un patient par un tiers non-médecin ; opacité quant à la démarche d’apprentissage de l’IA et le fonctionnement des algorithmes (problèmes de reproductibilité, traçabilité, etc.) ; responsabilité médicale du diagnostic…
Le médecin généraliste : pilier de leur bon usage !
Face à ces possibles dérives, la SFD propose des mesures pour encadrer l’utilisation de l’IA en dermatologie. Elle exhorte en premier lieu les autorités sanitaires à mieux définir le cadre réglementaire de ces produits, autant pour réguler certaines pratiques non souhaitables que pour promouvoir l’indispensable accompagnement par un professionnel dans leur utilisation.
En effet, étant donné que les principaux risques sont liés à l’utilisation de ces produits par les patients seuls, la SFD souhaite promouvoir leur usage par les médecins généralistes en premiers recours : les performances de l’IA dans l’analyse d’images cliniques dermatologiques ont l’atout d’améliorer la fiabilité du diagnostic. Ainsi, l’utilisation de ces produits en tant qu’outils décisionnels au cabinet permettrait d’améliorer le parcours de soin coordonné des patients : limitation du recours à l’avis spécialisé si cela n’est pas nécessaire ou au contraire, avis rapide auprès d’un dermatologue si suspicion de mélanome, par exemple.
Ces outils pourraient même s’intégrer dans un suivi d’« e-santé » (téléexpertise, télésurveillance), comprenant d’autres professionnels de santé – infirmièr(e)s en pratique avancée, par exemple – en coordination avec des dermatologues.
Dossier élaboré selon les conseils scientifiques de David Gruson. Intelligence artificielle. Rev Prat 2018;68(10);1135-52.