Aller au fond des choses — résumer la documentation en ligne de l’ACPM sur l’utilisation de l’IA

Points à retenir

• L’obtention du consentement éclairé du patient est nécessaire lors de l’utilisation d’outils d’IA
• Les médecins doivent faire preuve de transparence et avoir une discussion expliquant l’outil d’IA et la façon dont les données peuvent être utilisées
• Les outils d’IA doivent respecter tous les règlements de confidentialité et de sécurité
• Les médecins demeurent responsables de l’exactitude de leur travail et doivent toujours vérifier leurs notes générées par l’IA
• Les médecins devraient s’assurer d’utiliser des outils exacts, mais doivent aussi veiller à ne pas se fier uniquement à l’outil

Considérations clés de l’ACPM

L’intelligence artificielle (IA) continue de s’intégrer de plus en plus aux soins de santé. L’ACPM a commencé à offrir des conseils sur des considérations importantes pour les cliniciens qui envisagent d’intégrer l’IA à leur pratique. Les conseils réglementaires sur l’utilisation des technologies d’IA commencent tout juste à émerger.

Transparence et consentement

La transparence avec les patients est fondamentale, surtout lors de l’intégration d’outils d’IA à la pratique médicale. L’ACPM souligne l’importance d’obtenir le consentement éclairé des patients avant d’utiliser des outils d’IA, comme les scribes IA.

Pour obtenir un consentement éclairé, il devrait y avoir une explication claire de l’objectif de l’outil d’IA, de son fonctionnement et des utilisations possibles des données enregistrées. Pour garantir que le consentement est éclairé, l’enregistrement de toute conversation doit être clairement indiqué dans un langage compréhensible, et l’objectif et les utilisations de l’enregistrement doivent être expliqués. Un formulaire ne devrait pas être considéré comme un substitut à une discussion avec un patient pour expliquer l’outil d’IA lorsque nécessaire — les utilisations et les risques devraient être abordés. Les patients devraient être informés de la façon dont leurs données seront utilisées et si elles seront dépersonnalisées et utilisées pour améliorer davantage les algorithmes d’IA. Par exemple, si un médecin utilise un scribe IA qui utilisera les données des patients pour améliorer les futures itérations du modèle d’IA, cela devrait être expliqué au patient. Le consentement éclairé concernant l’utilisation des outils d’IA est essentiel pour maintenir la confiance dans la relation médecin-patient et garantir que les médecins respectent les normes éthiques.

Confidentialité

Les outils d’IA doivent être conformes à la Loi sur la protection des renseignements personnels sur la santé (LPRPS). Lors du choix d’un outil d’IA, les médecins devraient évaluer si l’outil a mis en place des mesures de protection appropriées pour assurer la confidentialité et la protection des données des patients. En Ontario, il est recommandé comme pratique exemplaire qu’une entreprise réalise une évaluation formelle des facteurs relatifs à la vie privée avant de recueillir des renseignements personnels et des données. Une évaluation des facteurs relatifs à la vie privée (ÉFVP) est une analyse de la façon dont les renseignements personnels identifiables sont traités afin d’assurer la conformité aux règlements appropriés, de déterminer les risques d’atteinte à la vie privée associés aux systèmes ou activités d’information, et d’évaluer les moyens de réduire ces risques.

Les médecins et les autres membres du personnel ayant accès aux outils d’IA doivent être adéquatement informés et formés sur les politiques de confidentialité de leur clinique et sur celle de l’outil d’IA.

Les médecins doivent aussi déterminer si les enregistrements des consultations de patients seront conservés et, le cas échéant, veiller à ce qu’ils soient sécurisés dans le dossier du patient pendant la période de conservation requise. S’ils ne conservent pas ces enregistrements, les médecins doivent avoir une politique établissant le moment et le processus de destruction et s’assurer que le rapport est exact dans le dossier avant cette destruction.

Responsabilité à l’égard de la qualité et de l’exactitude

Les médecins et les praticiens doivent demeurer responsables de l’exactitude, de la qualité et de la fiabilité de leurs outils d’IA. Les médecins devraient toujours réviser les notes et suggestions transcrites par l’IA pour éviter toute erreur. Il est possible que l’IA hallucine, introduise des biais ou interprète mal l’information et les données. Les outils d’IA doivent donc être considérés comme des outils de soutien et ne devraient jamais faire l’objet d’une confiance exclusive. Il incombe au médecin de surveiller et de corriger toute inexactitude et d’assurer l’exhaustivité. Vérifier l’exactitude des outils d’IA réduit les préjudices potentiels aux patients et réduit aussi le risque médicolégal.

Vérifications supplémentaires

L’ACPM indique qu’il est aussi important de considérer les questions suivantes (tirées de l’article de l’ACPM ici) :

• Existe-t-il des mesures de protection appropriées pour la collecte, le transfert et l’utilisation des données des patients ?
• Des procédures appropriées sont-elles suivies et le consentement est-il obtenu si le développeur de l’IA prévoit de stocker ou d’utiliser les données des patients pour adapter l’outil d’IA ?
• Des mesures sont-elles en place pour maintenir des normes élevées en matière de sécurité et de fiabilité des patients, y compris si l’outil d’IA est adaptatif et changera en réponse à de nouvelles données de patients ? Ces normes devraient être maintenues tout au long du cycle de vie de l’outil d’IA.
• Quel est l’objectif déclaré de la technologie d’IA et son utilisation est-elle appropriée dans les circonstances de votre pratique ? Cela comprend une compréhension claire des populations de patients visées et des conditions d’utilisation clinique.

Pour des renseignements plus détaillés, visitez les ressources officielles de l’ACPM sur la navigation de l’IA en santé :

• ACPM : Naviguer l’IA en santé
• ACPM : Scribes IA : réponses aux questions fréquemment posées

Pour voir comment Pippen s’aligne sur les lignes directrices de l’ACPM, cliquez ici.

Rédigé par : Charlotte Chen

Charlotte Chen est étudiante en 2e année de droit à la Lincoln Alexander School of Law de l’Université métropolitaine de Toronto et stagiaire d’été chez Pippen.