L’American Medical Association (AMA) a publié nouvelles lignes directrices pour le développement et l’utilisation de l’intelligence augmentée (IA) dans les soins de santé. Les nouveaux principes s’appuient sur la politique actuelle en matière d’IA et préconisent une utilisation éthique, équitable et transparente dans les applications de soins de santé.
« L’AMA reconnaît l’immense potentiel de l’IA dans le domaine des soins de santé pour améliorer la précision du diagnostic, les résultats des traitements et les soins aux patients », a déclaré le président de l’AMA, Jesse M. Ehrenfeld, MD, MPH. «Cependant, ce pouvoir de transformation s’accompagne de considérations éthiques et de risques potentiels qui exigent une approche proactive et fondée sur des principes en matière de surveillance et de gouvernance de l’IA dans le domaine de la santé. Les nouveaux principes de l’AMA guideront l’engagement de l’organisation avec l’administration, le Congrès et les parties prenantes de l’industrie dans les discussions sur l’avenir des politiques de gouvernance visant à réglementer le développement, le déploiement et l’utilisation de l’IA dans le domaine des soins de santé.
Les principes de l’AMA appellent à des politiques qui préviennent les dommages potentiels aux médecins et aux patients. Les concepts clés des principes sont les suivants :
Surveillance
L’AMA encourage une approche pangouvernementale pour mettre en œuvre des politiques de gouvernance visant à atténuer les risques associés à l’IA dans le domaine de la santé, mais reconnaît également que les entités non gouvernementales ont un rôle à jouer dans la surveillance et la gouvernance appropriées de l’IA dans le domaine de la santé.
Selon l’AMA, la Food and Drug Administration (FDA) réglemente les dispositifs médicaux compatibles avec l’IA ; cependant, de nombreux types de technologies basées sur l’IA échappent au champ d’application de la surveillance de la FDA, y compris l’IA qui peut avoir des applications cliniques. « Bien que la Commission fédérale du commerce et le Bureau des droits civils de la santé et des services sociaux supervisent certains aspects de l’IA, leurs pouvoirs sont limités et inadéquats pour garantir le développement et le déploiement appropriés de l’IA en général, et en particulier dans le domaine des soins de santé. » les lignes directrices notées.
Pour guider le développement, l’AMA note que les experts cliniques sont les mieux placés pour déterminer si les applications de l’IA sont de haute qualité, appropriées et valides d’un point de vue clinique. Cela nécessitera du développement, des tests et des lignes directrices. Le respect des politiques de gouvernance nationales est nécessaire pour développer l’IA de manière éthique et responsable afin de garantir la sécurité des patients, la qualité et l’accès continu aux soins. « Les accords volontaires ou le respect volontaire ne suffisent pas », a déclaré l’AMA.
Transparence
L’AMA souligne que la transparence est essentielle pour utiliser l’IA dans les soins de santé afin d’établir la confiance entre les patients et les médecins. Les caractéristiques et informations clés concernant les processus de conception, de développement et de déploiement doivent être prescrites par la loi lorsque cela est possible, y compris les sources potentielles d’iniquité dans la formulation des problèmes, les intrants et la mise en œuvre.
« Lorsque l’IA est utilisée d’une manière qui a un impact direct sur les soins aux patients, l’accès aux soins ou la prise de décision médicale, cette utilisation de l’IA doit être divulguée et documentée aux médecins et/ou aux patients d’une manière culturellement et linguistiquement appropriée. La possibilité pour un patient ou son soignant de demander un examen supplémentaire à un clinicien agréé devrait être disponible sur demande », a déclaré l’AMA.
Divulgation et documentation
L’AMA appelle à une divulgation et à une documentation appropriées lorsque l’IA a un impact direct sur les soins aux patients, l’accès aux soins, la prise de décision médicale, les communications ou le dossier médical.
Deux exemples de cela incluent lorsque l’IA ou d’autres systèmes ou programmes basés sur des algorithmes sont utilisés d’une manière qui a un impact sur l’accès des patients aux soins, par exemple par les payeurs pour déterminer les réclamations ou fixer les limites de couverture, l’utilisation de ces systèmes ou programmes doit être divulguée aux personnes concernées. des soirées. L’utilisation de technologies basées sur l’IA par les hôpitaux, les systèmes de santé, les cabinets médicaux ou d’autres entités, où les patients interagissent directement avec l’IA, doit être divulguée aux patients au début de la rencontre ou de l’interaction avec la technologie basée sur l’IA.
En outre, l’AMA prévient que les médecins devraient « réfléchir soigneusement à l’opportunité de s’engager ou non dans des technologies de soins de santé basées sur l’IA si le développeur ne divulgue pas ces informations ». Comme le risque d’une IA incorrecte augmente les risques pour les patients [such as with clinical applications of AI that impact medical decision making]la divulgation de ces informations devient de plus en plus importante.
IA générative
Pour gérer les risques, l’AMA appelle les organisations de soins de santé à développer et à adopter des politiques appropriées qui anticipent et minimisent les impacts négatifs associés à l’IA générative. L’IA générative peut reconnaître, résumer, traduire, prédire et générer du texte et d’autres contenus sur la base des connaissances acquises à partir de grands ensembles de données. « Les outils d’IA générative trouvent un nombre croissant d’utilisations dans les soins de santé, notamment pour l’assistance aux fonctions administratives, telles que la génération de notes de bureau, la réponse aux demandes de documentation et la génération de messages pour les patients », a déclaré l’AMA. Les cliniciens et le personnel doivent être correctement informés des risques et des avantages de l’IA générative.
Les politiques de gouvernance doivent être en place avant leur adoption et leur utilisation. Ces politiques devraient interdire l’utilisation d’informations confidentielles, réglementées ou exclusives pour inciter l’IA générative à générer du contenu.
Confidentialité et sécurité
Construit sur le Principes de confidentialité de l’AMA (PDF), l’AMA donne la priorité à des mesures robustes pour protéger la vie privée des patients et la sécurité des données. Les développeurs d’IA ont la responsabilité de concevoir leurs systèmes dès le départ en tenant compte de la confidentialité. Les développeurs et les organisations de soins de santé doivent mettre en œuvre des mesures de protection pour donner aux patients l’assurance que les informations personnelles sont traitées de manière responsable. Le renforcement des systèmes d’IA contre les menaces de cybersécurité est crucial pour leur fiabilité, leur résilience et leur sécurité.
Atténuation des biais
Pour promouvoir des résultats équitables en matière de soins de santé, l’AMA plaide pour l’identification et l’atténuation proactives des biais dans les algorithmes d’IA afin de promouvoir un système de santé juste, inclusif et exempt de discrimination. « Les organisations de soins de santé devraient élaborer des politiques de gouvernance qui atténuent les risques de préjugés, de discrimination, de promotion de stéréotypes et d’impacts disparates sur l’accès ou les résultats. »
Responsabilité
L’AMA continuera de plaider pour garantir que la responsabilité des médecins pour l’utilisation de technologies basées sur l’IA soit limitée et adhère aux approches juridiques actuelles en matière de responsabilité médicale.
Les principes de l’AMA abordent également les problèmes liés à l’utilisation de l’IA par les payeurs pour déterminer les réclamations et fixer les limites de couverture. L’AMA a exhorté les payeurs à prendre des mesures pour garantir que l’utilisation de systèmes de prise de décision automatisés ne réduit pas l’accès aux soins ou ne refuse pas les soins à des groupes spécifiques. « Les payeurs doivent fournir des preuves claires que leurs systèmes ne font pas de discrimination, n’augmentent pas les inégalités et que des protections sont en place pour atténuer les préjugés », a déclaré l’AMA.
Le jugement clinique et l’examen humain des circonstances individuelles ne devraient pas être remplacés par des systèmes d’IA, et une surveillance réglementaire stricte sera nécessaire à mesure que les payeurs continuent de déployer ces systèmes pour les décisions en matière de couverture et de réclamation, ainsi que pour la conception des prestations.
L’AMA espère qu’en établissant ces lignes directrices, elle guidera l’utilisation responsable et équitable des outils d’IA pour contribuer positivement à l’avenir des soins de santé.
