L'intelligence artificielle générative (Gen-AI) a progressivement modifié le système de santé. Cette technologie a repensé le flux de travail des cliniciens, les interactions avec les patients et la gestion des données des patients d'une manière qui peut s'avérer bénéfique, mais qui suscite également des inquiétudes.
« Nous voulons que l'intelligence artificielle générative remplisse la promesse du dossier de santé électronique (DSE) », a déclaré le Dr Ali Soroush, professeur adjoint aux divisions de gastroentérologie et de médecine numérique et basée sur les données (D3M) à l'École de médecine Icahn de New York. La ville de York. « Lorsque nous avons commencé à utiliser les DSE, l'idée était : « Si nous disposons de plus de données, nous pouvons faire mieux. » Mais maintenant, nous avons trop de données.
Évolution et potentiel de la génération IA
Les capacités de l’IA – des logiciels qui apprennent de l’expérience et affichent des capacités imitant la cognition humaine – ont évolué particulièrement rapidement depuis les années 2010. Propulsé par le Big Data, des techniques d'apprentissage automatique précédemment établies1 ont commencé à montrer un potentiel croissant pour aider au diagnostic clinique, à la prévision des risques de maladie ou des résultats pour la santé et à l’aide à la décision clinique.2 Mais cela nécessitait que des données structurées de manière cohérente soient utilisées comme entrées dans un modèle d’IA, limitant ainsi l’utilité de l’IA pour les cliniciens occupés.
Plus récemment, les avancées techniques dans la création de modèles d’IA leur ont permis de traiter des données qui n’étaient pas intentionnellement structurées sous forme d’ensembles de données, comme des enregistrements sonores de conversations lors de rencontres cliniques, des demandes de renseignements d’un patient à un chatbot et même des vidéos.3 L'ajout de modèles linguistiques de grande taille a donné naissance à de nouvelles IA Gen performantes, telles que ChatGPT d'OpenAI et Claude AI d'Anthropic. Ces nouveaux outils peuvent synthétiser de nouvelles données, du texte, des images ou d'autres résultats en fonction de modèles de données apprises préexistantes.4
Une telle créativité humaine permet un nombre croissant de nouveaux cas d’utilisation. Par exemple, un clinicien peut effectuer un enregistrement sonore d'une conversation clinicien-patient via une IA intégrée dans un DSE, pour générer une note de rencontre écrite. Et alors que les chatbots précédents étaient généralement limités à un menu restreint de résultats, les itérations plus récentes peuvent donner des réponses écrites sophistiquées à une demande d'un patient, en utilisant le ton d'écriture préféré d'un utilisateur clinicien spécifique.
« Les humains sont une ressource limitée », a déclaré le Dr Soroush. « Les ressources informatiques et IA sont moins limitées. Ce serait donc passionnant si nous pouvions utiliser l’IA pour permettre aux humains de se concentrer sur des choses comme communiquer avec les patients, avoir des conversations difficiles ou effectuer des procédures compliquées. Et je pense que les gens seront plus heureux de faire ces choses au lieu de fouiller dans un dossier médical déroutant.
La technologie de l’IA du futur pourrait également contribuer à résoudre les problèmes de systèmes dans les petits cabinets, a expliqué le Dr Soroush.
« Par exemple, au lieu d’embaucher un spécialiste de la facturation et un planificateur, ils pourraient embaucher un planificateur et un planificateur de facturation IA pour une fraction du prix », a-t-il déclaré. « Il est passionnant de penser que l’IA pourrait nous aider à améliorer la qualité des soins, à réduire les charges administratives et à nous aider, en tant qu’êtres humains, à nous sortir du bourbier de nos données médicales. »
Questions relatives à la confidentialité des patients
Même si les avantages peuvent être transformateurs, les risques de la Gen-AI pour les acteurs des soins de santé sont également considérables. Pour être utiles dans les établissements de soins de santé, les Gen-AI, en particulier les grands modèles commerciaux tels que ChatGPT, sont formés (c'est-à-dire développés) à l'aide d'énormes quantités de données. Cela inclut intrinsèquement les données personnelles des consommateurs de soins de santé. Ces données sont partagées avec le modèle d'IA tout au long de son cycle de vie : lors des phases de collecte de données initiales, de développement du modèle (formation) et de mise en œuvre du modèle.3,4 Étant donné que le stockage et l’analyse des données nécessitent une connectivité Internet et cloud, des risques de perte de sécurité des données ou de violation de la confidentialité peuvent survenir à chacune de ces phases.
La nature et l’étendue de ces vulnérabilités sont encore à découvrir. Des groupes de recherche, par exemple, ont rapporté et démontré des techniques d'incitation non intuitives (c'est-à-dire des requêtes ou d'autres entrées dans le modèle implémenté) qui peuvent extraire textuellement les données de formation.5 De telles techniques pourraient être utilisées de manière malveillante par un prompteur qualifié pour obtenir des informations sensibles ou protégées.
Cette perspective donne une nouvelle urgence à des questions telles que quelles utilisations des données des patients devraient être autorisées, à qui devraient appartenir les données et dans quelle mesure les données sont protégées contre les violations de la vie privée, y compris celles couvertes par la Health Insurance Portability and Accountability Act (HIPAA). Les régulateurs italiens ont déjà averti OpenAI que ChatGPT violait le règlement général sur la protection des données (RGPD) de l'Union européenne, qui couvre la confidentialité des données.6
Préoccupations liées à la sécurité des données pour les IA de génération
Ces préoccupations en matière de confidentialité sont étroitement liées aux préoccupations en matière de cybersécurité, en particulier à l’heure où les ensembles de données sur les technologies de la santé sont de plus en plus volumineux. La taille massive de ces ensembles de données en fait des cibles de cyberattaques attrayantes, ce qui pose un nouveau défi en matière de conformité à la loi HIPAA.
Les violations de données dans les établissements de santé américains continuent d'augmenter, année après année. En 2023, selon le Bureau des droits civils (OCR) du ministère de la Santé et des Services sociaux (HHS), 725 violations de sécurité signalées concernaient plus de 133 millions de dossiers de patients.7 Ces chiffres sont sous-estimés, car l'OCR ne publie que les violations d'au moins 500 dossiers. Les ransomwares et le piratage informatique constituent 80 % de ces incidents, malgré les améliorations apportées aux technologies et aux pratiques de cryptage des données. Pour certains, des événements tels que l'attaque de piratage informatique très perturbatrice contre Change Healthcare8 constituent un contexte inhospitalier pour les innovations en matière de soins de santé qui s’appuient sur des ensembles de données de la taille d’un modèle d’IA.
« C’est une période à la fois passionnante et effrayante, compte tenu des avancées de l’IA qui ont eu lieu et qui continuent d’avoir lieu », a déclaré le Dr Soroush. « Cela pourrait nous mener dans des directions différentes. Il y a un risque de grands dommages, mais il y a aussi un potentiel d’amélioration considérable et de bienfaits pour la pratique de la médecine. »
Le Dr Soroush a souligné l’importance d’une mise en œuvre appropriée de l’IA dans les soins de santé.
« Nous ne voulons pas procéder de la même manière que Facebook a déployé les médias sociaux, c’est-à-dire en avançant vite et en cassant des nouveautés », a-t-il déclaré. « En fait, en médecine, nous avons tendance à faire le contraire : avancer très lentement, tester intensivement, puis déployer. Mais nous devons trouver comment y parvenir sans avoir 15 ou 20 ans de retard sur la technologie. »
Le Dr Soroush a également expliqué la nécessité de répondre aux préoccupations des patients concernant l’IA, qui ont été signalées dans les enquêtes.9,10 « Ils ne veulent pas qu'un robot prenne les décisions », a-t-il déclaré. « Ils ne veulent pas vivre une expérience impersonnelle. Ils ne veulent pas que leurs données soient vendues à une entreprise, car ils accordent de l'importance à la confidentialité. Ils ne veulent pas que des informations soient transmises à leurs compagnies d'assurance, ce qui entraînerait une augmentation de leurs tarifs.
Il est possible d’améliorer l’expérience du patient et d’atténuer ses inquiétudes grâce à « des garde-fous appropriés autour de ces problèmes », a mentionné le Dr Soroush, soulignant l’importance de donner la priorité à la relation patient-prestataire tout au long du processus de développement des outils d’IA.
Répondre aux besoins de confidentialité et de sécurité à l’ère de la génération IA
Des efforts sont en cours pour renforcer la protection des données de santé et pour gagner la confiance du public dans les systèmes de santé utilisant Gen-AI. Ces efforts dépendent en partie des cadres réglementaires en matière de protection des données, tels que la HIPAA et le RGPD. À leur tour, ces réglementations contribuent à éclairer la manière dont les entreprises de technologies de la santé concevront une infrastructure sécurisée pour les systèmes et les plates-formes permettant d’exécuter des Gen-AI.
Les solutions techniques visant à protéger les informations sensibles utilisées par les modèles Gen-AI continuent d'évoluer. Certaines solutions s'attaquent à la conception et aux fonctionnalités des modèles eux-mêmes. Les algorithmes, ou règles de fonctionnement, peuvent restreindre le flux de données réelles des patients pendant la formation du modèle, ne diffusant à la place que les informations numériques nécessaires à la mise à jour de la précision du modèle.4 De tels algorithmes seront probablement associés à la technologie blockchain, qui forme une couche de sécurité supplémentaire en maintenant un « registre » décentralisé pour enregistrer et autoriser l’accès et les modifications à une base de données.11 Dans d’autres stratégies, seules des données synthétiques ou proxy, dont les caractéristiques correspondent aux données des patients réels, sont transmises au modèle.
Certains systèmes de santé choisissent de s’associer à des entreprises technologiques pour utiliser des modèles open source plus petits. Les responsables immédiats du modèle peuvent visualiser son code ou les instructions du programme, contrairement aux IA « boîte noire » proposées par des sociétés telles qu’OpenAI et Microsoft. Cela peut offrir une protection des données plus stricte, car les données peuvent être sécurisées au sein du système de santé qui utilise l’IA. Les compromis incluent que ces modèles, par rapport aux Gen-AI commerciales telles que ChatGPT, peuvent être moins stables (c'est-à-dire planter plus souvent) et accepter de plus petites quantités d'entrées textuelles.12
Chaque effort visant à sécuriser les données entraîne de nouveaux défis. Les algorithmes d’apprentissage sophistiqués et la blockchain nécessitent des ressources réseau informatiques considérables. Les données synthétiques volées pourraient être utilisées pour générer des réclamations d'assurance frauduleuses, ou réinjectées dans le « vrai » ensemble de données, compromettant ainsi l'exactitude des données des patients. Les dirigeants du système de santé et des cliniciens devront s’appuyer sur l’expertise des partenaires en technologie de la santé pour faire face à ces choix et menaces.
« Le diable se cache dans les détails de certains de ces accords commerciaux », a déclaré le Dr Soroush, ajoutant :
« Ils peuvent avoir un modèle nouveau ou expérimental à déployer, et ils peuvent vous proposer une très bonne affaire en échange. Mais quelles données leur fournissez-vous en échange ? Ils peuvent probablement utiliser ces données dans leurs modèles à des fins de formation, puis les monétiser et les utiliser à d’autres fins. Ainsi, si votre système de santé partage des données, non seulement les données doivent être protégées, mais l’institution doit également capter la valeur qu’elle peut créer. Cela devrait profiter aux patients ainsi qu’à l’institution qui a consacré tout son travail à la collecte des données. Parce qu’un établissement disposant de ces ressources peut ensuite améliorer d’autres éléments de la prestation des soins aux patients.
« Ce processus, dit-il, nécessite un bon avocat. »
Le Dr Soroush estime également que les cliniciens utilisateurs finaux devraient développer des connaissances générales en IA. « Si vous êtes médecin, vous avez une formation sur la façon de prescrire des médicaments », a-t-il déclaré. « Vous comprenez la pharmacologie et l’étiquetage des médicaments et savez à peu près à quels résultats vous attendre. Je pense que nous devrons avoir des compétences similaires avec les outils basés sur l'IA : comprendre ce que le modèle est censé faire, où se situent ses points de défaillance potentiels – quelles sont ses « complications » potentielles ? Quels sont les effets secondaires potentiels de mon utilisation modèle? »
Il y a beaucoup de place pour un optimisme prudent, selon le Dr Soroush, quant au fait que la médecine intégrera la Gen-AI selon des valeurs partagées. Groupes de parties prenantes13,14 les niveaux gouvernemental et non gouvernemental peuvent collaborer pour façonner cette intégration.
« Je pense que les soins de santé sont probablement le domaine où nous allons le mieux faire, par rapport à d'autres secteurs », a-t-il déclaré. «C'est parce que nous disposons de systèmes intégrés, comme HIPAA, pour protéger la vie privée. [And] « Le fait d’avoir des groupes d’intervenants interconnectés, à différents niveaux des soins de santé, me donne l’espoir que l’intégration de l’IA se déroulera mieux que les vagues précédentes de technologies de la santé. »
Divulgation : Le Dr Soroush a déclaré détenir des actions dans des sociétés impliquées dans le développement de produits de soins de santé basés sur l'intelligence artificielle et une collaboration de recherche non rémunérée avec une société d'appareils.
