Prise de position de l’EAHP sur l’IA
« Des conditions strictes pour l’utilisation de l’IA »
Dans une récente prise de position, l’Association européenne des pharmaciens hospitaliers (EAHP) estime que l’intelligence artificielle est une technologie susceptible d’apporter une importante valeur ajoutée aux pharmacies hospitalières, mais uniquement à condition qu’elle soit développée et mise en œuvre de manière sûre, réfléchie, éthique et transparente, en étroite collaboration avec les pharmaciens et les patients.
Selon ce document, l’IA peut faciliter les tâches administratives et le traitement des données, réduire la fatigue liée aux tâches répétitives, améliorer la cohérence et limiter les erreurs humaines. Ces avantages sont particulièrement pertinents alors que les systèmes de santé européens sont confrontés à des pénuries de personnel et de médicaments. L’EAHP constate toutefois que le déploiement effectif de l’IA dans les soins de santé reste lent en raison des incertitudes juridiques, du manque d’infrastructures, de l’insuffisance des compétences numériques, des questions éthiques, d’un contrôle encore mal défini et des coûts.
Recommandations
L’EAHP formule cinq recommandations afin d’encadrer correctement l’introduction et l’utilisation de l’IA :
-La Commission européenne et les gouvernements nationaux doivent élaborer une législation et des lignes directrices claires pour une utilisation sûre de l’IA. Celles-ci doivent notamment préciser les responsabilités et la responsabilité juridique des professionnels de santé, dont les pharmaciens hospitaliers.
-Un niveau élevé de protection des données et de respect des normes éthiques doit rester garanti lors du développement et de l’utilisation des systèmes d’IA.
-Des investissements sont nécessaires dans les infrastructures numériques et physiques des hôpitaux afin de permettre un déploiement efficace des systèmes d’IA.
-Les pharmaciens hospitaliers doivent être associés dès les premières étapes à la conception, au développement, au choix des paramètres et à l’évaluation des systèmes informatiques et d’IA intervenant dans les processus liés aux médicaments.
L’EAHP se félicite que l’AI Act accorde une place à la maîtrise de l’intelligence artificielle. Pour aller plus loin, les professionnels de santé, les étudiants et les patients doivent bénéficier de formations et de ressources supplémentaires.
Le document souligne que le cadre réglementaire européen évolue rapidement, l’AI Act en constituant un élément central. Pour l’EAHP, celui-ci doit s’articuler de manière cohérente avec l’Espace européen des données de santé, le RGPD, le règlement sur les dispositifs médicaux et le règlement relatif aux dispositifs médicaux de diagnostic in vitro.
De nombreux systèmes d’IA utilisés dans les soins de santé, tels que les algorithmes diagnostiques, les systèmes d’aide à la décision clinique et les dispositifs de surveillance des patients, devraient, selon l’EAHP, relever de la catégorie des systèmes à haut risque. Ils nécessitent donc des exigences claires en matière de sécurité, de gestion des risques, de contrôle humain, de documentation, de surveillance et de déclaration des incidents.
L’EAHP distingue également l’IA à usage général, comme les grands modèles qui ne sont pas spécifiquement conçus pour les soins de santé, des systèmes d’IA clinique. Pour les modèles généralistes, la transparence et la connaissance de leurs limites sont essentielles afin que les professionnels de santé et les patients sachent comment interpréter les résultats produits.
La responsabilité reste un sujet sensible
La responsabilité en cas d’erreur d’un système d’IA demeure une question importante. Il n’est pas toujours évident de déterminer qui doit être tenu responsable : le développeur, l’établissement de soins ou le professionnel de santé qui utilise le système.
L’EAHP estime que les professionnels de santé restent responsables de leurs décisions cliniques, mais qu’ils ne devraient pas pouvoir être tenus juridiquement responsables d’une erreur commise par un système d’IA validé lorsque cette erreur ne pouvait raisonnablement être identifiée ou évitée par l’utilisateur. L’organisation plaide donc en faveur de règles de responsabilité claires, harmonisées et spécifiquement adaptées à l’intelligence artificielle.
Données, vie privée et cybersécurité
L’IA appliquée aux soins de santé nécessite de grandes quantités de données d’entraînement représentatives, qui contiennent souvent des informations de santé extrêmement sensibles. L’EAHP reconnaît que l’Espace européen des données de santé offre des possibilités de réutilisation sécurisée des données médicales à des fins de recherche en santé et dans les soins, mais prévient que cette utilisation doit rester strictement encadrée par les règles de protection des données.
Le document insiste notamment sur l’importance de la minimisation des données, de leur traitement sécurisé, d’un contrôle strict des accès, de la transparence et de la supervision du partage des données. Le secteur de la santé constitue en outre une cible importante pour les cyberattaques. Les systèmes d’IA doivent donc également être évalués au regard de leurs risques spécifiques en matière de sécurité.
Pour l’EAHP, l’amélioration de l’accès aux données ne peut en aucun cas primer sur leur protection, la confidentialité des patients et leur consentement éclairé.
Infrastructures
L’IA ne peut être utile que si les hôpitaux disposent d’infrastructures de base suffisantes. Selon le document, de nombreux établissements européens, notamment les petits hôpitaux et ceux situés en zone rurale, ne disposent toujours pas des équipements numériques élémentaires nécessaires.
Les systèmes d’IA doivent pouvoir s’intégrer correctement aux systèmes informatiques existants et aux processus cliniques. Une mauvaise interopérabilité et la fragmentation des systèmes constituent, selon l’EAHP, non seulement des obstacles pratiques, mais aussi des risques pour la sécurité des patients.
L’IA nécessite également une connectivité stable, un stockage sécurisé des données et une puissance de calcul suffisante. L’EAHP demande donc que les financements ne profitent pas uniquement aux développeurs d’IA, mais également aux établissements de soins, afin qu’ils puissent mettre en place les conditions nécessaires.
Un autre problème trop souvent sous-estimé concerne le coût écologique de l’IA. Les centres de données consomment d’énormes quantités d’eau et d’électricité. Pour l’EAHP, le développement de l’IA dans le secteur de la santé ne peut se faire au détriment de la durabilité environnementale. L’organisation propose donc d’intégrer l’impact environnemental dans les évaluations des technologies de santé, notamment par le biais d’une évaluation environnementale obligatoire.
« Le document met en garde contre une vision de l’IA comme solution miracle. »
Pas de solution miracle
L’EAHP considère les pharmaciens hospitaliers comme des acteurs clés du développement et de l’introduction de l’IA dans les pharmacies hospitalières. L’intelligence artificielle peut être utile tant pour les tâches cliniques qu’opérationnelles, mais tous les processus de travail ne se prêtent pas à l’automatisation ou à une assistance par l’IA.
Le document met en garde contre une focalisation excessive sur l’IA comme solution miracle. Certaines solutions éprouvées, moins coûteuses et plus faciles à mettre en œuvre, peuvent apporter davantage de valeur que de nouveaux outils d’IA dont l’efficacité reste encore incertaine.
Selon l’EAHP, les pharmaciens hospitaliers doivent participer à la définition des critères d’achat, à la validation des algorithmes sur la base des erreurs de médication, au suivi après leur mise en œuvre ainsi qu’à l’identification des applications d’IA à haut risque pour lesquelles leur expertise en matière de médicaments peut améliorer la sécurité des patients.
La position défendue par l’EAHP est claire : l’IA doit rester un outil d’aide. Elle doit renforcer l’expertise du pharmacien hospitalier, et non la remplacer. La transparence et l’explicabilité sont donc essentielles. Les utilisateurs doivent pouvoir comprendre pourquoi un système d’IA formule une recommandation ou une prédiction donnée. Cela permet d’identifier plus rapidement les erreurs, les biais et les utilisations abusives.