Le Garant de la confidentialité a publié un décalogue pour la création de services de santé au niveau national à travers des systèmes intelligence artificielle. Parmi les principes fondamentaux inclus dans la liste, on trouve, dans l’ordre, la transparence des processus décisionnels, quelques indications sur les décisions automatisées supervisées par des humains et la non-discrimination algorithmique. Outre ces points, le Décalogue prend en compte d’autres aspects qui doivent être examinés pour identifier L’utilisation de l’intelligence artificielle en santé publique..
Bases juridiques, principes de responsabilité, fonctions, analyse d’impact sur la protection des données, qualité et intégrité des données et confidentialité : autant d’éléments qui contribuent à établir un cadre de référence permettant de définir Les opportunités et les limites de l’utilisation des données de santé. dans le domaine de l’intelligence artificielle.
En particulier, sur la base des indications de l’Autorité, Le patient doit avoir le droit de savoir.également à travers des campagnes de communication, tous les processus de prise de décision (par exemple, dans un contexte clinique ou de politique de santé) basé sur un traitement automatisé effectué via des outils d’IA. De plus, vous devez être en mesure de recevoir des informations claires sur la logique utilisée pour prendre ces mêmes décisions.
Le processus de prise de décision doit être supervisé par un humain pour permettre au personnel soignant de vérifier, valider ou réfuter les traitements effectués par les outils d’IA. Il est conseillé, prévient le Garant, que la personne responsable du traitement utilise des systèmes d’IA fiables qui réduisent les erreurs dues à des causes technologiques ou humaines et vérifient périodiquement leur efficacité, en mettant en œuvre des mesures techniques et organisationnelles appropriées. Cela vise également à atténuer. effets discriminatoires possibles que le traitement de données inexactes ou incomplètes puisse affecter la santé de la personne.
Un système national centralisé pour le contrôle et le développement de l’IA
C’est mentionné dans le document. un cas américain sur un système d’IA utilisé pour estimer le risque sanitaire de plus de 200 millions d’Américains. Les algorithmes avaient tendance à attribuer un niveau de risque plus faible aux patients afro-américains présentant les mêmes problèmes de santé, en raison de la mesure utilisée basée sur les dépenses individuelles moyennes de santé qui étaient moins élevé pour la population afro-américainerefuser à ces derniers l’accès à des soins adéquats.
Le document souligne également que des données obsolètes ou inexactes pourraient également influencer l’efficacité et l’exactitude des services que les systèmes d’IA visent à créer.
Concernant la base juridique de l’utilisation de l’intelligence artificielle, le traitement des données de santé utilisant des techniques d’IA effectué pour des raisons d’intérêt public dans le secteur de la santé doit être prévu par un cadre réglementaire étatique spécifiquequi identifie les mesures appropriées pour protéger les droits, libertés et intérêts légitimes des personnes concernées.
En outre, conformément au cadre réglementaire du secteur, le Garant a souligné la nécessité de réaliser une analyse d’impact pour identifier les mesures appropriées pour protéger les droits et libertés des patients, garantissant la le respect des principes du règlement européen.
Un système national centralisé utilisant l’IA détermine, en effet, un traitement systématique à grande échelle des données de santé qui sont incluses parmi celles à « haut risque », pour lesquelles l’analyse d’impact est obligatoire et doit être réalisée au niveau central pour permettre un examen complet de l’adéquation et de la homogénéité des mesures adoptées.
Dans la description des traitements, il est nécessaire d’indiquer spécifiquement la logique algorithmique utilisée aux fins du traitement. déclenchement les données et services, les métriques utilisées pour entraîner le modèle, les contrôles effectués pour vérifier la présence de tout inclination et la possibilité de sa correction.