ALS - Magazine 7 - Avril 2020

10 / ALSMag QUESTIONS JURIDIQUES POSÉES PAR L’IA DANS DIFFÉRENTS DOMAINES La santé Le rapport Villani sur l’IA préconise de renforcer la confiance du citoyen dans l’utilisation de ses données, en renforçant la législation existante et en garantissant la transparence et la loyauté dans leur traitement par l’IA. À la suite de ce rapport, le présidentde laRépubliqueaannoncé lacréationen 2018 du Health Data Hub . Cette nouvelle structure vise à inclure les données du SNDS (Système national des données de santé, système existant de mutualisation et d’accès aux données de santé unique au monde), à les élargir à d’autres sources potentielles et à faciliter leur exploitation. Elle regroupeunnombre importantdebasesdedonnées de sources, origines et contenus très variés. L’objectif est de centraliser les données provenant de sources multiples (les bases, les dossiers patients, la médecine de ville et les patients eux-mêmes) accessibles par une grande variété d’acteurs : professionnels de santé, chercheurs, acteurs économiques et enfin citoyens. Tout en permettant une meilleure connaissance, sans cesse actualisée, de l’état de santé des patients, cette collecte massive de données à caractère personnel présente des risques éthiques et juridiques. L’enjeu de l’anonymisation des données est bien sûr fondamental, pour que le suivi des comportements affectant la santé ne devienne pas un instrument de contrôle. En 2018, la FDA américaine (Food and Drug Administration) a autorisé la mise sur le marché d’un premier système d’IA, permettant le dépistage, par analyse d’images, de la rétinopathie diabétique. Il s’agit d’une première. Ces utilisations médicales de l’IA visent à réduire la durée des examens, tout en assurant une qualité homogène des soins. Elles sont appelées à se multiplier dans un futur proche, notamment dans le domaine de la radiologie. La robotique et la « personne électronique » Depuis les premiers robots humanoïdes (ASIMO de Honda en 2000), la robotique a accompli d’énormes progrès et des robots dits intelligents, plus ou moins autonomes, sont apparus dans divers domaines d’activité : médecine, transports, industrie, agriculture, militaire, etc. En 1942, l’écrivaindescience-fiction I.Asimovavaiténoncé trois « lois de la robotique », selon lesquelles un robot ne peut notamment pas attenter à la sécurité d’un être humain et doit obéir à un être humain, sauf en cas de conflit avec le principe précédent. Ces lois semblent supposer que les robots comprennent le monde qui les entoure et sont dotés de conscience, ce qui est loin d’être le cas, même si des laboratoires travaillent sur ce thème. Pour l’instant, il faut établir un cadre éthique des robots et des normes intégrant la protection des valeurs humaines, afin de combler le vide législatif actueletd’éviterdepossiblesdérives.Leproblème n’est pas simple, car les valeurs éthiques et les sensibilités varient selon les pays et les civilisa- tions alors que les normes et les standards doivent être universels : il s’agit donc de légiférer sur le plan international … Une démarche précurseure intéressante se trouve dans la résolution du Parlement européen sur la robotique du 16 février 2017, concernant des règles de droit civil sur la robotique [13] . On y insiste notamment « sur le principe de transparence, à savoir qu’il devrait toujours être possible de fournir la justification rationnelle de toute décision prise avec l’aide de l’intelligence artificielle » . Le Parlement européen préconise que chaque robot soit doté d’une « boîte noire » contenant les données sur chaque opération réalisée. La résolution préconise également l’adoption de règles spéciales dans différents domaines, notamment les véhicules autonomes, les drones, les robots de compagnie et de soins à la personne, et les robots médicaux. Enfin, elle recommande la création d’un statut de « personne électronique » pour les robots, ce qui les doterait de droits et de devoirs, y compris celui de réparer les dommages qu’ils causent. Cela rejoint une tendance nouvelle, celle de la conception de robots éthiques, capables d’évaluer les conséquences de leurs actions. Les droits antiques donnés aux esclaves gréco-romains pourraient constituer une bonne base de réflexion [14] . La réflexion sur l’éthique des machines est par ailleurs essentielle. Le projet Moral Machine du MIT est un premier exemple intéressant. Ce projet tend à étudier les réactions du grand public devant le problème complexe de la distribution du risque par les véhicules autonomes (cf. ci-dessous). L’irruption de l’IA dans le quotidien soulève des questions importantes relatives à la nuisance des systèmes d’IA (cf. lois d’Asimov pour les robots), au statut moral des machines, à la détermination de responsabilités et aux propriétés requises d’un système du fait de son rôle social et médical potentiel : prédictibilité, transparence à l’ins- pection… Le véhicule autonome Exemple emblématique de robots sophistiqués, les véhicules autonomes, « voitures sans chauffeur », sont étudiés par la plupart des grands construc- teurs automobiles mondiaux ainsi que des grands acteurs du numérique : Google avec sa filiale Waymo, mais aussi Alibaba, Apple, Uber. Le fonc- tionnement de ces systèmes autonomes repose sur trois éléments majeurs : f un positionnement précis (GPS) et une base de données géographiques très complète, L’intelligence artificielle et le droit