ALS - Magazine 7 - Avril 2020

ALSMag / 11 ALS MAG f un ensemble de capteurs donnant une vision précise (radar, lidar, caméras, etc.) de l’environ- nement du véhicule, f un module d’IA chargé de prendre les nombreuses décisions qui constituent la conduite (accélération, freinage, virage, évitement d’obs- tacles, etc.). Les aspects scientifiques et techniques du problème font l’objet de nombreuses études théoriques et d’expérimentations en situation réelle. Tout aussi importants sont les aspects éthiques, psychologiques, politiques et enfin juridiques. La convention de Vienne a été adaptée en 2016 de façon à autoriser les systèmes de conduites automatisées «sices technologiessontconformes aux réglementations de l’ONU ou peuvent être contrôlées et désactivées par le conducteur ». La législation a été modifiée dans certains États des USA (Nevada, Californie), en Grande- Bretagne, etc., mais le chemin est encore long vers un système international cohérent en termes de règles de conduite et de partage de responsa- bilités. La question de la détermination des degrés de responsabilité est en effet centrale. Si une voiture autonome provoque un accident, qui est considéré comme responsable : le constructeur du véhicule, l’ingénieur qui a développé le système de conduite autonome, l’entraîneur qui a réalisé l’apprentissage du système d’IA en lui fournissant les données adéquates, le propriétaire de la voiture ou la personne assise à la place du conducteur ? La responsabilité sera partagée entre ces personnes, selon des modalités qui restent à définir. Il faudra modifier le droit pour prendre en compte ce type de partage. Pour ce qui concerne la responsabilité civile , une adaptation du dispositif est nécessaire. Sur l’aspect financier, on escompte que la conduite autonome permettra de diminuer la fréquence et la gravité des accidents. Maintenir le principe d’une couverture obligatoire par les assurances est donc tout à fait envisageable. Pour ce qui concerne la responsabilité pénale , la question demande également une réponse, mais elle n’est au fond pas si éloignée de questions déjà jugées, relatives à la responsabilité pour faute des concepteurs et fabricants de systèmes automa- tisés quand ces systèmes présentent des défauts. De tels systèmes sont déjà présents à bord des véhicules, comme l’ABS ou le freinage automa- tique d’urgence, et ont fait l’objet de procès. Les centaines de milliers de voitures autonomes expérimentales ayant déjà parcouru, au total dans différents pays, des milliards de kilomètres dans des conditions de circulation réelle, les réponses à ces questions deviennent urgentes. La parole et l’image La voix et l’image sont des données personnelles à part entière, comme l’avait précisé la CNIL dès 1996 [15] . À ce titre, elles relèvent du RGPD qui assure ainsi une protection juridique aux individus. Cette protection est bienvenue dans la mesure où le traitement de la parole et des images est devenu courant en IA. En reconnaissance automatique de la parole, la conjonction des modèles stochastiques (modèles de Markov cachés, HMM) et neuronaux (notamment modèles convolutifs) a conduit à une amélioration notable des performances pour des applications variées : commandes vocales, dictée, traduction. Les assistants vocaux envahissent les foyers : Siri d’Apple lancé en 2011, Alexa de Facebook vendu à plus de 100 millions d’exem- plaires. Une caractéristique de ces systèmes est de nécessiter de très grandes quantités de données pour leur apprentissage. À chaque utili- sation, la voix du locuteur est ainsi enregistrée dans le but d’améliorer les modèles utilisés. Là encore ressort l’importance de garantir l’anonymat des données, ainsi que du degré de confiance que l’on a dans les fournisseurs de ces services.Notons lenouveauprojetVestad’Amazon qui vise à créer un robot grand public qui serait une version mobile d’un assistant vocal. La situation est plus préoccupante en ce qui concerne l’image. Dans ce domaine également, l’apparition des modèles neuronaux convolutifs a conduit à une amélioration spectaculaire des taux de reconnaissance, parfois comparables à celle de l’humain, notamment pour l’interprétation d’images [16] . Sur le plan juridique, l’utilisation pour l’identification de personnes pose problème. La reconnaissance faciale est ainsi utilisée dans les aéroports (notamment en France), mais aussi à des fins de surveillance, de recherche de personnes portées disparues et de suivi d’indi- vidus en Chine (plusieurs dizaines de millions de caméras installées dans des lieux publics) et dans différentes villes dans le monde (Los Angeles depuis 2009, Londres, etc.). Cela permet de réduire la criminalité, le vol ou la fraude et d’augmenter la sécurité des personnes. En Chine, le paiement par reconnaissance faciale est également opéra- tionnel chez les plateformes de paiement électro- nique comme Alipay et Wechat. Cela est problématique pour le respect de la vie privée. Plusieurs États et villes ont décidé d’interdire l’utilisation de la reconnaissance