Vers un encadrement juridique des algorithmes et des robots

Partageons tout d’abord un constat : à l’ère de la gouvernance des algorithmes, ce sont les codeurs qui écrivent l’avenir et qui dessinent les contours du monde de demain. Les bâtisseurs du XXI siècle sont les codeurs de l’intelligence artificielle. Les infrastructures d’intelligence artificielle sont nos nouvelles cathédrales et le code, le béton virtuel de cette nouvelle urbanisation. Ce qui ne va pas sans soulever des défis majeurs, d’ordre éthique et juridique. Le codage, qui commande aujourd’hui les activités des humains, doit être maîtrisable par ces derniers, loyal, compréhensible, intelligible et transparent pour résister à ce nouvel esclavagisme. Une chose est certaine : il faudra nécessairement créer, en la matière, un droit particulier, gouverné par le concept de dignité. Avec en filigrane un enjeu crucial : qui aura le dernier mot ? Qui tranchera, en dernier ressort, des humains ou des IA, en position finale dans une situation critique ? En réalité, les systèmes robotisés et algorithmiques ont déjà des droits  : l’apparition de normes, certes encore empiriques et sectorielles, dessinent lentement mais sûrement les contours d’un véritable droit des robots. Et peu importe si cet avènement est le fruit d’un ensemble de règles de droit tantôt obligatoires tantôt non contraignantes, mais qui en pratique, ont le mérite de «  montrer le chemin  » à une industrie du numérique dans l’attente de solutions, et à des utilisateurs d’objets connectés qui souhaitent être rassurés sur l’utilisation qui est faite de leurs données personnelles. Résolutions, codes de bonne conduite, directives, guidelines, livres blancs, commissions et groupes de travail…  C’est sur les bases de ce droit d’un genre nouveau que repose l’encadrement juridique du développement exponentiel des activités robotiques, des algorithmes et de l’IA.

Un droit «  souple  » en quelque sorte, complété par les premières décisions de jurisprudence rendues en la matière ainsi que les dispositions éparses disséminées dans des lois récentes à vocation générale. Qu’on en juge :

La Commission européenne a publié le 26 juin une version mise à jour de ses lignes directrices visant à promouvoir une IA digne de confiance ;

Le Parlement européen a adopté en février 2019 une Résolution sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique ;

Le Règlement européen sur la protection des données (RGPD), entré en application le 25 mai 2018, pose comme principe qu’une personne ne peut faire l’objet d’une décision fondée exclusivement sur un traitement automatisé ;

Le Conseil constitutionnel est venu encadrer en juin 2018 le recours à des algorithmes autoapprenants (deep learning) comme fondement d’une décision administrative individuelle.

C’est là autant de premières limites posées aux activités algorithmiques. Récemment, face à de possibles incertitudes quant aux règles applicables, en matière de responsabilité civile et pénale, aux véhicules circulant sans conducteur, le Gouvernement français a décidé de clarifier le régime de responsabilité applicable en cas d’accident pendant une expérimentation. La loi Pacte du 22 mai 2019 relative exempte de responsabilité pénale les conducteurs de véhicules pendant les périodes où le système de délégation de conduite est activé. C’est bien là la reconnaissance en creux d’une responsabilité du système robotique lorsque le système de délégation de conduite est activé. Dans le cadre de cette régulation que nous appelons de nos vœux, une évidence : dans l’attente d’un droit en devenir, les IA doivent être conçues « éthique by design ». Cette orientation, gravée dans un code de l’honneur des codeurs, impliquera l’interdiction d’algorithmes liberticides et d’algorithmes indignes. C’est la raison pour laquelle il devient urgent de mettre en place une charte universelle du code dont le principe serait de refuser le code qui porterait atteinte aux droits de l’homme. Dans ce domaine, l’Europe montre la voie : on apprenait cet été que la Commission européenne planchait sur un nouveau standard mondial pour la régulation de l’intelligence artificielle. A n’en pas douter, le droit des robots et de l’IA est en marche.