Les enjeux de l’intelligence artificielle sur le marché juridique

par
5
Consulter Me Lefroy

Sommaire

Aujourd’hui, l’intelligence artificielle constitue un sujet incontournable. Si elle existe depuis plusieurs décennies, ses fonctions et capacités se sont développées de manière considérable ces dernières années. L’intelligence artificielle offre un énorme potentiel dans certains secteurs plus ou moins stratégiques, mais elle comporte également des risques importants. Les enjeux en matière juridique sont nombreux.

C’est dans ce contexte que le 21 avril 2021 la Commission européenne a publié une proposition de réglementation sur l’Intelligence Artificielle (IA). Il s’agit du premier cadre juridique sur l’IA à l’échelle de l’Union européenne.

 

Mais finalement, qu’est-ce que l’intelligence artificielle ? Quels sont les enjeux qui y sont attachés ? Que contient le nouveau règlement de la Commission européenne ? Autant de questions auxquelles répond pour vous Me Mathilde Lefroy, avocate spécialisée en droit des nouvelles technologies.

 

1/ L’intelligence artificielle : définition et enjeux

 

Le terme « intelligence artificielle » couvre un large champ de technologies caractérisées par une évolution rapide. La définition offerte par la nouvelle proposition de règlement de la Commission européenne est une définition en deux parties. D’après le texte, un « système d’intelligence artificielle » est :

  • un logiciel développé au moyen d’une ou plusieurs techniques et approches listées en annexe (systèmes d’apprentissage automatique, systèmes fondés sur la logique et les connaissances et systèmes statistiques) et ;
  • pouvant, pour un ensemble donné d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit.

 

En d’autres mots, il s’agit de l’ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence.

 

Bien que l’intelligence artificielle puisse engendrer de nombreux avantages, elle peut également être la source d’inconvénients et de risques très importants. C’est sur la base de cette constatation que la Commission européenne avait déjà, en février 2020, publié un livre blanc intitulé « Intelligence artificielle – une approche européenne axée sur l’excellence et la confiance ». Le texte illustrait la volonté de l’UE de développer deux objectifs : promouvoir l’intelligence artificielle tout en l’encadrant afin d’éviter les débordements. La récente proposition de législation européenne s’inscrit dans le cadre du deuxième objectif, et vise à renforcer la confiance dans l’IA en proposant un cadre juridique de confiance.

 

Toute la difficulté de l’opération réside dans la mise en balance des risques et des bénéfices associés à l’IA. Le grand défi en termes de régulation consiste en effet à apporter une sécurité juridique importante tout en préservant une certaine flexibilité permettant de s’adapter aux progrès techniques futurs.

 

En ce qui concerne les avantages, l’IA peut en effet permettre des progrès considérables au niveau social, environnemental, mais également apporter des avantages concurrentiels pour les entreprises. À titre d’exemple, l’IA peut :

  • contribuer à la réduction des erreurs ;
  • aider à atteindre un degré de précision supérieur pour certaines tâches, par exemple, dans le secteur de la santé ;
  • faciliter la vie quotidienne, par exemple avec des technologies comme Alexa d’Amazon ou Siri d’Apple.

 

Cependant, l’IA peut également présenter des risques considérables et être la source de conséquences négatives tant pour les individus que pour la société. De plus, l’évolution technologique rapide, l’opacité, la complexité, la dépendance à l’égard des données personnelles et l’autonomie qui la caractérisent viennent encore renforcer la nécessité d’encadrer scrupuleusement ses applications. Certains secteurs ont de forts impacts, comme la lutte contre le changement climatique, la finance, l’agriculture ou encore les affaires intérieures, et requièrent une attention toute particulière. L’IA peut par exemple comporter :

  • des risques en termes de droits fondamentaux, notamment le droit à la dignité humaine, au respect de la vie privée, à la non-discrimination ou encore à l’égalité entre les femmes et les hommes ;
  • des risques accrus en termes de protection des données, puisque les systèmes d’IA sont extrêmement dépendants à l’égard des données personnelles. Ainsi, des risques de mauvais fonctionnement de la technologie, mais aussi de piratage ou d’hameçonnage existent et doivent être pris en compte ;
  • d’autres éléments sont également régulièrement cités comme le coût important attaché à ces technologies, le risque de chômage pour les individus ou encore l’absence de créativité et d’auto-amélioration du système.

 

2/ Champ d’application du nouveau règlement 

 

Face à ce constat, et dans le cadre d’une action déjà initiée depuis plusieurs années, la Commission européenne a donc publié une nouvelle proposition de règlement en lien avec l’IA.

Le texte a vocation à s’appliquer à trois catégories de personnes :

  • les fournisseurs mettant sur le marché ou mettant en service des systèmes d’IA dans l’Union, qu’ils soient établis au sein de l’UE ou non ;
  • les utilisateurs de systèmes d’IA dans l’UE ;
  • les fournisseurs et utilisateurs de systèmes d’IA localisés dans un pays tiers, dès lors que les résultats produits par le système sont utilisés dans l’Union.

 

La Commission a choisi de ne pas différencier selon le secteur, par exemple, mais selon le niveau de risque que présente la technologie. Une distinction est donc opérée entre risque inacceptable, risque élevé, risque limité et enfin risque minime.

 

3/ Les règles posées par le nouveau règlement

 

L’article 5 de la proposition de règlement liste un certain nombre de pratiques interdites en matière d’IA :

  • la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA influençant de manière subliminale le comportement d’un individu de manière à pouvoir causer un préjudice à lui-même ou à un tiers ;
  • la mise sur le marché, la mise en service ou l’utilisation d’un système d’IA exploitant les vulnérabilités (liées à l’âge ou au handicap) d’une manière pouvant causer un préjudice à la personne vulnérable ou à un tiers ;
  • la mise sur le marché, la mise en service ou l’utilisation par les pouvoirs publics de systèmes d’IA conçus pour évaluer et établir une « note sociale » de personnes physiques ;
  • l’utilisation de systèmes d’identification biométrique à distance « en temps réel » dans des espaces publics à des fins de répression, sauf dans certains cas limitativement énumérés.

 

Concernant les systèmes d’IA à haut risque, la proposition de règlement se concentre essentiellement sur la mise en conformité des systèmes, imposant de nouvelles obligations aux personnes concernées. Par exemple, l’article 9 du texte impose, pour les systèmes d’IA à haut risque, l’établissement d’un système de gestion des risques documenté et tenu à jour. Des exigences de transparence et de fourniture d’informations claires aux utilisateurs sont également mentionnées (article 13).

 

La Commission énumère également des obligations incombant aux fournisseurs de systèmes d’IA à haut risque, notamment en ce qui concerne la mise en place d’un système de gestion de la qualité et l’établissement d’une documentation technique. Les importateurs et les distributeurs de tels systèmes se sont vus eux aussi imposer des obligations spécifiques. Quant aux utilisateurs, ils n’ont pas échappé à l’introduction de nouvelles règles, tenant notamment à un contrôle des données et une surveillance du fonctionnement du système à haut risque, sur la base de sa notice.

Les éléments exposés ci-dessus ne sont qu’une illustration des grandes nouveautés mises en place par la proposition en matière d’IA, mais n’en constituent pas une liste exhaustive. De nombreuses autres règles et obligations sont abordées dans le texte. 

 

4/ Les sanctions en cas de non-respect du nouveau règlement

 

La proposition de règlement contient des dispositions visant à garantir son respect, grâce à l’imposition de sanctions effectives, proportionnées et dissuasives.

L’article 71 prévoit une amende administrative pouvant aller jusqu’à 30 000 000 d’euros ou 6% du chiffre d’affaires annuel mondial en cas de non-respect des interdictions mentionnées ci-dessus ou de non-conformité du système d’IA avec les obligations posées en matière de données et gouvernance des données.

D’autres infractions liées à la non-conformité du système d’IA avec les règles posées par le texte peuvent aboutir à des sanctions administratives pouvant aller jusqu’à 20 000 000 d’euros ou 4% du chiffre d’affaires annuel mondial. Enfin, en cas de fourniture d’informations inexactes, incomplètes et trompeuses une amende administrative d’un maximum de 10 000 000 d’euros ou 2% du chiffre d’affaires annuel mondial.

Ce sont les États membres qui ont la responsabilité de déterminer le régime des sanctions et assurer leur mise en œuvre effective.

 

5/ Le rôle de l’avocat spécialisé

 

De manière générale, il est préférable de se faire accompagner par un avocat spécialisé lorsqu’on souhaite mettre en place ou exploiter un système d’intelligence artificielle.

Plus spécifiquement, dans le cas où la proposition de loi de la Commission entrerait définitivement en vigueur, il serait alors absolument indispensable de faire appel à un expert. En effet, la mise en conformité avec les nouvelles exigences de l’UE constitue une opération lourde et coûteuse. La Commission a estimé que ces coûts se situaient entre 6000 et 7000 euros pour la fourniture d’un système d’IA à haut risque.

 

Il est donc fondamental de ne pas négliger l’étape de mise en conformité, afin de s’assurer du respect des nouvelles obligations et d’échapper à l’imposition de sanctions pouvant atteindre des montants considérables.

Me Mathilde Lefroy

Écrit par

Me Mathilde Lefroy

Me Mathilde Lefroy : Avocate expérimentée, avec un engagement fort pour les entrepreneurs, j’accompagne une clientèle française et internationale de start-up, TPE, PME et groupes internationaux afin de garantir la sécurité juridique de leurs projets. Mes domaines d’expertise comprennent : le Droit des contrats, le Droit de la propriété intellectuelle et des technologies de l’information et de la communication, la protection des données personnelles, et le  secteur des énergies renouvelables. 

Tous les articles similaires

Consultez nos articles pour parfaire vos connaissances

Quelles sont les sanctions en cas de non-respect du RGPD ?

La protection des données est l’une des questions les plus importantes de notre époque ultra ...

Amélie Gautier

Amélie Gautier

RGPD : évaluez en 20 questions la conformité de votre entreprise

Le 25 mai prochain, le nouveau Règlement Général sur la Protection des Données (RGPD) entrera en ...

Maxime

Maxime

L'éditeur de logiciel Saas face au RGPD, par Me Znaty

Vous êtes éditeur de logiciel SaaS et intervenez en tant que prestataire pour le compte de ...

Me Benjamin Znaty

Me Benjamin Znaty

Règlement général sur la protection des données (RGPD) : quel impact sur les conditions générales de vente (CGV) ?

Le Règlement général sur la protection des données (RGPD), applicable depuis le 25 mai 2018, vise à ...

Me Mathilde Lefroy

Me Mathilde Lefroy

La clause de confidentialité dans le contrat de travail

Pour éviter la divulgation d’un secret professionnel par un employé, le droit français a créé un ...

Maxime

Maxime

Accord de confidentialité : pourquoi et comment le rédiger ?

Vous envisagez de transmettre des informations sensibles à un partenaire commercial potentiel ? Au ...

Philippe

Philippe

Les limites de la protection des données personnelles du salarié

Dans le cadre d’une entreprise, de nombreuses informations au sujet du salarié sont conservées pour ...

Maxime

Maxime

Qu’est-ce qu’une charte/politique de confidentialité ?

En raison du fort développement des services en ligne, les données personnelles des utilisateurs ...

Me Julien Smadja

Me Julien Smadja

RGPD : qui est concerné ?

L’Union européenne a adopté le 14 avril 2016 le règlement général sur la protection des données ...

Maxime

Maxime

Commentaires

Laisser un commentaire

Vous avez démarré un dossier de chez nous… Vous pouvez le reprendre dès maintenant !

Reprendre votre dossier