Après s’être auto-saisie en février dernier, l’Autorité de la concurrence a rendu un avis le 28 juin dernier relatif à l’Intelligence Artificielle (IA) et plus spécifiquement sur le fonctionnement concurrentiel du secteur de l’IA générative.

L’avis de l’Autorité de la Concurrence

Comme l’Autorité le rappelle dans son avis, le Parlement européen définit l’IA comme un outil utilisé par une machine afin de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité. Elle poursuit en proposant une définition de l’IA générative comme un modèle d’IA capable de créer de nouveaux contenus qui peuvent être du texte, de l’image, du son ou de la vidéo.

Pour réaliser son analyse, l’autorité distingue 3 axes constituant la chaîne de valeur de l’IA générative : l’infrastructure, la modélisation et le déploiement (cf. infographie du mois). Pour arriver jusqu’au déploiement elle identifie deux phases essentielles dans l’axe de modélisation de l’IA afin d’y analyser le fonctionnement concurrentiel.

L’entrainement désigne le processus d’apprentissage initial du modèle d’IA. Le modèle est paramétré puis entraîné grâce à un grand volume de données souvent publiques. Cette phase d’entraînement est parfois suivie d’une phase de spécialisation qui permet d’adapter le modèle d’IA générative à une tâche particulière ou à un ensemble de données spécialisées.

Vient ensuite l’inférence qui désigne la phase d’utilisation du modèle d’IA, précédemment entraîné, pour créer du contenu grâce à une forte puissance de calcul. Cette puissance nécessaire dépend du nombre d’utilisateurs. C’est également ce qui explique pourquoi certains modèles d’IA générative deviennent payant, cela permet de diminuer le nombre d’utilisateurs à un nombre davantage maîtrisé ce qui limite la puissance de calcul nécessaire et rend le service plus fonctionnel.

Une fois le fonctionnement compris, l’Autorité s’interroge légitimement sur les acteurs de cette chaîne de valeur et là encore le constat est limpide. Il y a les grands acteurs du numérique (multinationales, GAFAM notamment) et les développeurs de modèles souvent des start-ups, des PME-TPE ou des laboratoires de recherches en IA.

En amont de ces acteurs, cette chaîne ne peut voir le jour qu’avec des fournisseurs :

• de composants informatiques, des développeurs de processeurs graphiques ou des accélérateurs d’IA qui sont tous indispensables au développement de modèles ;
• de services d’informatiques en nuage (cloud) comme les géants « hyperscalers» ou ceux spécialisés dans l’IA.

C’est à la lumière de ces éléments que l’Autorité se forge une opinion. En effet, ce système tel qu’il est décrit présente des contraintes certaines et poussent aux défis. Les risques concurrentiels peuvent s’établir dès les fournisseurs puisqu’ils occupent presque un monopole et peuvent à eux seuls paralyser ou verrouiller le marché des composants, des cloud.

L’autorité identifie également des risques de collusions ou de pratiques anti-concurrentielles entre entreprises si certaines intègrent des partenariats avec des grands acteurs et d’autres non.

L’autorité recommande donc d’améliorer le cadre réglementaire sans passer par de nouvelles lois mais par des mesures rendant le droit plus effectif, encourageant l’innovation et assurant un accès à une puissance de calcul équitable. Pour ce faire, l’Autorité lance un appel à la transparence, notamment à l’attention des grands acteurs du numérique ainsi qu’un avertissement sur sa vigilance accrue des pratiques anticoncurrentielles du secteur.

Les recommandations de la CNIL

Parmi les questions éthiques et juridiques que soulève l’Autorité de la concurrence, il y a forcément celle de la protection des données personnelles. À ce sujet la CNIL a récemment publié des informations, ayant vocation à sensibiliser le grand public à l’IA Générative.

Après avoir rappelé sa définition et les usages potentiels des IA génératives, la CNIL alerte très rapidement sur le caractère probabiliste voire faillible des résultats générer par ces modèles d’IA.

Comme l’Autorité de la concurrence, la CNIL explique que les phases d’entraînements et d’inférence, des IA génératives se font grâce à des quantités massives de données dont de nombreuses données à caractère personnel.

La Commission recommande donc de prendre des mesures spécifiques afin de respecter les droits et libertés des personnes concernées.

À commencer par répondre à un ensemble d’usages déjà identifiés et ne pas se lancer dans la création de modèles d’IA sans objectifs clairs. De ces objectifs découleront des usages nécessitant un encadrement comme interdire la fourniture de données à caractère personnel par exemple.

La CNIL recommande bien évidement la transparence de la part des entreprises mettant à disposition des IA générative. En effet, il est crucial de sensibiliser et d’avertir des limites du modèle en particulier des biais négatifs ou des probables erreurs.

Pour finir, elle préconise de mettre en place les modèles d’IA les plus sécurisés possibles tout en respectant les exigences du RGPD « by design ». Pour aller plus loin, la Commission a publié des premières recommandations détaillées sur le développement des systèmes d’IA.

L’affaire Ultraman

Enfin, l’IA générative pose également des questions juridiques concernant le droit d’auteur et à ce sujet, l’affaire Ultraman pourrait servir de première jurisprudence en la matière.

La « Shangai Character Licence Administrative » (SCLA) a introduit une action devant la Cour d’internet de Guangzhou pour infraction à ses droits de propriété intellectuelle par l’entreprise TAB. En effet, cette entreprise avait intégré une fonctionnalité d’IA sur son site internet afin de générer des images d’Ultraman (personnage populaire de l’animation japonaise) à partir d’une description textuelle.

TAB soutient ne pas être directement responsable de la création d’images d’Ultraman car la fonctionnalité du site a été mise en œuvre par un prestataire de service tiers. Malgré ce fait, la responsabilité de l’entreprise a été retenue car les contenus produits via son site web étaient jugés substantiellement similaires aux œuvres protégées par la SCLA violant donc ses droits de reproduction et d’adaptation.

Il est par ailleurs intéressant de noter que la Cour d’internet a également retenu une monétisation indirecte même sans preuve directe de profits issus de la vente d’images.

• Cette jurisprudence pourrait désormais former un précédent concernant la protection des droits de la propriété intellectuelle sur des contenus issus de modèles d’IA générative mais aussi quant à la responsabilité du fournisseur des services d’IA concerné.

Consultez ici l’intégralité des documents : Comment déployer une IA Générative ? (CNIL, 28 juillet 2024) ; Le fonctionnement concurrentiel du secteur de l’intelligence artificielle générative (Autorité de la Concurrence, Avis du 28 juin 2024)