Système d'intelligence artificielle générative

1. Nature technique des systèmes d'IA générative

L'intelligence artificielle générative désigne une branche de l'intelligence artificielle capable de produire du contenu nouveau à partir de données existantes : textes, images, son et codes informatiques.

Les évolutions technologiques ont conduit à l'émergence d'algorithme d'apprentissage profond (deep learning) qui ont permis d'analyser et de générer des textes.

Ce sont des représentations du langage en nombres et en vecteur de nombre traitées par des méthodes mathématiques, statistiques et probabilistes, jusqu'à constituer de « larges modèles de langage ». 

On parle de « word embedding » pour le fait de convertir le langage en « objet » manipulable informatiquement. 

Le système est organisé en deux phases : 

1. Phase d'apprentissage (constituer le modèle à partir d'une quantité massive de données)
2. Phase de génération (produire du contenu à partir d'une requête)

Dans l'apprentissage automatique, le système découvre seul les constances d'un environnement. Les larges modèles de langage ne font qu'enchainer les mots les plus probables les une à la suite des autres.

Il existe différentes variantes d'auto‑apprentissage : 

• Apprentissage supervisé, non supervisé, semi‑supervisé
• Apprentissage par renforcement
• Apprentissage auto‑supervisé

Ces modèles produisent des contenus « hautement vraisemblable » ou « probable » en réponse à une requête mais pas nécessairement véridiques et de fait, on peut noter que ces « larges modèles de langage » présentent des dérives : 

• Génération d'informations erronées (erreur)
• Informations obsolètes ou génériques (approximation)
• Réponses à partir de sources ne faisant pas autorité (généralisation)
• Réponses inexactes en raison d'une confusion terminologique

2. Enjeux et limites des systèmes d'IA générative

De fait, les IA génératives sont influencées par leurs données d'apprentissage, dont la sélection massive demeure sous la responsabilité des concepteurs de ces systèmes.

Il convient dès lors de traiter l'adéquation du cadre juridique.

Ainsi, le Règlement européen sur l'intelligence artificielle (RIA) publié le 13 juin 2024

• Impose aux fournisseurs de système d'IA d'obtenir l'autorisation explicite du détenteur de droits (s'ils ont été réservés)
• Exige que les fournisseurs de système d'IA mettent à disposition du public un résumé du contenu utilisé pour l'entrainement du modèle

Au niveau national, la loi française : 

• Exige le consentement
• Met en place une gestion collective des droits
• Impose des mentions obligatoires sur les œuvres générées par l'IA « Généré par l'IA »
• Impose de mentionner le nom des auteurs mobilisés pour la génération du contenu
• Met en place un système de taxation si l'origine des éléments employés ne peut être déterminé
• Prévoit que seule une personne physique peut avoir la qualité d'auteur (ce qui pose la question de l'intégration des auteurs dans la chaîne de valeur de l'IA)

L'IA générative annonce un besoin considérable d'énergie et suppose donc une adoption raisonnée.

L'impact profond sur la structure de nos sociétés doit être analysée et ne doit pas se réduire au postulat de neutralité des outils informatiques (réduire l'IA générative à un simple outil dont il convient d'identifier les bénéfices et les risques pour mieux en limiter les impacts négatifs).

3. Perspectives d'emploi des systèmes d'intelligence artificielle générative

L'utilisation de l'IA suppose : 

• D'évaluer les besoins avant d'avoir recours à l'IA : Agir selon un principe combinant minimisation et proportionnalité : Intérêt limité des grands modèles publics. Utiliser un arbre de décision pour répondre à la question « ais‑je besoin d'une IA générative ? » 
• D'anticiper les effets des biais cognitifs : Il est démontré que les personnes utilisant un IA génératif sont plus susceptibles d'écrire un paragraphe en accord avec l'assistant (qui a été paramétré soit par des connotation positives, négatives ou neutres). Renforcement des biais existants (même si involontaire par le producteur)
• De prévenir les atteintes collectives : Traiter les systèmes de propagande ciblée et lutter contre la désinformation

4. Principes d'actions pour encadrer l'implémentation des systèmes d'intelligence artificielle générative

• Mettre en place des lignes directrices pour l'approbation et l'utilisation de système d'IA générative au sein des organisations
  • Préciser les cas d'utilisation autorisé, les limites d'emploi (incompatibles avec les valeurs de l'organisation) code de conduite de l'IA
  • Suivre l'application du code de bonne conduite
  • Envisager une fonction « directeur des systèmes d'intelligence artificielle » 
• Anticiper la fin du cycle d'exploitation
  • Identifier les dépendances, les données utilisées pour un « décommissionnement du système d'IA générative »
  • Identifier les conditions de sortie, l'archivage des données et des données d'entrainement utilisées
  • Prévenir les parties prenantes