IA Générative : quels points d’attention pour les entreprises ?

Les barrières techniques de l’IA Générative et les moyens de les contourner

Puisque l’Intelligence Artificielle Générative est un outil, elle peut comme tout outil présenter certaines défaillances si mal conçue ou utilisée. La plus connue de ces défaillances est ce que l’on appelle le « biais algorithmique ». Il désigne une situation où l’IA Générative crée un contenu discriminant une partie de la société. Ceci peut survenir lorsque les données que l’on offre à la machine durant son apprentissage véhiculent elles-mêmes des stéréotypes. Un exemple serait de demander à une IA de générer la description du métier d’infirmier, et d’obtenir un texte tourné vers le genre féminin, conformément à des préjugés au sein de la base de données.

Le second obstacle technique le plus souvent rencontré se nomme « hallucination ». Il s’agit d’un phénomène où le contenu créé par l’IA Générative est en décalage avec le réel. Par exemple, on pourrait imaginer une situation où la machine répondrait « Madrid » à la question « quelle est la capitale de la France ? ». Une telle situation pourrait se produire si l’outil n’a pas été assez bien programmé pour comprendre la demande, ou encore si les données d’entraînement comportaient des erreurs.

Mais alors en tant qu’entreprise, comment éviter ces contraintes techniques qui pourraient nuire à sa performance et à son image ? Nous avons posé la question à Nathalie Laneret, directrice des affaires publiques chez Criteo – prestataire de technologies publicitaires et pilote du premier laboratoire privé sur l’IA en Europe : « Pour échapper aux difficultés telles que les biais et les hallucinations, il faut tout d’abord constituer une base de données d’entrée la plus vaste, la plus variée et la plus correcte possible. Ensuite, il est également essentiel de tester l’outil, de faire remonter les incidents et de les corriger si nécessaire, à intervalles très réguliers ».

Les aspects juridiques à prendre en compte en utilisant l’IA Générative

Un second point de vigilance pour les entreprises qui utilisent l’IA Générative, ce sont les questions réglementaires qui se posent autour de cet outil. L’une de ces questions est celle de la propriété intellectuelle. En effet, pour entraîner un outil tel que ChatGPT par exemple, une masse considérable de données d’apprentissage est nécessaire. L’enjeu étant de mener à bien ce processus tout en respectant le droit d’auteur ! En ce sens, la directive européenne du 17 avril 2019 est claire : les ayants droit qui le souhaitent peuvent s’opposer à ce que les IA Génératives se servent de leur œuvre ; choix que les entreprises se doivent de prendre en compte.

Une autre question légale importante est celle des données personnelles, dans la mesure où les informations utilisées lors de l’apprentissage peuvent relever de la vie privée. En la matière, c’est le Règlement Général sur la Protection des Données (RGPD), auquel sont désormais habituées les entreprises, qui est à respecter à la lettre pour éviter tout incident. Il indique notamment que les données personnelles doivent être collectées de manière transparente, et que l’entreprise est tenue de les protéger pendant toute la durée de leur stockage – laquelle doit être bien définie.

Pour employer l’Intelligence Artificielle Générative dans le respect de la loi, Nathalie Laneret de la société Criteo nous conseille : « L’essentiel est de bien tenir compte des réglementations en vigueur, telles que le RGPD pour les données personnelles. Mais comme l’IA Générative est un sujet relativement nouveau, en construction, les entreprises devraient également se tenir au courant des projets de loi en cours, à l’image de l’Artificial Intelligence Act européen notamment. Pour rester à l’écoute, une bonne source pour l’entreprise est son association professionnelle ».

Vous voilà sensibilisés aux grands enjeux techniques et légaux à prendre en compte pour une utilisation pérenne de l’IA Générative dans votre entreprise !

Envie d’aller plus loin ? Evaluez la maturité de votre entreprise à l’IA en cliquant ici.