Couverture du journal du 01/03/2024 Le magazine de la semaine

IA : les ingrédients de la confiance

INTERVIEW. Alors que l'intelligence artificielle s'impose dans la plupart des secteurs, les chercheurs de l'université de Bordeaux s'interrogent sur la manière de garantir une certaine confiance dans ses décisions. Pour Laurent Simon, qui porte la chaire IA digne de confiance et la candidature de Bordeaux à l'accueil d'un IA-cluster, pôle de recherche et de formation de rang mondial sur l'IA, cette confiance reposera sur la preuve.

Laurent Simon, IA, intelligence artificielle, bordeaux

Laurent Simon © Louis Piquemil - EJG

Échos Judiciaires Girondins : Vous portez la chaire « IA digne de confiance » lancée cette année par l’Enseirb-Matméca (Bordeaux INP) et l’université de Bordeaux, en partenariat avec Kedge Business School. Dans quel but a-t-elle été créée ?

Laurent Simon : Le but ultime étant d’avoir une IA autonome et indépendante, la question est de savoir si l’utilisateur peut vraiment se remettre à ses décisions. Pour cela, il faut que l’IA puisse rendre compte de la certitude de ses décisions en les expliquant, en fournissant une preuve formelle. Dans le cas de recommandations médicales, par exemple, l’humain valide toujours ce qui est produit par la machine : le médecin peut vérifier une radiographie. D’ici quelques années, la machine aura accès à une vision multimodale et sur la durée du corps humain, qui ne sera pas accessible au médecin. La machine devra donc être capable de lui rendre compte de sa décision de manière intelligible. C’est un ingrédient indispensable à la confiance. Or les systèmes décisionnaires actuels à base d’apprentissage automatique sont extrêmement complexes et opaques. Ils possèdent des milliards et des milliards de paramètres et chacune de leur décision résulte de milliards et de milliards de calculs. Il faut être capable de les résumer, de les abstraire. Aujourd’hui, on ne sait pas le faire, cela pose d’énormes problèmes scientifiques.

 

EJG : Quels sont vos axes de recherche pour y parvenir ?

L. S. : Un premier axe technologique est de considérer que malgré l’extrême performance des systèmes actuels, ils ne sont finalement pas adaptés au besoin d’obtenir une explication simple. Il existe un autre type d’IA, l’IA logique, capable de raisonnements que l’on sait prouver, mais qui n’a pas les mêmes performances ni la même souplesse. Une piste à suivre est donc de garder le meilleur de ces deux domaines afin d’obtenir un système robuste, simple et non faillible, pour les applications critiques que l’on vise. Un autre axe consisterait à garder les systèmes actuels en les encadrant avec des carcans : d’autres systèmes plus simples qui, eux, pourraient être vérifiés. Il y aura bien sûr des cas où le système sortira des carcans, mais on saura alors que les résultats ne sont pas garantis. Cet encadrement, ce carcan, est d’ailleurs l’objet de la première thèse qui a débuté au sein de la chaire. Tout cela est très naissant, mais nous sommes déjà capables de corriger les biais qui figurent dans les grands modèles de langage. C’est très compliqué car ils ne sont pas prévus pour et la décision est assez diffuse. Néanmoins, nous pourrons créer des systèmes qui, potentielle- ment, répondraient à l’absence de biais spécifiques précisés.

 

EJG : Qui sont les partenaires de cette chaire ?

L. S. : Cette chaire de 5 ans renouvelables opérée par la Fondation Bordeaux Université est soutenue par 6 mécènes : Athome, Catie, Fieldbox, Guy Hoquet, Floa et Talan. Avec eux, nous avons la possibilité de nous poser de vraies questions. Nous allons d’ailleurs rédiger un Livre blanc qui sera proposé par les mécènes pour différents cas d’usage métiers. Floa, par exemple, s’interroge sur les biais qui existent dans les données bancaires pour octroyer des prêts. Nous essayons de voir comment les éliminer, sachant que cela ne concerne pas simplement la localisation d’une personne, son ethnie, son âge, ses études, c’est parfois un mélange de tout cela. L’histoire de l’IA et son évolution engendrent des progrès sur l’humain : en travaillant sur ces notions de biais, en les formalisant, cela permet de conscientiser des problèmes.

Nous sommes là pour libérer du temps pour ce qui nous différencie de la machine

EJG : L’université de Bordeaux, aux côtés de nombreux partenaires du territoire, vient de candidater pour devenir un « IA-cluster » national. Il s’agit du projet Baia. Pouvez-vous nous en parler ?

L. S. : Avec Baia, nous portons un projet qui est novateur à plus d’un titre, parce qu’il a pour ambition de changer la façon avec laquelle on fait de la recherche en intelligence artificielle et, de façon générale, de la science. Il introduit notamment le concept de recherche translationnelle. Dans les approches cli- niques, il est nécessaire d’avoir dans les mêmes équipes des chercheurs fondamentaux, qui développent les médicaments, et des gens qui en mesurent l’impact sur le terrain, avec une boucle de rétroaction sur la recherche fondamentale. L’idée est donc que l’IA prenne en compte, dès le labo, les impacts sociétaux mesurables de son déploiement, qui reviendront la nourrir. Nous allons faire de la recherche translationnelle non seulement en médecine, mais aussi sur la création de nouveaux matériaux. Enfin, troisième axe : les technologies de l’éducation ou comment utiliser l’IA pour accompagner l’élève (quel qu’il soit) et l’enseignant dans leur trajectoire de formation. Dans le cadre de ce projet, nous sommes parvenus à fédérer de nombreux acteurs académiques, institutionnels et économiques qui travaillent sur l’IA sur le territoire.

 

EJG : Selon vous, ce changement de paradigme se fera, même si Bordeaux n’est pas retenu dans le cadre de cet appel « IA-cluster »…

L. S. : Il s’agit d’un appel à manifestation d’intérêt très compétitif : il y a 12 candidats, pour 8 places disponibles. Nous avons nos chances, le territoire a beaucoup évolué depuis 2018, nous sommes vraiment présents sur la scène IA avec de nombreux projets, beaucoup de publications… Et quoi qu’il arrive, nous avons conçu Baia pour laisser des traces. L’idée est de faire pivoter tous les départements scientifiques de l’université en intégrant des formations en IA, car quasiment tous les métiers seront accompagnés par l’intelligence artificielle demain. Nous devons former les élèves à utiliser ces outils, et à avoir un regard critique fort sur ce qu’on produit. Selon moi, toutes les universités seront amenées à faire ce pivot dans les 10 ans à venir.

 

EJG : La disparition de certains métiers, potentiellement remplacés par l’IA, est justement une crainte forte exprimée aujourd’hui. Qu’en pensez-vous ?

L. S. : Nous sommes là pour construire un monde meilleur, pour libérer du temps pour ce qui nous différencie de la machine. Ce qui fait l’humain va demeurer quoi qu’il arrive. Les métiers vont évoluer, les gens vont être augmentés, plus productifs, et s’attaqueront à des problèmes plus intéressants. Le médecin augmenté, c’est un médecin qui voit deux fois plus de patients et qui a deux fois plus de temps pour chacun d’eux. Le banquier qui va octroyer un prêt aura plus de temps pour comprendre, pour prendre du risque. Ce qu’on vise, c’est l’empathie entre les humains. Le reste sera géré par la machine. Ce qui aura de la valeur, comme dans le cas des artisans, c’est le temps passé. D’autre part, il y aura toujours des problèmes qui n’ont jamais été résolu avant et que la machine ne pourra pas gérer. Il faudra des expertises, un humain qui manipule ces outils.

LAURENT SIMON EN BREF

Professeur à l’Enseirb-Matmeca (Bordeaux INP), dont il dirige le département informatique, Laurent Simon est un chercheur spécialisé en IA logique au Laboratoire bordelais de recherche en informatique (Labri). Professeur des universités, il pilote également le réseau régional de recherche en IA (R3 IA), préside l’Association française de programmation par contraintes (AFPC) et porte la chaire « IA digne de confiance » de l’université de Bordeaux.