Les chercheurs ont découvert que l' #IA #AI planifie ses réponses à l'avance, pense dans un #langage conceptuel #universel et peut même parfois fournir des explications qui ne reflètent pas son véritable processus interne.

Enfin, que ce soit Copilot ou notre #IA spécifique, le prompt "sors-moi les principaux arguments de ce compte rendu" fonctionne... mais n'est pas fiable à 100 %. Plutôt à 80 %. Pas mal, mais pas suffisant si l'IA passe à côté du principal sujet, de la principale problématique abordée, du principal raisonnement suivi ! Et, je le répète : notre IA a été entraînée avec pas moins de 21 années de documents de tous niveaux de retraitement.

9/

On m'objectera aussi : "oui, mais l' #IA générative progresse au fur et à mesure qu'elle est entraînée ; dans quelques années, elle aura atteint l'excellence".
De ce que j'ai vu de l'IA codéveloppée par la boîte où je bosse et le CNRS, sur un corpus composé de 21 années de documents sur un champ déterminé, avec pas mal de sujets récurrents, ça n'est pas demain la veille ! Cette IA est entraînée 24/24, 7/7 depuis 2 ans 1/2. Il y a eu des tests faits par des humains, sous 2 angles : ...

7/

C'est aussi le danger, avec l'appellation même d' #IA : on nous "vend" quelque chose d'uniforme, alors qu'il ne l'est pas du tout ! Rien à voir entre une IA générative et un système expert, du machine learning, etc. Un ensemble d'algorithmes qui arrivent à interpréter des radiographies pour effectuer avec succès des dépistages précoces, OK. Ça se conçoit... mais toujours avec 1 validation humaine derrière.

6/

Déjà, les comptes rendus établis par des médecins "a la mano" sont parfois problématiques (j'en ai lu un récent qui arrive même à se contredire à 3 lignes de distance, car les 2 paragraphes ont été écrits ou dictés par 2 personnes). Mais "se contredire" est moins grave qu'affirmer une chose fausse ! Or c'est ce qui risque de se produire si l' #IA en moulinant par exemple 1 enregistrement dicté, l'interprète mal.

Cela vaut dans tous les domaines : scientifiques, industriels...

5/

Les firmes d' #IA génératives vendent des boîtes noires censées avoir été longuement entraînées, genre pendant plusieurs années, y compris sur des corpus spécifiques. Mais la nature de ce que produisent leurs systèmes ne fait pas mieux que l'existant (qui existe depuis plus de 20 ans).

Et quand je lis que l'IA générative sera "très utile" pour rédiger des comptes rendus de consultations médicales par exemple, je suis très, très inquiet.

4/

Je ne peux pas reproduire ici les paragraphes ayant servi au test, mais j'ai constaté que c'est "bien tourné", mais que l' #IA générative ne comprend pas ; l'IA ne résume pas. Elle RACCOURCIT et ENJOLIVE. Nuance. Et ce faisant, le risque de contresens est élevé.
L'IA ne va pas rechercher dans le corpus (a priori hyper vaste) qui a servi à l'entraîner pour essayer de comprendre.
L'IA est... bête, en fait. "Qui aurait pu prédire"...

2/