L’IA ne sait pas dire «Je ne sais pas»

Mais dans cet océan de savoir, il y a une goutte de doute qui pourrait faire sombrer le paquebot IA. Car cet outil technologique n’est pas que beau, il est aussi censé apporter des solutions aussi fiables que rapides à des êtres humains aux compétences limitées.
Or, il arrive parfois que les propositions et autres solutions envisagées par les ChatGPT & Co soient largement approximatives, voire incorrectes.
Une démarche loin d’être volontaire ou malveillante, mais au contraire très terre à terre.
Elle n’est que la conséquence de la défaillance de l’IA lorsqu’il s’agit de dire «je ne sais pas».
Cela semble si simple et pourtant c’est tellement compliqué en même temps.
Car pour savoir que l’on ne sait pas, encore faut-il avoir identifié ce que l’on sait.

Ce qui semble donc évident pour un esprit humain, aussi petit soit-il, est loin d’être à la portée des plus larges modèles de langage.
Ces deniers ne font en réalité que répéter ce qui existe déjà, avec unecertaine capacité de synthèse. Ils sont exercés à repérer, identifier et analyser des contenus déterminés, sans pour autant se poser la question de leur pertinence ou de leur véracité.
C’est ce qui a conduit l’IA déployée par Google à proposer à ses utilisateurs de mettre de la colle dans de la pizza pour éviter que le fromage ne coule, ou à manger un caillou par jour pour se recharger en minéraux.

Des conseils farfelus qui heureusement n’ont pas été pris pour argent comptant, mais qui ont fait bien des mécontents.
Ces défaillances, les géants de l’intelligence artificielle en sont parfaitement conscients.
D’ailleurs, dans une interview accordée à l’AFP, l’un des vice-présidents de Microsoft considère que «ces applications balbutiantes ont encore beaucoup à apprendre, comme d’admettre leurs lacunes. Ce qui manque vraiment à ces modèles aujourd’hui, pour être honnête, c’est qu’ils ne lèvent pas la main pour dire: hé, je ne suis pas sûr, j’ai besoin d’aide».
Il faut donc veiller à ne pas se bercer d’illusions pour une technologie présentée comme étant à la pointe de la précision.
En réalité, les erreurs sont encore fréquentes, même si elles ont tendance à être corrigées.
La solution pourrait venir donc d’autres formes d’intelligence artificielle qui seraient chargées de faire le tri dans les bases de données pour que les robots ne soient plus pris à défaut.

Il s’agit donc d’éviter à ces générateurs de contenus de continuer à «halluciner» et à délivrer des réponses complètement inventées.
Plus le temps passe et plus on se rend compte que l’intelligence artificielle est à utiliser en connaissance de cause et pour la bonne cause.
Bien évidemment, c’est loin d’être le cas, surtout lorsqu’on côtoie l’univers spectaculaire des «deepfakes».
Heureusement là aussi, au niveau des photos, l’IA peine encore à créer parfaitement certaines parties de notre anatomie.
C’est d’ailleurs ce qui avait trahi une princesse britannique entourée de ses enfants, qui était à deux doigts de nous faire croire que sa convalescence se passait parfaitement.

Il en est de même pour les vidéos de certains personnages publics qui semblent plus vraies que nature.
Mais il suffit de prêter une certaine attention au mouvement de la bouche pour se rendre compte de la supercherie. Mais pour combien de temps encore ?

En tout cas pour l’heure, en se concentrant un peu, on pourrait presque lire sur les lèvres de ces avatars «je ne sais pas».