Prévenir les dangers des agents IA

Lorsqu’elle est entrée sans frapper dans nos vies, l’intelligence artificielle générative a été plutôt bien accueillie.

Même si elle ne nous a pas demandé notre avis pour s’immiscer dans nos activités personnelles et professionnelles, la GenAI est devenue une amie aussi fidèle qu’universelle.

Après des mois d’intenses utilisations quasi quotidiennes, une question est en train d’émerger avec insistance.
Est-ce que cette assistance aussi avancée soit-elle nous veut vraiment du bien ?

Une interrogation soulevée avec d’autant plus d’acuité, depuis que les agents IA ont émergé dans cet écosystème qui ne cesse de prendre de l’ampleur en dépit des peurs et des reproches qu’il génère.

Car derrière des codes informatiques au demeurant inoffensifs se cachent désormais des systèmes algorithmiques de plus en plus autonomes.
Au point que certains d’entre eux n’ont d’autres ambitions que de se substituer à l’homme.

D’ailleurs, la menace est telle qu’une organisation à but non lucratif vient de voir le jour avec pour unique objectif de superviser les agents IA.
C’est toute l’ambition de LawZero lancé par le professeur montréalais Yoshua Bengio.

Ce dernier entend notamment créer des logiciels préventifs capables d’éviter les dérives.

Celui qui est considéré comme l’un des pères de l’intelligence artificielle a présenté, il y a quelques jours, sa nouvelle structure après avoir alerté pendant des années sur les risques liés au développement de l’IA.

Le lauréat du prix Turing en 2018, aussi appelé le Nobel de l’informatique, redoute plus que quiconque les utilisations malveillantes ou les dérapages de ces logiciels.

Mais il ne ferme pas pour autant la porte aux agents IA, pourvu que leur autonomie soit limitée à la recherche scientifique.

«L’un des premiers objectifs est de développer une forme d’IA qui puisse être utilisée comme un garde-fou pour faire en sorte que l’IA se comporte bien», explique le Professeur Bengio. Et de poursuivre, «les systèmes les plus avancés montrent déjà des signes d’instinct de conservation et de comportements trompeurs».

Des inquiétudes qui sont loin d’être fictives.
Des chercheurs ont réussi à faire croire à la nouvelle interface d’IA générative d’Anthropic, Claude 4, qu’elle allait être très prochainement remplacée par un ingénieur informatique.

En guise de réaction, le programme informatique a, de manière autonome, tenté de faire chanter l’ingénieur en question pour l’empêcher de se débarrasser d’elle. Un scénario qui pourrait très bien prendre plusieurs formes dans des situations bien réelles.

Mais cela ne suffit pas à freiner l’emballement autour des agents IA.
Dans le sillage d’OpenAI, Google et autre Microsoft, la start-up française H dévoilait en même temps que LawZero voyait le jour, une armée d’applications automatisées.

L’entreprise fondée par des anciens de Google Deepmind a réussi à lever quelque 220 millions de dollars pour proposer des robots capables de planifier la rédaction de mails, d’interagir avec des applications ou de naviguer sur Internet.

L’entreprise tricolore offre même une solution en mesure d’effectuer des tests de sites web afin de vérifier le bon fonctionnement des différentes fonctionnalités.

Autant de capacités qui ne font qu’étendre le champ des libertés que l’IA générative pourrait se permettre vis-à-vis de ceux qui la commandent.
Et si la technologie prenait un jour le contrôle de notre quotidien ?

L’hypothèse plus que probable mérite d’être envisagée face à des agents doubles qui ne se limitent plus à décoder les enchaînements de «uns» et de «zéros».