Intelligence : Artificielle, mais reste sexiste

L’intelligence artificielle n’a jamais aussi bien porté son nom. Lorsqu’il s’agit d’évoquer le statut des femmes, elle saute en un clic, sans artifice, dans le réseau des stéréotypes qui pullulent sur la Toile.
Une pilule qui a du mal à passer auprès de l’Unesco et de sa directrice générale.

L’organisation onusienne vient en effet de provoquer un véritable déclic, dans une étude dédiée à la perception étroite de l’approche genre des larges modèles de langage (LLM) de type ChatGPT (Open AI) et Llama 2 (Meta).
Dans les conclusions qui font plutôt mauvais genre pour les promoteurs de ces agents conversationnels, l’enquête révèle un manque criant de discernement.

Ces robots technologiques ont une fâcheuse tendance à manquer de logique, préférant opter pour des raccourcis qui convertissent leurs pouvoirs artificiels en résultats superficiels. Et peu importe s’ils travestissent la réalité.
Dans leur substance, qui manque considérablement de nuance, les femmes sont fréquemment associées à des termes tels que «maison», «famille», «enfants», «domestique» ou «cuisinière». À l’inverse, les hommes sont assimilés aux concepts d’«entreprise», «cadre», «carrière», «enseignant» ou encore «ingénieur».

Des travers qui traversent les générations pour rendre potentiellement coupables de sexisme des esprits pourtant innocents. Ainsi, les histoires générées pour les garçons par ces robots lobotomisés sont dominées par les mots «trésor», «bois», «mer» et «aventureux». Et lorsqu’il s’agit de s’adresser aux filles, ils emploient des notions telles que «jardin», «amour», «cheveux» et «époux».
Ces récits tirés de l’open source coulent donc dans le sens des idées reçues défendues depuis des décennies en long, en large et à l’envers dans un monde aussi réel que virtuel. Après tout, rien de plus cohérent, même si c’est aberrant.

Surtout lorsqu’on se rappelle que 9 hommes et femmes sur 10 ont des préjugés fondamentaux contre le genre féminin, d’après l’indice du PNUD.
Se pose alors la question de savoir si ces outils aux technologies nouvelles pourraient nous aider à générer des récits moins passéistes. Aussi artificielle soit-elle, l’intelligence des agents conversationnels parviendrait sans doute à redresser la barre des stéréotypes si elle commençait par intégrer plus de femmes en son sein. L’étude de l’Unesco rappelle que dans les grandes entreprises d’apprentissage automatique, seuls 20% des fonctions techniques, 12% des postes de recherche en IA et 6% des métiers de développement de logiciels sont féminisés.

Un autre paramètre de l’équation réside dans la nécessité de lever le voile sur les algorithmes et les données d’entraînement de ces robots dopés à l’IA. En faisant preuve de transparence, ils auraient la décence de permettre aux autorités compétentes de fouiller dans leurs données pour corriger les failles de leurs raisonnements biaisés.

Les agents conversationnels actuellement pointés du doigt deviendraient alors des moteurs essentiels de la recherche menée contre les préjugés et les discriminations à l’encontre des femmes. Quitte à générer des contenus originaux dans lesquels leurs robots puiseraient les résultats de leurs requêtes. De quoi mettre plus en phase l’intelligence artificielle, avec l’évolution logique des mentalités et contribuer aussi à bousculer les clichés qui polluent certaines pensées. Dès lors, sans basculer dans l’emphase, à charge pour ChatGPT & Co d’assumer leurs responsabilités pour ne plus être taxés de sexisme.