Ce jeudi 22 février, Google a déclaré suspendre la génération d’images de personnes via son outil d’intelligence artificielle générative « Gemini » en raison de « problèmes récents » liés à cette fonctionnalité.

Google a annoncé, ce jeudi 22 février, suspendre la création d’images de personnes sur son outil d’intelligence artificielle (IA) générative « Gemini », à la suite de «problèmes récents» concernant cette fonctionnalité. Le géant de l’informatique avait lancé, début février, aux Etats-Unis d’Amérique, ce nouveau logiciel, qui n’est pas encore disponible en Europe. Des critiques ont depuis émergé sur les réseaux sociaux pour pointer des inexactitudes concernant certaines images créées, notamment en matière de sexe et de diversité pour des sujets historiques.

Plus précisément, les utilisateurs sur « X » ont noté que Gemini semblait sous-représenter les personnes blanches dans les images générées. Par exemple, une requête concernant un soldat allemand de 1943 a abouti à des images de militaires asiatiques ou à la peau noire. D’autres exemples notables incluent des Vikings noirs (alors que toutes les études génétiques démontrent que, s’il y a bien eu des asiatiques devenus vikings, il n’y a jamais eu de noir, ni d’autres phénotypes), une représentation d’une femme en tant que pape. L’intelligence artificielle Gemini a même généré des représentations du roi hébreu Salomon, ou encore, parmi tant d’autres figures historiques, des « pères fondateurs des Etats-Unis d’Amérique », Jeanne D’Arc, a la peau noire alors qu’ils étaient tous blancs. De telles images pouvant servir les propagandes déformant la réalité des faits historiques.

Information

«Nous nous efforçons de résoudre les problèmes récents liés à la fonctionnalité génération d’images de Gemini. Dans l’intervalle, nous allons suspendre la génération d’images de personnes et nous rendrons bientôt disponible une version améliorée de cette fonctionnalité», a expliqué Jack Krawczyk, directeur de produit chez Google en charge de Gemini, dans une déclaration transmise à l’AFP.

Des créateurs «racistes» et «wokes»

«La génération d’images par l’IA de Gemini donne lieu à un vaste éventail de personnes. Et c’est généralement une bonne chose car les gens l’utilisent à travers le monde. Mais nous avons raté notre coup dans le cas présent», a insisté Google sur « X ».

Dans une réaction publiée sur ce même réseau social, dont il est le propriétaire, Elon Musk a pour sa part publié une image où il fait une distinction entre d’une part son propre projet d’outil IA, assimilé à «la recherche maximale de la vérité», et d’autre part Gemini et le créateur de ChatGPT, OpenAI, qu’il taxe de «racistes» et de «woke».

Depuis la fin de l’année 2022 et le triomphe de ChatGPT, une « intelligence artificielle » générative capable de créer divers contenus (textes, sons, images, ou vidéos) en réponse à des requêtes simples en langage courant, un enthousiasme massif a émergé. Tous les géants de la tech se sont lancés dans une course au déploiement d’outils destinés aux organisations et aux particuliers.

Cette technologie, de plus en plus impressionnante, a atteint des sommets avec la possibilité de créer des vidéos d’une minute grâce au logiciel « Sora » d’OpenAI, dévoilé mi-février dernier. Cependant, cette avancée a également conduit à la mise en place de garde-fous. La semaine dernière, vingt des entreprises les plus avancées dans ce domaine, dont Meta, Microsoft, Google et OpenAI, ont annoncé leur engagement à développer de nouvelles techniques pour détecter les contenus de désinformation utilisant l’IA.

Joseph Kouamé