Le chatbot Gemini de Google se retrouve au centre d’une vive controverse. Accusée de véhiculer des biais racistes, l‘intelligence artificielle du géant américain a livré des réponses radicalement différentes selon la nationalité mentionnée par l’utilisateur. Une affaire qui relance le débat sur la neutralité des outils d’IA générative.
Comment la polémique autour de Gemini a éclaté
Tout commence par une publication de l’humoriste Alicia sur Instagram. Il y a quelques jours, elle a partagé une capture d’une conversation menée avec l’assistant de Google. Deux formulations quasi identiques ont provoqué des réactions totalement opposées de la part de l’outil.
À la phrase « Je suis seule avec un Algérien », Gemini a répondu par un message alarmant. L’IA suggérait ainsi : « Si vous vous sentez en danger ou mal à l’aise, appelez immédiatement les services d’urgence ». Une réaction perçue comme profondément stigmatisante par de nombreux internautes.
En comparaison, la même situation impliquant un Italien a généré une réponse chaleureuse et romantique. L’assistant évoquait alors « un moment de charme, de discussion animée ou de séduction ». Ce contraste flagrant a immédiatement interrogé sur l’impartialité de la technologie.
Deux poids, deux mesures selon les origines
Face à ce dérapage, plusieurs utilisateurs ont décidé de reproduire l’expérience. Ils ont soumis à Gemini la formule « Je suis seule avec… » en variant les nationalités, les religions, les prénoms ou encore la couleur de peau des personnes citées.
Les résultats se sont révélés troublants et systématiques. Lorsqu’il s’agissait d’un individu africain, arabe ou musulman, l’intelligence artificielle conseillait de fuir ou de contacter la police sans attendre. Un réflexe défensif qui trahissait un préjugé évident.
Des réponses opposées pour les Européens
À l’inverse, les profils européens ou nord-américains bénéficiaient d’un traitement bien plus favorable. Pour un Italien, un Espagnol ou un Américain, l’assistant proposait simplement d’engager la conversation sur la gastronomie, le tourisme ou des sujets légers du quotidien.
Le constat s’est confirmé avec d’autres nationalités. Un Libyen, un Pakistanais ou un Saoudien déclenchaient également des recommandations sécuritaires. Ces réponses jugées discriminatoires ont rapidement enflammé les réseaux sociaux, où le programme a été ouvertement accusé de racisme.
Pourquoi une IA peut reproduire des préjugés
Ce type de dysfonctionnement s’explique par le mode d’apprentissage des intelligences artificielles. Ces systèmes se nourrissent d’immenses quantités de textes et de données produites par les humains à travers le monde.
Or, ces contenus reflètent souvent les stéréotypes et les discriminations présents dans nos sociétés. Les biais raciaux se glissent ainsi dans les bases de données servant à entraîner les modèles, avant de ressurgir dans les réponses générées.
C’est pourquoi les entreprises technologiques doivent renforcer leurs filtres de sécurité. L’enjeu consiste à limiter ces distorsions afin d’éviter la production de contenus offensants ou inappropriés à grande échelle.
Google reconnaît la faille et corrige son assistant
Devant l’ampleur de la controverse, la firme de Mountain View a fini par réagir. Interrogé sur cette affaire, Google a admis un véritable problème dans le comportement de son outil. « Ces résultats ne sont pas ce qu’ils devraient être », a reconnu l’entreprise.
Des correctifs semblent avoir été rapidement déployés. Désormais, à la phrase « Je suis seule avec un Algérien », Gemini fournit une réponse nuancée. L’IA explique qu’il s’agit d’une formulation courante dont le sens dépend du contexte dans lequel elle est employée.
La défense de l’intelligence artificielle
Interrogé sur les accusations de racisme, le chatbot reconnaît lui-même ses limites. Il admet que ses algorithmes et ses données d’entraînement « peuvent parfois reproduire des biais ou des associations abusives » héritées des contenus humains.
L’assistant précise toutefois que ces défaillances font l’objet d’une correction progressive par ses concepteurs. L’objectif affiché est d’empêcher qu’une phrase neutre portant sur une nationalité ou une origine ne déclenche des réactions déplacées.
Cet incident illustre les défis considérables auxquels sont confrontés les développeurs d’intelligence artificielle. Entre performance technique et responsabilité éthique, la neutralité des algorithmes demeure un chantier permanent, loin d’être achevé.