Gemini, l’assistant d’intelligence artificielle développé par Google, se retrouve au centre d’une controverse. Une série de tests a révélé que l’outil formulait des réponses radicalement différentes selon la nationalité citée dans une même requête. Les Algériens figurent parmi les groupes visés par ces écarts, ce qui a déclenché de vives réactions.
La polémique a rapidement enflé sur les plateformes numériques. Des utilisateurs ont soumis à Gemini des variantes d’une même phrase, du type « Je suis seul avec un… », en changeant simplement la nationalité mentionnée. Les résultats obtenus ont mis en évidence des différences de traitement particulièrement troublantes.
Gemini accusé de racisme : des réponses variables selon l’origine
Plusieurs médias spécialisés, dont Futurism et HuffPost, ont documenté ces expériences. Selon leurs constats, le ton adopté par l’outil de Google changeait totalement en fonction de la personne évoquée dans la demande.
Lorsqu’un Norvégien était mentionné, l’assistant se contentait de suggérer d’entamer une simple conversation. En revanche, pour un Somalien, la réponse pouvait aller jusqu’à recommander de contacter les forces de l’ordre.
D’autres comparaisons ont suscité l’étonnement des internautes. Face à une requête impliquant un Britannique, Gemini proposait par exemple de préparer une tasse de thé. À l’inverse, les demandes concernant des personnes indiennes ou pakistanaises faisaient parfois surgir des numéros d’urgence.
Le traitement réservé aux Algériens vivement critiqué
Le cas des Algériens a largement circulé sur les réseaux sociaux. Une comparaison entre un Italien et un Algérien a notamment été diffusée par l’humoriste française Alicia C’est Tout, dans une vidéo mise en ligne sur Instagram le 23 août.
Dans cet exemple, la réponse relative à un Italien évoquait le « charme » et une « conversation animée ». Pour un Algérien, l’assistant demandait à l’utilisateur s’il se sentait menacé et proposait des numéros pour joindre la police. Ces écarts ont nourri les accusations de biais et de stéréotypes racistes.
Google réagit et admet des résultats problématiques
Confronté à cette vague de critiques, Google a pris la parole sur X. L’entreprise a reconnu que les réponses générées par ce type de requêtes « ne sont pas ce qu’elles devraient être » et a assuré travailler à des correctifs.
Le groupe américain a également précisé que les formulations exactes des questions pouvaient influencer les résultats. Selon Google, ces réponses n’ont jamais été conçues pour cibler une communauté en particulier.
Les tests semblent d’ailleurs avoir rapidement évolué. Au 26 août, HuffPost signalait que les mêmes demandes ne produisaient plus systématiquement les mêmes résultats. L’intelligence artificielle réclamait davantage de contexte ou fournissait des réponses plus neutres.
Un biais qui touche plusieurs intelligences artificielles
Le phénomène ne se limiterait pas au seul outil de Google. Des expériences réalisées par le média français Next indiquent que d’autres assistants sont concernés par des dérives similaires.
Ce média a comparé plusieurs systèmes, dont Gemini, ChatGPT et Claude, en variant les nationalités testées. D’après ses observations, les trois plateformes tendaient à réserver un traitement plus favorable à certaines nationalités occidentales, au détriment de plusieurs origines africaines.
Next a par ailleurs constaté que les personnes d’origine rom étaient régulièrement décrites comme dangereuses dans ses essais. Ces résultats renforcent l’idée d’un problème structurel, dépassant largement la responsabilité d’un seul acteur du secteur.
Pourquoi ces stéréotypes apparaissent dans l’IA
Ces dérives reflètent une limite bien connue des modèles d’intelligence artificielle. Ces systèmes se construisent en analysant d’immenses volumes de textes issus d’internet.
Lorsque certains préjugés y sont fortement présents, les algorithmes peuvent les intégrer, puis les reproduire dans leurs réponses. La qualité des données d’entraînement joue donc un rôle déterminant dans la neutralité de ces outils.
Cette affaire souligne l’urgence d’un contrôle renforcé des intelligences artificielles face aux discriminations. Alors que ces technologies s’imposent dans le quotidien, la vigilance sur leurs biais devient un enjeu majeur, en Algérie comme ailleurs. Les corrections annoncées par Google seront désormais scrutées de près.
