AI, une machine qui apprend également les préjugés (et les diffuse)
Chaque culture du monde traîne ses propres stéréotypes: certains sont universels, comme associer Rose to Girls; D'autres, plus locaux, comme le méfait présumé des habitants de Rio de Janeiro. Avec l'arrivée des chatbots de l'intelligence artificielle, ces préjugés, loin de disparaître, traversent les frontières comme jamais auparavant.
Et cela ne se produit pas par hasard: Les modèles linguistiques avec lesquels ces intelligences artificielles sont formées se nourrissent de ce qui se trouve sur Internet … et cela comprend également des clichés et des stigmates.
Pourquoi savons-nous? Pour une étude qui a montré que les modèles actuels d'IA reproduisent non seulement les stéréotypes connus, mais les amplifient également, les exportant vers des cultures qui ne les partagent même pas.
- De plus, l'IA reproduit ces biais culturels avec une vision très anglocentrique, ignorant les nuances d'autres langues et contextes.
- Et quand il s'agit de cultures ou de langues peu représentées dans la formation, elle échoue encore plus. En fait, parfois des explications pseudoscientifiques inventent pour justifier les préjugés.
Si vous voulez en savoir plus, vous pouvez lire ici.
