« Une discrimination algorithmique peut toucher des millions de personnes en quelques secondes », avertit Mandiaye Diallo. Pour l’expert sénégalais du numérique, les systèmes d’intelligence artificielle peuvent reproduire, voire amplifier, des préjugés raciaux.
Cette alerte sur les biais algorithmiques s’inscrit dans un débat plus large sur la souveraineté numérique de l’Afrique. Le continent abrite 18 % de la population mondiale, mais ne dispose que de moins de 1 % de la capacité mondiale en centres de données. Sur les 223 centres recensés en Afrique, plus des deux tiers sont concentrés en Afrique du Sud. Cette dépendance matérielle renforce celle qui porte sur les données, les modèles et les références culturelles intégrés aux outils utilisés quotidiennement.
Dans un compte rendu publié par APS, l’auteur de La Quatrième Blessure – Pourquoi l’Afrique doit gagner la guerre numérique rapporte des expériences réalisées avec plusieurs systèmes d’IA connus. Selon lui, une même situation aurait provoqué des réponses différentes selon l’origine ou la couleur de peau de la personne évoquée.
Il cite notamment des formulations mentionnant un Algérien, une personne noire ou un Italien. Les deux premières auraient parfois conduit les outils à s’inquiéter de la sécurité de l’utilisatrice, jusqu’à suggérer le recours à la police, tandis que la troisième aurait suscité des conseils liés à l’échange et à la socialisation.
Des effets possibles dans plusieurs secteurs
Pour Mandiaye Diallo, le problème ne se limite pas aux réponses d’un chatbot. L’intelligence artificielle est déjà appelée à intervenir dans des décisions structurantes, comme le recrutement, la justice, la santé, la sécurité ou l’information. Les représentations présentes dans les données utilisées pour concevoir et entraîner les modèles pourraient donc peser directement sur les parcours et les droits de millions de personnes.
Ces outils ne sont ni neutres ni autonomes au sens où ils échapperaient à toute responsabilité humaine : ils reflètent des choix humains, depuis la sélection des données jusqu’à la définition des objectifs et des critères d’évaluation. Un biais présenté comme une décision technique peut ainsi prolonger des rapports de pouvoir ou des préjugés déjà présents dans la société.
Diallo relie cette question à la dépendance technologique du continent. Celle-ci concerne les infrastructures et le stockage des données, mais aussi les références culturelles intégrées aux technologies numériques. Avec une capacité de calcul et d’hébergement très inégalement répartie, l’Afrique risque de rester principalement consommatrice de systèmes conçus ailleurs, sans maîtriser pleinement les conditions de leur fonctionnement ni les conséquences de leurs décisions.
L’expert appelle les pays africains à ne plus être de simples utilisateurs. Il préconise la création de modèles d’IA, de centres de recherche et de bases de données prenant en compte les langues, les histoires, les cultures et les réalités du continent.
Dans ses propos rapportés par M. Diallo, l’Afrique est invitée à faire parler l’intelligence artificielle dans ses langues et à la nourrir de ses imaginaires. Il avertit que des machines pourraient un jour maîtriser ces langues tout en reproduisant des biais racistes. L’enjeu est donc autant de développer les capacités techniques du continent que de garder la main sur les choix humains encodés dans ces technologies.