Vers une génération d’IA sans biais humains
Cet argument est utilisé dans le débat Faut-il accélérer le développement de l'intelligence artificielle ?.
Cet argument est une justification de L'intelligence artificielle peut réduire les biais humains.
Cet argument est une objection à L’IA peut amplifier les biais et discriminations.
Résumé
Si certaines IA reproduisent aujourd’hui les biais présents dans leurs jeux de données, il est possible de concevoir des systèmes d’IA spécialisés pour entraîner et superviser d’autres IA, garantissant que chaque nouvelle génération soit débarrassée de ces biais humains. Ces IA "formatrices" peuvent analyser en profondeur les données utilisées, détecter les biais explicites ou implicites, et les corriger avant qu’ils ne soient intégrés dans le modèle suivant.
En procédant ainsi, chaque génération d’IA devient plus juste et équitable que la précédente. Une fois ce processus en place, il élimine non seulement les biais actuels, mais empêche également leur réintroduction dans les générations futures. Cette approche crée un cercle vertueux dans lequel les systèmes d’IA contribuent activement à réduire les discriminations et les inégalités structurelles, sans risque d’amplifier les biais humains.
Ce mécanisme, reposant sur une chaîne d’amélioration continue, garantit qu’à terme, les IA ne seront pas seulement des outils neutres, mais des leviers pour identifier, corriger, et prévenir les biais à grande échelle.
Citations
« [...] avec des IA conçues pour entraîner et superviser d’autres systèmes, nous pouvons entrer dans une nouvelle ère où les biais ne sont plus amplifiés, mais systématiquement corrigés à chaque étape du développement technologique. »
Références
Justifications
Objections
-
Les IA qui programment d'autres IA échappent à notre compréhension