L’IA pourrait échapper à notre contrôle

Mots-clés : Alignement de l’IA, Sécurité technologique, Risque existentiel.

Résumé

L'accélération du développement de l'IA sans garantir son alignement avec les valeurs humaines pourrait mener à une situation où une IA avancée, capable de s'auto-améliorer, prendrait des décisions contraires aux intérêts humains. Une telle IA pourrait devenir incontrôlable, représentant un risque existentiel pour l'humanité. L'absence de garanties sur la sécurité et l’éthique des systèmes d’IA amplifie ces craintes.

Citations

« [...] une intelligence artificielle non alignée sur nos valeurs pourrait devenir un risque existentiel pour l’humanité. »

Nick Bostrom, « Superintelligence: Paths, Dangers, Strategies », Oxford University Press, 2014

Références

Aucune référence n'a été entrée pour le moment.

Justifications

• Les IA qui programment d'autres IA échappent à notre compréhension
• Les problèmes d’alignement des IA sont réels

Objections

• Les IA n’ont pas de volonté propre et ne ressentent aucun désir
• Des IA plus intelligentes peuvent résoudre le problème d’alignement des IA

Débat parent

• Faut-il accélérer le développement de l'intelligence artificielle ?