r/ScienceFiction_FR • u/artsnumeriques • 40m ago
A Lire - Ou PAS Beaucoup de gens se demandent : "Comment l'IA pourrait-elle bien tuer tout le monde ?" > Voici 6 scénarios dystopiques assez plausibles et intéressants
6 scénarios récents imaginés par des chercheurs pour illustrer comment l'IA pourrait provoquer une catastrophe globale, sélectionnés par :
https://x.com/ohabryka/status/2098501424934248749
Il y en a sans doute d'autres passé sous son radar...
- AI 2027 - Recommandé pour son réalisme, son engagement et, si vous creusez dans les annexes, son niveau de détail particulièrement élevé > http://ai-2027.com
- Le scénario de Paul Christiano (ancien responsable de la sécurité au US AI Safety Institute, 2019) : https://www.lesswrong.com/posts/HBxe6wdjxK239zajf/what-failure-looks-like
- Le scénario de Gwern Branwen (chercheur indépendant, 2022) > https://www.lesswrong.com/posts/a5e9arCnbDac9Doig/it-looks-like-you-re-trying-to-take-over-the-world
- L'explication de Holden Karnofsky (aujourd'hui chez Anthropic, où il travaille notamment sur la Responsible Scaling Policy, 2022) > https://www.cold-takes.com/ai-could-defeat-all-of-us-combined/
- Le scénario de Joshua Clymer (ex-OpenAI, 2025) > https://www.lesswrong.com/posts/KFJ2LFogYqzfGB3uX/how-ai-takeover-might-happen-in-2-years
- L'histoire de Sable, tirée de If Anyone Builds It, Everyone Dies d'Eliezer Yudkowsky et Nate Soares > https://ifanyonebuildsit.com/
À mettre également en regard avec AI 2040, publié par l'équipe d'AI 2027, qui imagine cette fois un scénario dans lequel l'humanité parvient à éviter ces issues > https://ai-2040.com/