LA QUÊTE · POINT DE DÉPART
Ce qu’il faut retenir.
Une machine pourrait conserver des connaissances ou prolonger certaines recherches. En déduire qu’elle remplacera l’humanité ajoute beaucoup d’hypothèses. Ce dossier les examine comme un scénario, sans présenter cette succession comme inévitable.
Repères : [29] Concrete Problems in AI Safety · [32] Ultimate physical limits to computation
État de la question
TYPE : HYPOTHÈSEUne succession de l’humanité par l’IA : scénario.Soutien : SPÉCULATIF
TYPE : HYPOTHÈSESon caractère inévitable : non établi.Soutien : INCONNU / NON TRANCHÉ
Type et soutien concernent chaque proposition, pas tout le dossier. Une inférence peut être très robuste. Lire les deux dimensions.
Des traces aux conclusions
Sur quoi repose le raisonnement ?
Comparer les appuis et leurs limites
Les objectifs d’un système
- COMMENTAIRE MÉTHODOLOGIQUE
- Des travaux de sûreté analysent des objectifs mal spécifiés, des effets secondaires et les changements de contexte.
- INFÉRENCE
- Une capacité accrue n’assure pas à elle seule la poursuite de l’objectif humain souhaité.
- COMMENTAIRE MÉTHODOLOGIQUE
- Ces difficultés ne prédisent pas un futur unique, heureux ou catastrophique.
Source de ce raisonnement : [29] Concrete Problems in AI Safety
Les conditions matérielles
- RÉSULTAT THÉORIQUE
- Les calculs restent soumis à des contraintes physiques de ressources et d’énergie.
- INFÉRENCE
- Une recherche durable demande davantage qu’un programme : une infrastructure doit persister.
- COMMENTAIRE MÉTHODOLOGIQUE
- Une limite physique ne fournit ni calendrier de succession, ni preuve de sa possibilité pratique.
Source de ce raisonnement : [32] Ultimate physical limits to computation
Suivre un exemple, de la mesure à la conclusion
LA QUÊTE · DISTINGUER LES QUESTIONS
Poursuivre une recherche : trois conditions distinctes
- Capacité
Un système doit pouvoir accomplir les tâches de recherche considérées.
- Continuité matérielle
Le calcul dépend d’énergie et de matériel ; leur maintien doit aussi être assuré.
- Objectifs
Réussir une tâche ne garantit pas que l’objectif choisi corresponde à celui des humains.
- Choix collectif
La possibilité technique d’une succession ne décide pas si elle est souhaitable.
- Question laissée ouverte
Aucune de ces conditions, prise seule, ne fournit un calendrier ni un futur inévitable.
Publications utilisées pour cet exemple : [29] [32]
L’intelligence ne flotte pas dans le vide
Une IA dépend de matériel, d’énergie et d’une organisation qui la fait fonctionner. [32]
La limite de cette image
Le progrès logiciel ne fait pas disparaître les contraintes physiques.
Ouvrir le schéma ↗Ce qui ferait évoluer ce dossier
Une démonstration durable de maintien matériel et d’objectifs vérifiables sans interventions humaines indispensables rendrait une succession technique plus plausible. Le relevé des interventions nécessaires est donc essentiel. Sa désirabilité resterait un choix collectif.
LA QUÊTE · critère de lecture proposé, pas résultat annoncé.INCONNU / La frontière du dossier
Ce que nous ignorons.
Les trajectoires techniques, les décisions collectives et la continuité de nos valeurs ne se déduisent pas d’une courbe de performance.
Prendre le temps
Aller plus loin.
Ouvrez ce dont vous avez besoin : les images, les ateliers et les raisonnements détaillés du dossier sont conservés ici.
Lire les images et leurs limites
Les images et leurs indices
Sans équipage, avec des équipes humaines
Agrandir ↗Mosaïque photographique
Perseverance et Ingenuity sur Mars
Le rover et l’hélicoptère photographiés sur Mars le 6 avril 2021. Le panorama assemble des prises de vue du bras du rover.
Comment lire cette image
Une mission sans équipage dépend encore d’équipes humaines. Cette photo ne démontre pas une autonomie complète.
NASA/JPL-Caltech/MSSS · 2021 · Usage éducatif / informatif selon la politique JPL · Source originale ↗
Manipuler, comparer et préciser les mots
Pour se représenter les choses
Des conditions concrètes et des futurs ouverts
Des dessins pour comprendre les mécanismes. Leurs limites sont indiquées sous chaque image.
Bien faire quoi, pour qui ?
Une tâche réussie n’assure pas que l’objectif choisi ou ses conséquences conviennent aux humains. [29]
La limite de cette image
Une règle mal définie peut produire un résultat indésirable.
Ouvrir le schéma ↗
Plusieurs futurs restent imaginables
Coopération, dépendance ou succession sont des scénarios à discuter. Le schéma ouvre des questions, sans annoncer l’avenir.
La limite de cette image
Réflexion prospective : aucune probabilité n’est attribuée aux branches.
Ouvrir le schéma ↗Schémas originaux La Quête · dessins explicatifs, sans échelle. Crédits et sources.
Un système très performant poursuivrait-il forcément notre projet ?
Choisis une proposition : chaque réponse explique le raisonnement.
Développer le raisonnement
Ce qu’il faudrait transmettre pour parler de succession
Succéder en quel sens ?
Transmettre une bibliothèque, poursuivre un programme scientifique, fabriquer ses propres composants et choisir ses buts sont des capacités différentes. Un progrès dans l’une ne prouve pas que les autres suivront.
Le mot « successeur » ne désigne pas une espèce
Une IA n’est pas, par ce seul nom, une nouvelle espèce biologique. Le mot « successeur » exprime ici une possibilité de continuité de certaines activités humaines.
Une intelligence a besoin d’un monde matériel
Le calcul utilise de la matière, de l’énergie et du temps. Même un système très performant reste soumis à des contraintes physiques. Les analyses théoriques des limites du calcul rappellent cette dépendance. [32]
Qui entretiendrait l’infrastructure ?
Pour durer, un système devrait également entretenir une infrastructure : alimentation, refroidissement, composants, instruments. L’autonomie intellectuelle imaginée dans le scénario ne garantit pas cette autonomie matérielle.
Conserverait-elle notre projet de connaissance ?
Rien ne permet de déduire les buts d’un système de son seul niveau de performance. La spécification des objectifs et les comportements hors des situations prévues sont déjà des problèmes techniques de recherche. [29]
Qui choisirait les priorités ?
Le scénario devient intéressant lorsqu’on détaille ses conditions : que souhaite-t-on transmettre, comment vérifier la fidélité des connaissances et qui décide des priorités ? Ce sont aussi des choix humains, pas simplement des étapes d’une évolution annoncée.
Continuer une activité, conserver un héritage
Continuer une activité
Garder des connaissances ou poursuivre une recherche demanderait des moyens durables.
Transmettre ce qui compte
Préserver nos buts et nos valeurs ajoute des conditions. Aucune succession n’est annoncée comme inévitable.
Consulter les sous-questions détaillées
Les quatre sens de « nous succéder »
Cette carte conserve les repères historiques du projet. « Résultat présenté » et « Cadre ou proposition » organisent les sujets : ces rubriques ne sont pas des degrés de certitude. Le texte précise les hypothèses et les limites. Le type d’énoncé et son soutien sont deux dimensions distinctes. Une question ouverte ne prouve pas une impossibilité. Méthode.
- Résultat présenté ci-dessous
- Cadre ou proposition — voir les limites
- Nous ne savons pas
- Nous ne savons même pas si la question est accessible
1 · Quatre sens de la succession
- 1.1
Fonctionnelle
Sens du mot « succession »
Des machines prennent en charge une activité.
- 1.2
Culturelle
Sens du mot « succession »
Langues, œuvres, méthodes, récits conservés.
- 1.3
Matérielle
Sens du mot « succession »
Infrastructure entretenue durablement.
- 1.4
Morale / existentielle
Sens du mot « succession »
Ce qui continue mérite d’être appelé notre héritier.
2 · Dépendances physiques
- 2.1
- 2.2
Fabrication
Condition matérielle ou de conception
Remplacement de composants, chaînes d’approvisionnement.
- 2.3
Copie et continuité
Condition matérielle ou de conception
Divergence possible, défaillances communes.
- 2.4
3 · Scénarios
- 3.1
Prolongement humain
Scénario prospectif
Humains assistés par IA, décisions humaines.
- 3.2
Coexistence
Scénario prospectif
Communautés humaines et artificielles.
- 3.3
Transformation hybride
Scénario prospectif
L’humanité change de support en partie.
- 3.4
Succession après disparition
Scénario prospectif
Systèmes continuant sans humains.
- 3.5
Interruption
Scénario prospectif
Arrêt des infrastructures ou des projets.
4 · Conditions de preuve
- 4.1
Capacité démontrée
Condition à vérifier
Recherche fiable hors d’un ensemble étroit.
- 4.2
Continuité matérielle
Condition à vérifier
Entretien durable démontré.
- 4.3
Continuité culturelle
Condition à vérifier
Transmission des méthodes, pas seulement des données.
- 4.4
Continuité des finalités
Condition à vérifier
Compatibilité avec ce qui importe aux humains.
5 · Questions ouvertes
- 5.1
Qu’est-ce qui doit survivre pour parler de nous ?
Question philosophique
Une copie de connaissances suffit-elle ?
- 5.2
Accepterions-nous qu’un héritier rejette nos valeurs ?
Question philosophique
Question de choix collectif.
- 5.3
Une enquête sans humains reste-t-elle notre enquête ?
Question philosophique
Question philosophique.
Les sources de ce dossier
Les numéros dans le texte renvoient à ces références. Une source peut étayer un résultat ou présenter une hypothèse : son rôle est indiqué ici.
- Concrete Problems in AI Safety
Dario Amodei et collaborateurs · 2016 · primaire.
Objectifs mal spécifiés, effets secondaires, supervision, changement de contexte.
- Ultimate physical limits to computation
Seth Lloyd · 2000 · primaire.
Analyse théorique des limites physiques du calcul.
Noter une question ou une objection dans mon carnet →
Une erreur, une source manquante ?
Cette carte peut évoluer. Un passage précis et une référence m’aideront à examiner votre retour.
Signaler une erreur / proposer une sourceDernière mise à jour : 27 septembre 2026 · Édition 4.1 · Corrections bienvenues.
Voir l’historiquePosition personnelle de Thibaut : pourquoi chercher
Je veux chercher des réponses aux questions existentielles, sans me satisfaire d’une certitude que je ne peux pas défendre.
Cette intention générale a été validée par Thibaut. Elle ne signifie pas qu’il adopte chaque hypothèse de cette lecture. Lire la démarche →