Paradoxe de Newcomb : je rejoins le camp des one-boxers

Avant de poursuivre, vous devriez sans doute vous faire votre propre avis en lisant ceci.

Le raisonnement d’un one-boxer consiste à considérer que le devin (ou la super-intelligence qui fait des simulations de vous ou le super-algorithme testé pendant 20 ans par les meilleurs psys) à, par exemple, 90% de chances d’avoir anticipé correctement votre choix. Partant de là, le one-boxer peut facilement estimer des espérances de gain : 101 pour les deux boîtes, 900 pour la boîte A seule ; la cause est entendue.

Du point de vue des two-boxers, la prédiction du devin a peu d’importance : le fait est que, dans tous les cas, choisir les deux boîtes rapporte 1 euro de plus que de choisir la boîte A seule (i.e. l’euro qui se trouve dans la boîte B). Si on part du principe que les deux prédictions possibles du devin sont équiprobables, ça fait une espérance de gain de 500 pour la boîte A seule et de 501 pour les deux boîtes.

D’où le paradoxe.

Après y avoir réfléchis un moment, je rejoins la majorité : je suis définitivement un one-boxer ; voici pourquoi.

Si vous ayez décidé de two-boxer, l’énoncé même du problème vous dit que le devin l’a très probablement prédit. Dans mon exemple, il y a donc 90% de chances pour que la boîte A soit vide ce qui réduit votre espérance de gain aux 101 euros prévus par les one-boxers.

En d’autres termes, la différence entre one-boxers et two-boxers, c’est que ces derniers ignorent une donnée fondamentale du problème : par hypothèse, leurs choix, leurs tergiversations et leurs stratégies ont (très probablement) été prédits.

Le Grand Filtre : sommes-nous tous déjà condamnés ?

Dans la famille des idées à caractère purement spéculatif qui m’amusent (mais me terrifient un peu aussi), je crois bien que le Grand Filtre est une des pires. Ce qui suit n’a aucune prétention si ce n’est que de faire découvrir l’idée à celles et ceux qui n’en n’ont jamais entendu parler. Je vous préviens tout de suite, la chute est rude (souvenez-vous que c’est de la pure spéculation).

L’équation de Drake

Formulée en 1961 par Franck Drake, l’équation n’a pas pour objet d’apporter une réponse définitive à la question d’une éventuelle vie extra-terrestre mais de formaliser le débat entre scientifiques en termes probabilistes. Même si l'équation peut être appliquée à d’autres périmètres, l’équation de Drake propose une estimation du nombre $N$ de civilisations dans la Voie Lactée avec laquelle une communication est théoriquement possible – i.e. qui ont atteint un degré de développement suffisant pour signaler leur existence :

$$N = R_* \times f_p \times n_e \times f_l \times f_i \times f_c \times L$$

En prose : $N$ est égal au nombre moyen d’étoiles qui se forment chaque année (terrestre) dans la galaxie ($R_*$) multiplié par la fraction de ces étoiles qui ont des planètes ($f_p$), fois le nombre moyen de planète qui peuvent abriter une forme de vie par système planétaire ($n_e$), fois la fraction de ces dernières sur lesquelles une vie se développe effectivement ($f_l$), fois la proportion de ces dernières qui développent une forme de vie intelligente ($f_i$), fois la fraction de ces civilisations capables de signaler leur existence dans l’espace ($f_c$), fois, enfin, le nombre d’années (terrestres) que ces dernières ont passé à émettre de tel signaux ($L$).

Évidemment, mettre un chiffre précis derrière chacun de ces sept paramètres (et surtout les cinq derniers) relève essentiellement de la conjecture éclairée. Quand Drake publie son équation, on estime qu’une nouvelle étoile naît dans la galaxie tous les ans ($R_*$) [1] ; on suppute que 20 à 50% de ces étoiles ont des planètes ($f_p$) [2] et que ces systèmes planétaires comptent entre 1 et 5 planètes habitables ($n_e$) ; on part du principe que toute planète sur laquelle la vie est possible fini par développer une forme de vie intelligente ($f_l$ et $f_i$ valent 1) ; on suppose que 10 à 20% de ces civilisations finissent par être capable de se signaler ($f_c$) et font ça pendant mille ans au minimum et cent millions d’années au maximum ($L$). Au total, notre Voie Lactée abriterait potentiellement entre 20 et – attention les yeux – 50,000,000 civilisations suffisamment développées pour être détectées ($N$) ; ce qui amène assez naturellement Enrico Fermi et Michael Hart à se demander : « mais où sont-ils donc tous ? »

Le paradoxe de Fermi

C'est le paradoxe de Fermi. En résumé : en tenant les estimations proposées plus haut comme des ordres de grandeur acceptables, on admet qu’il a existé, existe ou existera un grand nombre de civilisations avancées dans notre galaxie. Par ailleurs, en tenant compte du fait que notre soleil est une étoile relativement jeune, on est en droit de supposer qu’un nombre appréciable de ces civilisations sont nettement plus évoluées que la nôtre. Or, force est de constater que jusqu’à ce jour, on n’en a pas vu la moindre trace.

D’où le paradoxe : comment concilier l’existence de nombreuses espèces plus avancées que la nôtre avec le fait qu’elles ne laissent pas la moindre trace de leur existence ? Évidemment, les tentatives d’explication sont légion. Je les classe en quatre catégories :

Il y a d’abord l’idée selon laquelle il n’y a pas de paradoxe : nous sommes en réalité seuls ou presque. C’est un groupe de théories qui suggèrent que les estimations évoquées plus haut sont fausses : nous surestimons grossièrement la probabilité d’émergence de la vie ou d’une vie intelligente, les autres éventuelles civilisations sont extrêmement rares et sans doute trop éloignées pour être contactées.

Vient après l’isolationnisme interstellaire. C’est l’idée selon laquelle cette absence de contact est volontaire ; parce que c’est dangereux (« tout le monde écoute mais personne ne transmet »), par écologisme (nous sommes perçus comme une espèce à préserver, l’hypothèse du zoo) ou tout simplement par désintérêt (nous ne sommes perçus comme parfaitement anecdotiques ou nos voisins ne s’intéressent pas, d’une manière générale, à ceux qui les entourent [3]).

Suivent ensuite les problèmes de communication. Ils regroupent principalement deux sous-catégories : nous écoutons mal (nous avons bien capté des signaux de leur part mais n’avons pas su les reconnaitre comme tels) ou ils sont trop aliens (ils sont beaucoup plus différents de nous que nous ne l’avons envisagé).

Restent enfin un groupe d’explications que, pour reprendre le terme de Robin Hanson [4], j’appellerais le Grand Filtre. De nombreuses formes de vies sont apparues ici et là mais, dans le long processus évolutif qui aurait pu les amener au stade où elles auraient été capables de coloniser la galaxie, quelque chose a coincé et elles ont disparu. C’est à partir de ce point que cet article devient passablement cauchemardesque.

Le Grand Filtre

Il y a plusieurs façons d’envisager la nature du Grand Filtre qui vont de l’extinction causée par un phénomène naturel (météorite [5], virus…) à l’autodestruction (guerres, catastrophe écologique…) en passant par un grand exterminateur qui, pour des raisons qui lui sont propres, élimine systématiquement toutes les civilisations qu’il croise. Mais au-delà de sa nature, une autre question se pose : est-il derrière nous – nous lui avons survécu, hourra ! – ou devant nous ?

Schématiquement, on peut s’imaginer l’évolution d’une civilisation intelligente par quelque chose qui commence avec des formes de vies élémentaires, passe par le stade où nous en sommes aujourd’hui et poursuit vraisemblablement avec une colonisation de l’espace ou, au moins, une activité visible de loin. Le fait est que, pour autant qu’on sache, aucune civilisation n’a atteint ce stade.

Il y a donc deux façons d’interpréter ce fait : la version optimiste veut que nous ayons échappé au Grand Filtre et que nous serons bientôt la première espèce à coloniser la galaxie ; l’autre, moins réjouissante, implique que le Grand Filtre est devant nous et qu'au regard de nos progrès technologiques ces derniers siècles, il n’est sans doute pas très loin.

Si vous considérez les choses sous cet angle, vous verrez facilement que toute découverte de forme de vie moins évoluée que la nôtre ailleurs (la preuve d’une forme de vie multicellulaire sur Mars par exemple) n’est pas forcément un très bonne nouvelle : ça signifie qu’arriver jusque-là est relativement facile et que c’est après – peut-être juste après là où nous en sommes – que le Grand Filtre frappe. Évidemment, la proposition inverse est aussi vraie : découvrir une intelligence extraterrestre plus évoluée que nous remettrait en cause l’idée même du Grand Filtre à moins, bien sûr, qu’elle ne soit le Grand Filtre.

(Vous étiez prévenus.)

---
[1] Il semble que les dernières estimations sont plutôt de l'ordre de sept étoiles.
[2] On estime aujourd'hui que le fait, pour une étoile, de posséder un système planétaire relève plus de la règle que de l’exception.
[3] Notamment l’hypothèse selon laquelle, à partir d’un certain point, les civilisations auraient tendance à se « virtualiser » volontairement — le mind uploading appliqué à l’échelle d’une civilisation.
[4] Si vous appréciez le thème de cet article, je ne saurais que trop vous recommander la lecture de son blog.
[5] Parmi ceux qui pensent que nous surestimons la probabilité pour qu’une vie se développe ailleurs, beaucoup soulignent la protection que nous offre Jupiter à ce titre.

Le paradoxe de Newcomb appliqué au recrutement

Soient deux boîtes A et B qui contiennent une somme d’argent inconnue et fixée à l’avance. Le joueur a le choix entre choisir la boîte A seule ou choisir les deux boîtes (A+B).

On suppose par ailleurs l’existence d’un devin capable, avec un taux de réussite de (mettons) 90%, de prédire les choix des joueurs.

Le contenu des boîtes est déterminé comme suit :

  • La boîte B contient toujours 1 euro ;
  • Le contenu de la boîte A dépend de la prédiction du devin : s’il a prédit que le joueur choisira la boîte A seule, elle contient 1,000 euros ; s’il a prédit que le joueur choisira les deux boîtes, elle est vide.

Il y a donc quatre cas possibles en fonction de la prédiction du devin et du choix du joueur :

Prédiction Choix Gain
A A 1,000
A+B A+B 1
A A+B 1,001
A+B A 0

Étant donnés ces éléments, quelle est la meilleure stratégie ? Les joueurs ont-ils intérêt à choisir la boîte A seule ou les deux boîtes ?

Les deux boîtes

Quelle que soit la prédiction du devin, prendre les deux boîtes rapporte toujours plus : s’il a prédit A+B, vous gagnez 1 euro en lui donnant raison plutôt que zéro en sélectionnant la boîte A seule ; s’il a prédit A, vous gagnez 1,001 euros en prenant les deux boîtes plutôt que 1,000 en confirmant sa prédiction. En d’autres termes, peu importe la prédiction du devin et la fiabilité d’icelle, la stratégie A+B domine la stratégie A au sens de la théorie des jeux.

On peut illustrer cette idée en supposant que les prédictions du devin sont équiprobables — il y a une chance sur deux pour qu’il ait prévu A et une chance sur deux pour qu’il ait prévu A+B — auquel cas l’espérance de gain de la stratégie A+B est de 501 euros contre 500 pour la stratégie A.

La boîte A

Mais si nous considérons que le devin a raison dans 90% des cas, il a une autre façon de calculer l’espérance de gain des deux stratégies. En effet, vue sous cet angle, la stratégie A+B a 90% de chance de ne rapporter qu’un euro (le devin a raison) et seulement 10% de chances de rapporter 1,001 euros ; soit une espérance de gain de 101.

Or, dans cette optique, la stratégie A a 90% de chance de générer un gain de 1,000 et seulement une chance sur dix de ne rien rapporter du tout ; soit une espérance de gain de 900 euros. On en arrive donc à la conclusion inverse : il vaut mieux ne choisir que la boîte A.

Le paradoxe

C’est le paradoxe de Newcomb : ces deux façons d’aborder le problème sont aussi rigoureuses et rationnelles l’une que l’autre et pourtant, elles s’excluent mutuellement. La manière dont vous calculez votre espérance de gain et donc le choix que vous ferez dépend de la façon dont vous envisagez le problème : si vous vous concentrez sur la probabilité associé aux prédictions possibles du devin, vous choisirez les deux boîtes mais si vous concentrez votre attention sur la capacité prédictive du devin, vous opterez pour la boîte A seule.

L’intérêt du paradoxe de Newcomb, outre les abîmes de perplexité dans lesquels il plonge ceux qui cherchent à le résoudre, est très bien résumé Robert Nozick (1969) : « Pour presque tout le monde, la bonne stratégie est parfaitement claire et évidente. La difficulté vient du fait que le problème semble diviser les gens en deux groupes à peu près égaux ; nombre d’entre eux estimant que le choix des autres est juste stupide. »

Une application possible

Mis à part un sujet vaguement lié dont je ne peux pas vous parler sous peine de vous condamner à d’éternels tourments [1], la raison qui me pousse à vous parler de ce paradoxe, c’est qu’on peut, il me semble, en faire un extraordinaire outil de mesure de la souplesse intellectuelle et de la capacité à se remettre en cause d’un candidat.

Il se trouve que, ces derniers jours, j’ai participé à quelques jurys d’admission en école de commerce (pour Kedge) et qu’au moment de remplir la grille d’évaluation qu’on nous propose, j’ai souvent été bien embêté lorsqu’il s’est agi de juger de ce type de qualités (c’est aussi le cas de la créativité mais je pense avoir trouvé une solution tout à fait acceptable pour ça).

Voilà comment j’imagine le « protocole expérimental » : dans un premier temps, on soumet le problème au candidat de telle sorte qu’il arrive à sa solution et se convainc d’être dans le vrai (durant l’entretient ? avant ?) puis, en entretient, on lui demande de nous démontrer pourquoi il aurait dû choisir l’autre.

Ce qui est intéressant, c’est que tous les résultats possibles sont très riches en informations. Un candidat incapable de démontrer qu’il faut choisir telle ou telle solution, à priori, n’a pas grand-chose à faire dans une école de commerce ; un candidat qui parvient à une conclusion mais se révèle incapable de changer de point de vue peut sans doute être considéré comme passable et un candidat qui parvient à argumenter successivement les deux approches mérite très certainement notre attention.

Évidemment, les champions toutes catégories sont ceux qui vont identifier le paradoxe ; la seule difficulté sera alors de les distinguer de ceux qui connaissaient le truc — peut-être pas aussi forts que les précédents mais sans doute dotés d’une culture générale et d’une curiosité intellectuelle de premier ordre.

Bref, avis aux recruteurs et autres jurys : votre avis m’intéresse.

---
[1] Si vous êtes très courageux ou doté d’un solide bon sens, rendez-vous à la note suivante sinon : fuyez pauvres fous !
[2] Le Basilic de Roko :p

Monty Hall sans maths

Règle du jeu : on va vous proposer 3 enveloppes dont deux sont vides et une contient un billet de €100. Dans un deuxième temps, l’organisate...