{"id":79,"date":"2011-11-30T17:56:40","date_gmt":"2011-12-01T01:56:40","guid":{"rendered":"http:\/\/facingthesing.wpengine.com\/?p=79"},"modified":"2014-12-01T13:02:02","modified_gmt":"2014-12-01T21:02:02","slug":"the-laws-of-thought","status":"publish","type":"post","link":"https:\/\/intelligenceexplosion.com\/fr\/2011\/the-laws-of-thought\/","title":{"rendered":"Les lois de la pens\u00e9e"},"content":{"rendered":"

S<\/span>i certains ne sont pas d’accord avec moi sur les lois de la logique, sur la th\u00e9orie des probabilit\u00e9s, et sur la th\u00e9orie de la d\u00e9cision, je n’irai pas bien loin avec eux concernant les discussions sur la Singularit\u00e9 car ils finiront par soutenir que l’intelligence humaine fonctionne par magie, ou qu’une machine gagne forc\u00e9ment en bienveillance \u00e0 mesure qu’elle gagne en intelligence, ou qu’il est simple de sp\u00e9cifier ce que les humains veulent, ou toute autre b\u00eatise. Donc, assurons-nous de bien nous entendre sur les bases avant d’essayer de nous entendre sur les sujets plus complexes.<\/p>\n

La logique<\/h3>\n

Par chance, peu de gens sont en d\u00e9saccord concernant la logique. Comme pour les math\u00e9matiques, nous pouvons faire des erreurs par ignorance, mais une fois que quelqu’un nous montre la preuve<\/em> du th\u00e9or\u00e8me de Pythagore ou de l’invalidit\u00e9 de l’affirmation du cons\u00e9quent<\/a>, nous sommes d’accord. Les math\u00e9matiques et la logique sont des syst\u00e8mes d\u00e9ductifs<\/em>, o\u00f9 la conclusion d’une d\u00e9monstration r\u00e9ussie d\u00e9coule obligatoirement<\/em>\u00a0de ses pr\u00e9misses, \u00e9tant donn\u00e9s les axiomes du syst\u00e8me utilis\u00e9 : th\u00e9orie des nombres, g\u00e9om\u00e9trie, logique du premier ordre, etc. (Bien s\u00fbr, nous ne pouvons pas totalement \u00e9chapper \u00e0 l’incertitude : la preuve bien connue<\/a> du Dernier Th\u00e9or\u00e8me de Fermat par Andrew Wiles fait plus de 100 pages de long, donc m\u00eame si je me penchais dessus je ne serais pas certain de n’avoir commis aucune erreur.)<\/p>\n

Pourquoi devrions-nous laisser les lois de la logique dicter notre raisonnement ? Il n’y a rien d’inqui\u00e9tant \u00e0 cela. Les lois de la logique sont implicites \u00e0 la fa\u00e7on dont nos discussions se d\u00e9roulent. Si vous me dites que la voiture devant vous est 100% rouge et en m\u00eame temps qu’elle est 100% bleue, alors le probl\u00e8me n’est pas que nous op\u00e9rons selon des lois logiques diff\u00e9rentes, mais plut\u00f4t que nous utilisons des langages diff\u00e9rents. Ce que je veux dire quand je dis que la voiture devant moi est \u00ab\u00a0100% rouge\u00a0\u00bb, c’est qu’elle n’est pas aussi \u00ab\u00a0100% bleue\u00a0\u00bb de la m\u00eame fa\u00e7on et au m\u00eame moment. Si vous n’\u00eates pas d’accord, alors nous ne parlons pas le m\u00eame langage. Vous utilisez un langage qui utilise les m\u00eames sons et orthographes\u00a0que moi, mais ne veut pas dire les m\u00eames choses.<\/p>\n

Mais la logique est un syst\u00e8me de certitude, et notre monde est un syst\u00e8me d’incertitude. Dans notre monde, nous devons parler non pas de certitudes mais de probabilit\u00e9s<\/em>.<\/p>\n

La th\u00e9orie des probabilit\u00e9s<\/h3>\n

Donnez \u00e0 un enfant la religion en premier, et il aura probablement du mal \u00e0 la remettre en question, m\u00eame lorsqu’il d\u00e9couvrira la science. Donnez \u00e0 un enfant la science en premier, et lorsqu’il d\u00e9couvrira la religion elle lui semblera stupide.<\/p>\n

Pour cette raison, je vais expliquer en premier la th\u00e9orie correcte des probabilit\u00e9s, et j’aborderai seulement ensuite la th\u00e9orie incorrecte.<\/p>\n

Qu’est-ce que la probabilit\u00e9 ? C’est une mesure des chances qu’a une proposition d’\u00eatre vraie, \u00e9tant donn\u00e9 les autres choses que vous pensez vraies. Et quelle que soit notre th\u00e9orie des probabilit\u00e9s, elle devrait \u00eatre coh\u00e9rente avec le bon sens (par exemple, coh\u00e9rente avec la logique), et elle devrait \u00eatre coh\u00e9rente avec elle-m\u00eame (si vous pouvez calculer une probabilit\u00e9 avec deux m\u00e9thodes, ces m\u00e9thodes devraient donner le m\u00eame r\u00e9sultat).<\/p>\n

Plusieurs<\/a> auteurs<\/a> ont montr\u00e9 que les axiomes de la th\u00e9orie des probabilit\u00e9s peuvent \u00eatre d\u00e9riv\u00e9s de hypoth\u00e8ses ci-dessus et de la logique. Autrement dit : la th\u00e9orie des probabilit\u00e9s est une simple extension de la logique<\/em>. Si vous acceptez la logique et que vous acceptez les (tr\u00e8s minimes) hypoth\u00e8ses pr\u00e9c\u00e9dentes sur ce que sont les probabilit\u00e9s, alors vous avez accept\u00e9 la th\u00e9orie des probabilit\u00e9s.<\/p>\n

Une autre raison d’accepter la th\u00e9orie des probabilit\u00e9s est la suivante (grossi\u00e8rement) : si vous ne l’acceptez pas, et si vous \u00eates pr\u00eats \u00e0 parier sur vos croyances, alors quelqu’un qui utilise la th\u00e9orie des probabilit\u00e9s peut prendre tout votre argent. (Pour la d\u00e9monstration, jetez un oeil \u00e0 \u00ab\u00a0Dutch Book arguments\u00a0\u00bb<\/a>.)<\/p>\n

La r\u00e8gle qui est peut-\u00eatre la plus utile \u00e0 d\u00e9river \u00e0 partir des axiomes de la th\u00e9orie des probabilit\u00e9s est le Th\u00e9or\u00e8me de Bayes<\/a>, qui indique exactement comment changer la probabilit\u00e9 d’une affirmation lorsque de nouvelles informations arrivent. (Dans les sciences cognitives de la rationalit\u00e9<\/a>, beaucoup de biais cognitifs sont d\u00e9finis<\/em> selon la fa\u00e7on dont ils enfreignent soit la logique de base soit le Th\u00e9or\u00e8me de Bayes.) Si vous n’utilisez pas le Th\u00e9or\u00e8me de Bayes pour mettre \u00e0 jour vos croyances, alors vous enfreignez la th\u00e9orie des probabilit\u00e9s, qui est une extension de la logique.<\/p>\n

Bien s\u00fbr, le cerveau humain est trop lent pour faire des calculs Bayesiens explicites toute la journ\u00e9e. Mais vous pouvez<\/em> d\u00e9velopper des heuristiques mentaux qui feront un meilleur travail que la plupart de nos heuristiques naturels pour estimer des calculs Bayesiens.<\/p>\n

Mais ce n’est pas l’endroit pour un tutoriel complet sur la logique<\/a> ou sur la th\u00e9orie des probabilit\u00e9s<\/a> ou sur l’entrainement rationnel<\/a>. Je voudrais introduire les outils principaux que j’utiliserai pour que je puisse ensuite expliquer pourquoi j’en suis venu \u00e0 une conclusion plut\u00f4t qu’une autre concernant la Singularit\u00e9. Mais, vous pouvez au minimum<\/em> lire ce court tutoriel sur le Th\u00e9or\u00e8me de Bayes<\/a> avant de continuer.<\/p>\n

Enfin, je dois vous expliquer rapidement la raison pour laquelle l’approche fr\u00e9quentiste des probabilit\u00e9s, celle que vous avez probablement apprise \u00e0 l’\u00e9cole, est mauvaise. Alors que l’approche Bayesienne voit les probabilit\u00e9s comme des mesures de notre incertitude sur le monde, l’approche fr\u00e9quentiste voit les probabilit\u00e9s comme \u00ab\u00a0la proportion de chances qu’un \u00e9v\u00e9nement se produise sur une longue s\u00e9rie d’exp\u00e9riences r\u00e9p\u00e9t\u00e9es\u00a0\u00bb. Je vais simplement mentionner deux probl\u00e8mes \u00e0 cette approche, parmi au moins quinze<\/a>:<\/p>\n

    \n
  1. L’approche fr\u00e9quentiste n’est pas d\u00e9riv\u00e9e des lois de la logique, et elle n’est pas auto-coh\u00e9rente. Sous l’approche fr\u00e9quentiste, calculer une probabilit\u00e9 avec deux m\u00e9thodes peut souvent mener \u00e0 deux r\u00e9ponses diff\u00e9rentes.<\/li>\n
  2. L’approche fr\u00e9quentiste analyse les probabilit\u00e9s en se basant non pas exclusivement sur ce que nous savons<\/em>\u00a0mais aussi sur une longue s\u00e9rie \u00ab\u00a0d’exp\u00e9riences\u00a0\u00bb que nous pourrions ne jamais observer, et qui ne sont que vaguement d\u00e9finies. En d’autres termes, l’approche fr\u00e9quentiste abandonne l’empirisme.<\/li>\n<\/ol>\n

    Si l’approche fr\u00e9quentiste est fausse, pourquoi est-elle si populaire ? Il y a de nombreuses raisons, examin\u00e9es dans ce livre<\/a> qui traite du Th\u00e9or\u00e8me de Bayes. Toujours est-il que quand je parlerai de la th\u00e9orie des probabilit\u00e9s, il s’agira du Bayesianisme.<\/p>\n

    La th\u00e9orie de la d\u00e9cision<\/h3>\n

    J’ai expliqu\u00e9 pourquoi il y a des Lois de la Pens\u00e9e lorsque l’on en vient \u00e0 la rationalit\u00e9 \u00e9pist\u00e9mique (acqu\u00e9rir des croyances vraies), et je vous ai cit\u00e9 quelques tutoriels d\u00e9taill\u00e9s. Mais comment peut-il y avoir des Lois de la Pens\u00e9e concernant la rationalit\u00e9 instrumentale (maximiser la r\u00e9ussite de ses objectifs) ? Ce que nous voulons n’est-il pas subjectif, et donc sujet \u00e0 aucune r\u00e8gle ?<\/p>\n

    Oui, nous pouvons avoir beaucoup d’objectifs. Mais quand il s’agit de maximiser l’accomplissement<\/em> de ces objectifs, il y a effectivement des r\u00e8gles. En y r\u00e9fl\u00e9chissant, c’est \u00e9vident. Quels que soient vos objectifs, il y a toujours des moyens tr\u00e8s idiots d’essayer de les accomplir. Si vous voulez connaitre ce qui existe, vous ne devriez pas vous mettre la t\u00eate dans le sable et refuser de regarder<\/em> ce qui existe. Et si vous voulez accomplir vos objectifs dans le monde, vous ne devriez pas paralyser votre corps, \u00e0 moins que la paralysie soit votre but.<\/p>\n

    Soyons plus sp\u00e9cifiques. La th\u00e9orie de la d\u00e9cision consiste \u00e0 choisir parmi des actions possibles en fonction de votre degr\u00e9 de d\u00e9sir concernant les cons\u00e9quences possibles de ces actions.<\/p>\n

    Comment \u00e7a marche ? Ce que vous d\u00e9sirez peut \u00eatre d\u00e9fini par quelque chose appel\u00e9 fonction d’utilit\u00e9<\/em>, qui assigne un nombre exprimant combien vous d\u00e9sirez chaque cons\u00e9quence possible (ou chaque \u00ab\u00a0description d’un futur complet possible\u00a0\u00bb). Peut-\u00eatre qu’une boule de cr\u00e8me glac\u00e9e repr\u00e9sente pour vous 40 \u00ab\u00a0utilons\u00a0\u00bb, la mort de votre fille en repr\u00e9sente -\u2060274 000, etc. Cette repr\u00e9sentation num\u00e9rique de tout ce qui vous importe est votre fonction d’utilit\u00e9.<\/p>\n

    On peut combiner vos croyances probabilistes et votre fonction d’utilit\u00e9 pour calculer l’esp\u00e9rance d’utilit\u00e9<\/em>\u00a0de toute action consid\u00e9r\u00e9e. L’esp\u00e9rance d’utilit\u00e9 d’une action est l’utilit\u00e9 moyenne des cons\u00e9quences possibles de l’action, pond\u00e9r\u00e9e par la probabilit\u00e9 que chaque cons\u00e9quence se produise.<\/p>\n

    Imaginez que vous marchez le long d’une autoroute avec votre fille. Vous voyez un stand de glaces de l’autre c\u00f4t\u00e9 de l’autoroute, mais vous vous \u00eates r\u00e9cemment bless\u00e9 \u00e0 la jambe et vous ne pourriez pas traverser rapidement. Au vu de ce que vous savez, si vous envoyez votre fille traverser la route pour prendre de la glace, il y a 60% de chances que vous obteniez de la glace, 5% de chance que votre fille soit tu\u00e9e par des voitures, et d’autres probabilit\u00e9s pour d’autres cons\u00e9quences.<\/p>\n

    Pour calculer l’esp\u00e9rance d’utilit\u00e9 d’envoyer votre fille de l’autre c\u00f4t\u00e9 de l’autoroute pour de la glace, on multiplie la probabilit\u00e9 de la premi\u00e8re cons\u00e9quence par son utilit\u00e9 : 0,6 x 40 = 24. Ensuite, on y ajoute le produit de l’utilit\u00e9 de la cons\u00e9quence suivante et de sa probabilit\u00e9 : 24 + (0,05\u00a0\u00d7 -\u2060274 000) = -\u206013 676. Et supposons que la somme des produits des utilit\u00e9s et des probabilit\u00e9s des autres cons\u00e9quences soit z\u00e9ro. L’esp\u00e9rance d’utilit\u00e9 d’envoyer votre fille prendre de la glace de l’autre c\u00f4t\u00e9 de l’autoroute est donc tr\u00e8s basse<\/em> (ainsi que le bon sens nous l’aurait indiqu\u00e9). Vous devriez probablement prendre l’une des autres<\/em> actions qui vous sont disponibles, par exemple l’action de ne pas<\/em> envoyer votre fille traverser l’autoroute\u00a0\u2014 ou, une action avec une esp\u00e9rance d’utilit\u00e9 encore plus haute<\/em>.<\/p>\n

    Un agent rationnel cherche \u00e0 maximiser son esp\u00e9rance d’utilit\u00e9, car il va en moyenne obtenir le maximum<\/em> de ce qu’il d\u00e9sire, \u00e9tant donn\u00e9 ses croyances et ses d\u00e9sirs.<\/p>\n

    Il semble intuitif qu’un agent rationnel devrait maximiser son esp\u00e9rance d’utilit\u00e9, mais pourquoi serait-ce le seul<\/em> moyen rationnel de faire les choses ? Pourquoi ne pas essayer de minimiser la pire perte possible ? Pourquoi ne pas essayer de maximiser la somme pond\u00e9r\u00e9e des cubes des utilit\u00e9s possibles ?<\/p>\n

    La justification pour le principe de \u00ab\u00a0l’esp\u00e9rance d’utilit\u00e9 maximale\u00a0\u00bb a \u00e9t\u00e9 d\u00e9couverte dans les ann\u00e9es 1940 par Von Neumann et Morgenstern. En clair, ils ont prouv\u00e9 que si quelques axiomes \u00e0 propos de pr\u00e9f\u00e9rences sont accept\u00e9s, alors un agent ne peut agir en conformit\u00e9 avec ses propres pr\u00e9f\u00e9rences que s’il choisit une action qui maximise son esp\u00e9rance d’utilit\u00e9.<\/p>\n

    Quels sont ces axiomes ? Tout comme les axiomes de la th\u00e9orie des probabilit\u00e9s, ils sont simples et intuitifs. Par exemple, l’un d’eux est l’axiome de \u00ab\u00a0transitivit\u00e9\u00a0\u00bb, qui dit que si un agent pr\u00e9f\u00e8re A \u00e0 B, et qu’il pr\u00e9f\u00e8re B \u00e0 C, alors il doit pr\u00e9f\u00e9rer A \u00e0 C. Cet axiome implique que quelqu’un qui a des pr\u00e9f\u00e9rences non-transitives peut se faire d\u00e9rober de tout son argent m\u00eame en ne faisant que des \u00e9changes qui lui semblent favorables.<\/p>\n

    Je n’entrerai pas dans les d\u00e9tails<\/a> ici car cette conclusion a \u00e9t\u00e9 largement accept\u00e9e : un agent rationnel maximise l’esp\u00e9rance d’utilit\u00e9.<\/p>\n

    Malheureusement, les humains ne sont pas des agents rationnels. Comme nous le verrons dans l’article suivant, les humains sont fous<\/em>.<\/p>\n

    <\/p>","protected":false},"excerpt":{"rendered":"

    i certains ne sont pas d’accord avec moi sur les lois de la logique, sur la th\u00e9orie des probabilit\u00e9s, et sur la th\u00e9orie de la d\u00e9cision, je n’irai pas bien loin avec eux concernant les discussions sur la Singularit\u00e9 car… continue reading<\/a> »<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-79","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/79","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/comments?post=79"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/79\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/media?parent=79"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/categories?post=79"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/tags?post=79"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}