Superintelligence

Le cerveau humain possède certaines capacités que les cerveaux d'autres animaux n'ont pas. C'est grâce à ces capacités distinctives que notre espèce doit sa position dominante. D'autres animaux ont des muscles plus forts ou des griffes plus acérées, mais nous avons des cerveaux plus intelligents. Si un jour les cerveaux des machines viennent à surpasser les cerveaux humains en intelligence générale, alors cette nouvelle superintelligence pourrait devenir très puissante. Tout comme le destin des gorilles dépend désormais plus de nous, les humains, que des gorilles eux-mêmes, le destin de notre espèce pourrait également dépendre des actions de la superintelligence des machines. Mais nous avons un avantage : nous avons la possibilité de faire le premier pas. Sera-t-il possible de construire une IA de départ ou d'ingénier des conditions initiales pour rendre une explosion d'intelligence survivable ? Comment pourrait-on réaliser une détonation contrôlée ? Pour nous rapprocher d'une réponse à cette question, nous devons naviguer à travers un fa.