Superintelligence

Le cerveau humain possède certaines capacités qui manquent aux cerveaux d'autres animaux. Ces compétences particulières sont dues à la position dominante de notre espèce. D'autres animaux ont des muscles plus forts ou des griffes plus acérées, mais nous avons des cerveaux plus intelligents. Si un jour les cerveaux des machines surpassent les cerveaux humains en intelligence générale, cette nouvelle superintelligence pourrait devenir très puissante. Tout comme le destin des gorilles dépend maintenant davantage de nous, les humains, que des gorilles eux-mêmes, le destin de notre espèce dépendrait également des actions de la superintelligence machine. Mais nous avons un avantage : nous pouvons faire le premier pas. Sera-t-il possible de construire une Seed-AI ou de façonner les conditions initiales de manière à ce qu'une explosion d'intelligence soit viable ? Comment pourrait-on atteindre une détonation contrôlée ? Pour nous rapprocher d'une réponse à cette question, nous devons nous plonger dans un fa.