Superintelligence

Il cervello umano possiede alcune capacità che mancano ai cervelli di altri animali. Queste abilità speciali la nostra specie le deve alla sua posizione dominante. Altri animali hanno muscoli più forti o artigli più affilati, ma noi abbiamo cervelli più intelligenti. Se un giorno i cervelli delle macchine supereranno quelli umani in termini di intelligenza generale, questa nuova superintelligenza potrebbe diventare molto potente. Proprio come il destino dei gorilla ora dipende più da noi esseri umani che dai gorilla stessi, anche il destino della nostra specie dipenderebbe dalle azioni della superintelligenza artificiale. Ma abbiamo un vantaggio: possiamo compiere il primo passo. Sarà possibile costruire un'AI seme o modellare le condizioni iniziali in modo che un'esplosione di intelligenza sia sostenibile? Come si potrebbe raggiungere una detonazione controllata? Per avvicinarci a una risposta a questa domanda, dobbiamo affrontare un fa.