Superintelligence

Il cervello umano ha alcune capacità che i cervelli di altri animali non possiedono. È a queste capacità distintive che la nostra specie deve la sua posizione dominante. Altri animali hanno muscoli più forti o artigli più affilati, ma noi abbiamo cervelli più intelligenti. Se un giorno i cervelli delle macchine dovessero superare i cervelli umani in intelligenza generale, allora questa nuova superintelligenza potrebbe diventare molto potente. Così come il destino dei gorilla ora dipende più da noi umani che dai gorilla stessi, anche il destino della nostra specie potrebbe venire a dipendere dalle azioni della superintelligenza artificiale. Ma abbiamo un vantaggio: possiamo fare la prima mossa. Sarà possibile costruire un'AI seme o ingegnerizzare in altro modo le condizioni iniziali per rendere un'esplosione di intelligenza sostenibile? Come si potrebbe ottenere una detonazione controllata? Per avvicinarci a una risposta a questa domanda, dobbiamo fare il nostro cammino attraverso una fa.