<\/a><\/p>\n
Ad un certo punto di questo secolo, le macchine sorpasseranno i livelli umani di intelligenza ed abilit\u00e0. Questo evento\u2014la \u201cesplosione di intelligenza\u201d\u2014sar\u00e0 l\u2019evento pi\u00f9 importante nella nostra storia, e navigare saggiamente in quelle acque sar\u00e0 la cosa pi\u00f9 importante che potremmo mai fare.<\/p>\n
Luminari come Alan Turing1<\/sup><\/a> e I. J. Good<\/a> oppure Bill Joy<\/a> e Stephen Hawking<\/a> ci hanno gi\u00e0 avvertito a riguardo. Perch\u00e9 penso che Hawking e compagnia bella abbiano ragione, e cosa possiamo fare a riguardo?<\/p>\n Affrontare l\u2019esplosione d\u2019intelligenza \u00e8 il mio tentativo di rispondere a queste domande.<\/p>\n Inizier\u00f2 con la mia storia personale. Vi aiuter\u00e0 a sapere chi sono e da dove arrivo. Queste informazioni vi daranno qualche indicazione su come reagire alle altre cose che vi dico.<\/p>\n Quando le mie convinzioni religiose finalmente cedettero alla realt\u00e0, persi la fede<\/a> e aprii un blog per spiegare agli altri l\u2019ateismo ed il naturalismo. Common Sense Atheism<\/a> divent\u00f2 uno dei pi\u00f9 popolari blog sull\u2019ateismo in internet. Mi piaceva \u201ctradurre\u201d i paper dei filosofi professionisti in un inglese comprensibile, e parlare con gli esperti del ramo nel mio podcast Conversazioni dal Piccolo Punto Blu<\/a>. Inoltre, perdere la fede non mi suggerii cosa avrei dovuto credere o fare nella mia vita, e usai il mio blog per cercare delle risposte.<\/p>\n Mi sono inoltre occupato di razionalit\u00e0, almeno a partire dalla mia deconversione, durante la quale scoprii che potevo facilmente confidare in cose su cui non avevo prove, cose che erano state dimostrate false, e persino delle assurdit\u00e0 totali. Come poteva il cervello umano farsi fuorviare tanto facilmente? Ovviamente, non ero l\u2019\u201danimale razionale\u201d di Aristotele. Semmai, ero l\u2019animale razionalizzante<\/a> di Gazzaniga. Il pensiero critico era uno dei temi principali di Common Sense Atheism, e spesi nella confutazione delle fallacie degli atei tanto sforzo quanto confutare le fallacie dei credenti.<\/p>\n Il mio interesse nella razionalit\u00e0 mi port\u00f2 inevitabilmente (a met\u00e0 del 2010, suppongo) a scoprire una miniera di articoli sulla scienza della razionalit\u00e0: il sito Less Wrong<\/a>. Fu l\u00ec che incontrai per la prima volta il concetto di esplosione di intelligenza:<\/p>\n Definiamo ultraintelligente una macchina che pu\u00f2 sorpassare di parecchie lunghezze le capacit\u00e0 intellettive di qualunque essere umano, per quanto intelligente. Poich\u00e9 la progettazione di macchine \u00e8 una di tali attivit\u00e0 intellettive, una macchina ultraintelligente potrebbe progettare macchine ancora migliori; ci sarebbe indiscutibilmente una \u201cesplosione di intelligenza,\u201d e l\u2019intelligenza umana finirebbe per mangiare la polvere…. Pertanto, la prima macchina ultraintelligente \u00e8 l\u2019ultima invenzione che gli uomini dovranno mai fare.2<\/sup><\/a><\/p><\/blockquote>\n Racconto qui<\/a> la storia del mio primo incontro con quel famoso paragrafo. In breve,<\/p>\n Il paragrafo di I.J.Good mi invest\u00ec come un treno. Non perch\u00e9 fosse assurdo, ma perch\u00e9 era chiaramente vero. L\u2019esplosione di intelligenza era una diretta conseguenza di cose in cui gi\u00e0 credevo, ma semplicemente non le avevo notate! Gli umani non estendono automaticamente le loro convinzioni, perci\u00f2 non aveto notato che la mia visione del mondo implicava gi\u00e0 l\u2019esplosione di intelligenza.<\/p>\n Dedicai una settimana a cercare contro-argomenti, controllare se mi mancasse qualcosa, e alla fine accettai come probabile l\u2019esplosione di intelligenza (finch\u00e9 fosse continuato il progresso scientifico). E sebbene non avessi letto i paper di Eliezer<\/a> sulla complessit\u00e0 del valore<\/a>, certamente avevo letto David Hume<\/a> e Joshua Greene<\/a>. Avevo perci\u00f2 gi\u00e0 capito che un\u2019intelligenza artificiale scelta a caso quasi certamente non condividerebbe i nostri valori.<\/p><\/blockquote>\n La mia risposta a questa scoperta fu immediata e trasformativa.<\/p>\n Misi in pausa gli altri miei progetti e spesi il mese successivo a leggere quasi tutto ci\u00f2 che Eliezer aveva scritto. Trovai inoltre articoli di Nick Bostrom<\/a> e Steve Omohundro<\/a>. Iniziai a scrivere articoli per Less Wrong e ad imparare dalla comunit\u00e0. Feci domanda per il programma Visiting Fellow [del Machine Intelligence Research Institute] e mi presero. Lasciai L.A., mi spostai a Berkeley, mi diedi da fare, mi feci assumere, e iniziai a raccogliere materiale di ricerca collegato alla razionalit\u00e0 e all\u2019esplosione di intelligenza.<\/p><\/blockquote>\n Come disse una volta il mio amico Will Newsom, \u201cLuke sembra avere due copie del gene \u2018Prendo le idee seriamente<\/a>\u2019.\u201d<\/p>\n Ovviamente, quello a cui alcune persone plaudono come \u201cPrendere le idee serie seriamente,\u201d per altri \u00e8 solo un\u2019innata tendenza al fanatismo. Ecco un commento che immagino qualcuno potrebbe fare:<\/p>\n La cosa non mi sorprende. Luke \u00e8 cresciuto credendo di essere in missione cosmica per salvare l\u2019umanit\u00e0 prima che il mondo finisca con l\u2019arrivo di un essere superpotente (il ritorno di Cristo). Perse la fede e, con essa, il suo senso di uno scopo epico. La sua paura del nichilismo lo rese suscettibile alla seduzione di qualcosa che sembrava realismo morale, ed il suo bisogno di uno scopo epico lo rese sensibile alla seduzione di limitare il rischio esistenziale.<\/p><\/blockquote>\n Una delle risposte che potrei dare, a riguardo, sarebbe liquidare il tutto come una \u201cpsicologizzazione\u201d che non cambia lo stato delle prove per le affermazioni che ora difendo a proposito dell\u2019esplosione di intelligenza. Il che \u00e8 vero, ma ancora: verit\u00e0 plausibili sulla mia psicologia certamente forniscono alcune prove Bayesiane<\/a> su come dovreste reagire alle parole scritte in questo libro.<\/p>\n Un\u2019altra risposta che potrei dare sarebbe spiegare perch\u00e9 le cose non siano affatto andate cos\u00ec, sebbene in questa analisi vi sia del vero. (Per esempio, non ricordo di aver sentito che il ritorno di Cristo fosse imminente o che mi trovassi in missione cosmica per salvare fino all\u2019ultima anima, sebbene da Cristiano evangelico fossi teologicamente impegnato su questioni simili. Ma \u00e8 certamente vero che sono attirato da cose \u201cepiche\u201d, come la rock band Muse ed il film Avatar.) Ma non voglio riempire questo capitolo con ulteriori dettagli sulla mia psicologia personale.<\/p>\n Una terza risposta farebbe appello alla prova sociale. Sembra esserci una classe di lettori di Common Sense Atheism che hanno letto i miei scritti con tanta attenzione da sviluppare un forte rispetto per il mio impegno all\u2019onest\u00e0 intellettuale e a cambiare idea quando mi sbagliavo, e cos\u00ec quando iniziai a scrivere su questioni legate all\u2019esplosione di intelligenza pensavano, \u201cBe\u2019, ero solito pensare che tutta la roba collegata all\u2019esplosione di intelligenza fosse da bizzarri, ma se Luke la sta prendendo sul serio allora forse c\u2019\u00e8 del vero, pi\u00f9 di quanto non mi renda conto ora,\u201d e mi raggiungevano su Less Wrong (dove a quel punto gi\u00e0 postavo regolarmente). Menzioner\u00f2 inoltre che un significativo fattore causale, nel mio nuovo ruolo di Direttore Esecutivo del Machine Intelligence Research Institute, assunto a cos\u00ec breve distanza dall\u2019ingresso nell’organizzazione, era il fatto che il personale notava quanto seriamente mi dedicassi alla razionalit\u00e0 e al \u201cdebiasing\u201d, a dire “oops”, cambiare idea e affrontare l’argomento, e agendo sulla base di una teoria delle decisioni pi\u00f9 spesso che potevo, piuttosto che in base all’abitudine e all’emozione, come sarei propenso a fare.<\/p>\n Nella cernita delle mie possibili risposte alla critica del \u201cfanatismo\u201d di cui sopra, ho gi\u00e0 abbozzato una specie di risposta. Ma non andr\u00f2 oltre. Voglio che le persone prendano quanto dico con una generosa dose di sale. Dopotutto, sono solo un umano. Spero che i miei lettori terranno conto non solo della mia umanit\u00e0 ma anche della forza degli argomenti e delle prove che pi\u00f9 avanti fornir\u00f2 riguardo all\u2019arrivo della superintelligenza artificiale.<\/a><\/p>\n * * *<\/p>\n 1<\/sup><\/a>A. M. Turing, \u201cIntelligent Machinery, A Heretical Theory\u201d (A lecture given to \u201951 Society\u2019 at Manchester, 1951).<\/small><\/p>\n 2<\/sup><\/a>Irving John Good, \u201cSpeculations Concerning the First Ultraintelligent Machine,\u201d in Advances in Computers, ed. Franz L. Alt and Morris Rubinoff, vol. 6 (New York: Academic Press, 1965), 31\u201388, doi:10.1016\/S0065-2458(08)60418-0<\/a>.<\/small><\/p>\n <\/a><\/p>","protected":false},"excerpt":{"rendered":" Ad un certo punto di questo secolo, le macchine sorpasseranno i livelli umani di intelligenza ed abilit\u00e0. Questo evento\u2014la \u201cesplosione di intelligenza\u201d\u2014sar\u00e0 l\u2019evento pi\u00f9 importante nella nostra storia, e navigare saggiamente in quelle acque sar\u00e0 la cosa pi\u00f9 importante che… continue reading<\/a> »<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-6","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/posts\/6","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/comments?post=6"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/posts\/6\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/media?parent=6"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/categories?post=6"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/it\/wp-json\/wp\/v2\/tags?post=6"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Storia Personale<\/h3>\n
L’esplosione di intelligenza<\/h3>\n
Fanatismo?<\/h3>\n