La prospettiva di un mondo abitato da robuste intelligenze artificiali mi terrorizza. La prospettiva di un mondo senza robuste intelligenze artificiali mi terrorizza tanto quanto. Decenni di innovazione tecnologica hanno creato un sistema mondiale così complesso e in tale evoluzione che sta diventando incomprensibile per le capacità umane. Se vogliamo evitare una catastrofe della civiltà, abbiamo bisogno di qualcosa di più di nuovi strumenti intelligenti: abbiamo bisogno di alleati e agenti.

Sistemi limitati di intelligenza artificiale sono già in giro per il mondo da decenni. Ubiqui e invisibili, sistemi ridotti di AI gestiscono sistemi industriali, fanno arte, fanno volare jet commerciali, controllano il traffico, ci dicono cosa guardare e cosa acquistare, ci fissano un colloquio di lavoro. Se a questi sistemi si aggiungono l’evoluzione nelle tecnologie di elaborazione, sensoristica e di algoritmi, si può già intravedere come i sistemi limitati si stanno evolvendo verso un mondo di AI robuste. (…)

La domanda cruciale non è se prima o poi compariranno superintelligenze artificiali. Piuttosto bisogna chiedersi quale sarà il luogo degli esseri umani in un mondo occupato da una popolazione di macchine autonome in crescita esponenziale. In rete i bot già superano gli utenti umani. Lo stesso succederà presto anche nel mondo fisico.

Lord Dunsany una volta aveva avvisato: “Se cambiamo troppo, potremmo non ritrovarci più nell’ordine delle cose”.

Paul Saffo è tecnologo e professore associato all’Università di Stanford 

Vai agli interventi