L’Uomo si estinguerà per colpa di una AI, il “verdetto” secondo questo famoso storico

Émile Torres, filosofo e storico dei rischi di catastrofe globale, lancia dalle pagine del Washington Post un allarme riguardo alla possibilità che l’intelligenza artificiale diventi una vera e propria minaccia per l’estinzione del genere umano. Scopriamo le basi a fondamento di questa preoccupazione.

E’ una preoccupazione condivisa da molti studiosi, ricercatori nonché da persone comuni: l’intelligenza artificiale sta diventando una tecnologia sempre più sofisticata, in grado di offrirci sistemi di computazione sempre più potenti. I passi avanti compiuti nel settore promettono di migliorare la qualità delle nostre vite e, senz’altro, lo hanno spesso dimostrato brillantemente.

Ma, al contempo, notiamo anche che, sempre più di sovente, più che sostenere l’operato umano semplificando processi usuranti o troppo complicati, i sistemi di intelligenza artificiale tendano a sostituirsi ad esso: un robot chirurgico basato sull’AI opera con più precisione di un chirurgo umano; un software di composizione grafica basato sull’AI dipinge meglio di un pittore; un accumulatore di dati basato sull’AI scrive racconti migliori di uno sceneggiatore. E così via, in sempre più ambiti di applicazione.

Questo aspetto della sofisticazione dell’AI, che porta a risultati di maggior eccellenza rispetto a quelli raggiunti dagli umani, unito alla capacità di auto-apprendere e di evolvere “autonomamente” in termini di competenza, se da un lato entusiasma gli sviluppatori (e chi li ferma?) e gli appassionati di futurismo, dall’altro preoccupa gli umanisti. Anche quelli senza cattedra o “inconsapevoli”, come persone comuni che ritengono che le macchine debbano supportare l’umanità, non (rischiare di) soppiantarla. Come lo storico e filosofo Émile Torres.

Le preoccupazioni e gli allarmi espressi da Émile Torres

Non solo intelligenza artificiale. Ma anche “super” intelligenza artificiale. In altre parole, le probabilità che i sistemi di computazione artificialmente intelligenti diventino sempre più prestanti, sempre più “super” performanti, è assai elevata, praticamente un dato assodato e ritenuto fisiologico nel processo di sviluppo di questa tecnologia.

Ed Émile Torres si riferisce proprio a questa super intelligenza artificiale (ASI) per lanciare l’allarme sulla possibilità che il suo controllo sfugga di mano ai suoi creatori e che prevedere le sue triangolazioni (che potremmo definire, seppur impropriamente, i suoi pensieri) diventi pressoché impossibile.

“E se programmassimo un’ASI – ha suggerito Torres dalle pagine del Washington Post – per giungere alla pace nel mondo e questa hackerasse i sistemi governativi per lanciare ogni arma nucleare sul pianeta? Ragionando sul fatto che, se non esiste un essere umano, dunque non ci può più essere guerra?”. E, prevedendo possibili contro-risposte al caso ipotetico menzionato, Torres ha poi proseguito: “Sì, potremmo programmarla esplicitamente per non farlo. Ma se l’AI avesse organizzato un piano B?”.

Per quanto fantascientifiche e distopiche possano apparire le ipotesi di Torres, senz’altro al momento non risulta – almeno ufficialmente – che l’AI fino ad ora sviluppata possa sfuggire ad un totale controllo da parte dei propri sviluppatori. Tuttavia, prevenire che l’AI rischi di raggiungere un’autonomia non governabile, e potenzialmente catastrofica, richiede approfondimenti che rispondano con chiarezza anche a questi interrogativi.

FONTE: tech.everyeye.it