La discussione relativa allo sviluppo della IA (Intelligenza Artificiale) e gli eventuali rischi per la sicurezza dell’umanità è uno dei più prolifici e interessi del momento. Una delle ultime dichiarazioni destinate sicuramente a far discutere è quella di Paul Christiano, ex ricercatore di OpenAI, azienda sviluppatrice di ChatGPT, che ritiene che ci siano buone probabilità che la IA possa prendere il controllo dell’umanità e distruggerla.
Christano, che ora dirige l’Alignment Research Center, un’organizzazione senza scopo di lucro volta ad allineare i sistemi di apprendimento automatico delle IA con gli “interessi umani“, parlando al Bankless Podcast, ha infatti detto:
Penso che ci sia qualcosa come una probabilità del 10-20 percento che l’IA prenda il controllo, con la maggior parte degli umani morti. Nel complesso, stiamo parlando di una possibilità di catastrofe del 50% dal momento in cui avremo sistemi a livello umano
E non è il solo a pensarla così. All’inizio di quest’anno, scienziati di tutto il mondo hanno firmato una lettera online sollecitando a mettere in pausa la corsa all’IA fino a quando noi umani non avremo avuto il tempo di elaborare strategie.
I sistemi di intelligenza artificiale con intelligenza competitiva umana possono comportare gravi rischi per la società e l’umanità – si legge nella lettera firmata da 1000 esperti del gruppo Future of Life Institute, organizzazione no profit che si impegna a prevenire i danni della tecnologia, ha firmato una lettera aperta per chiedere lo stop dei lavori sulla I.A. Le IA avanzate devono essere sviluppate con cura, ma invece negli ultimi mesi i laboratori di IA si sono lanciati in una corsa fuori controllo per sviluppare e distribuire menti digitali sempre più potenti che nessuno, nemmeno i loro creatori – può comprendere, prevedere o controllare in modo affidabile. Le IA potrebbero inondare i canali di informazione con disinformazione e sostituire i lavori con l’automazione.
Dovremmo sviluppare menti non umane che potrebbero eventualmente essere più numerose, più intelligenti, renderci obsolete e sostituirci?- chiede la lettera
Stuart Russell, professore di informatica presso l’Università della California, Berkeley, e firmatario della lettera, ha dichiarato a BBC News:
I sistemi di intelligenza artificiale pongono rischi significativi per la democrazia attraverso la disinformazione armata, per l’occupazione attraverso lo spostamento delle capacità umane e per l’istruzione attraverso il plagio e demotivazione. In futuro, le IA avanzate potrebbero rappresentare una minaccia più generale al controllo umano sulla nostra civiltà. A lungo termine, prendere precauzioni ragionevoli è un piccolo prezzo da pagare per mitigare questi rischi
Che ne pensate?
Seguiteci su LaScimmiaPensa
