«Attenti all’intelligenza artificiale, non può essere il Far West senza regole»

Dino Pedreschi, università di Pisa

PISA. Quello di Dino Pedreschi non è un nome conosciutissimo al grande pubblico perché non gioca centravanti né canta a Sanremo ma la sua firma in calce a un appello sull’esigenza di porre  limiti all’uso dell’intelligenza artificiale è una di quelle che pesano. Classe ’58, origini garfagnine, è prof in servizio al dipartimento di informatica dell’Università di Pisa: ed è soprattutto uno dei pionieri nella scienza dei “big data” a livello europeo, tanto da esser stato coinvolto in team di studio su iniziativa di governi e ministeri per affrontare anche spinose emergenza come quella del Covid con gli strumenti dei suoi studi.

L’università di Pisa conferma che Pedreschi è tra «i firmatari promotori di “Red Lines on AI”: stiamo parlando di un appello globale in cui si chiede alla comunità internazionale «un accordo vincolante sui limiti all’uso dell’intelligenza artificiale in applicazioni considerate inaccettabili». Da tradurre così: non ci possiamo semplicemente limitare a lasciar campo libero alle leggi del mercato o a quelle del destino, lo strumento è talmente incomparabilmente potente che non è possibile chiudere gli occhi di fronte a possibili rischi.

L’iniziativa – viene riferito – è stata presentata ufficialmente nei giorni scorsi all’assemblea generale delle Nazioni Unite: ha «già raccolto oltre 300 ulteriori adesioni in tutto il mondo e sta riscuotendo grande attenzione internazionale».

Per capirci, non è la solita petizione online in cui scaricare ansie e rancori un po’ a casaccio. Esprime le preoccupazioni di figure che molto conoscono e molto hanno da dire: tra loro – viene sottolineato – compaiono i nomi di

• dieci premi Nobel: a cominciare da Joseph Stiglitz, Maria Ressa, Daron Acemoglu e Geoffrey Hinton;
• nove ex premier o ministri: come Enrico Letta, Mary Robinson e Juan Manuel Santos,
• vincitori di Premi Turing (l’Oscar degli informatici): compresi Yoshua Bengio e Andrew Yao;
• intellettuali di primo piano come Yuval Noah Harari e Stephen Fry
• figure fra i pionieri dell’intelligenza artificiale: come il co-fondatore di OpenAi Wojciech Zaremba e come lo scienziato Ian Goodfellow (Google DeepMind).

Nell’appello vengono messi in evidenza i rischi derivanti da uno sviluppo incontrollato dei sistemi di intelligenza artificiale avanzata: «dalla disinformazione alla manipolazione sociale, fino alle minacce alla sicurezza globale», viene indicato. I firmatari chiedono che «entro il 2026 venga siglato un accordo internazionale che definisca limiti chiari e verificabili, garantiti da solidi meccanismi di attuazione».

Per Yoshua Bengio, studioso ebreo franco-marocchino-canadese, vincitore del Premio Turing (il Nobel degli informatici), considerato lo scienziato vivente più citato al mondo: «L’attuale corsa in direzione di sistemi di intelligenza artificiale sempre più capaci e sempre più autonomi presenta  rischi gravi per le nostre società: serve urgentemente una collaborazione internazionale per prenderli di petto così come è indispensabile fissate paletti per prevenire rischi inaccettabili legati all’intelligenza artificiale».

Maria Ressa, premio Nobel per la Pace, ha presentato l’appello all’Onu: «Senza garanzie di intelligenza artificiale, rischiamo di ritrovarci presto ad affrontare caos epistemico, pandemie ingegnerizzate e sistematiche violazioni dei diritti umani. Davanti a minacce irreversibili e senza confini, la storia ci insegna che la cooperazione è l’unico modo razionale per perseguire gli interessi nazionali».

Yuval Noah Harari è uno storico con una forte presa sull’opinione pubblica: «Per millenni gli esseri umani hanno imparato, talvolta a proprie spese, che tecnologie di grande potenza possono avere conseguenze sia pericolose che positive. Con l’intelligenza artificiale rischiamo di non avere l’opportunità di imparare dai nostri errori in quanto l’intelligenza artificiale è la prima tecnologia capace di prendere decisioni da sé, inventare nuove idee da sé e fuggire dal nostro controllo. Noi esseri umani dobbiamo concordare su linee rosse chiare per l’intelligenza artificiale, e questo prima che la tecnologia rimodelli la società oltre la nostra comprensione e abbatta le fondamenta della nostra stessa umanità».

È curioso che la comunità scientifica italiana – e in particolare pisana – abbia una certa qual presenza fra i nomi in calce al documento: il riferimento è a «Giorgio Parisi, Enrico Letta, Maria Chiara Carrozza, Fosca Giannotti e, come detto, Dino Pedreschi». Dal quartier generale dell’ateneo pisano arriva la sottolineatura: è la conferma del «ruolo di rilievo della comunità scientifica pisana nel dibattito internazionale sull’intelligenza artificiale».

“Red Lines on AI” è promosso dal Centre pour la Sécurité de l’IA (Cesia), da The Future Society e dal Center for Human-Compatible Artificial Intelligence (Chai) di UC Berkeley, con il supporto di oltre novanta organizzazioni partner. Info e lista completa dei firmatari: www.red-lines.ai.