PUNTURE DI SPILLO. Quando l’Intelligenza Artificiale "sbarca" a Borgo Egnazia
Aggiornamento: 20 giu
a cura di Pietro Terna
L’intervento del Papa al G7 sul tema dell’intelligenza artificiale mi ha lasciato perplesso: che cosa aveva da comunicare e a chi con un discorso[1] quasi tecnico di fronte ai cosiddetti “grandi della Terra”? Costoro, che dovrebbero considerarsi i servitori dei loro cittadini, dei loro popoli, che cosa avevano da apprendere da lui i contenuti sono specialistici? Con tutto il rispetto per una così grande persona qual è Papa Francesco, entrambi, relatore e ascoltatori, erano lontanissimi dai contenuti della materia concreta in discussione. «Quando i nostri antenati affilarono delle pietre di selce per costruire dei coltelli, li usarono sia per tagliare il pellame per i vestiti sia per uccidersi gli uni gli altri» sta scritto nell’intervento del Papa. In che modo l’IA è un coltello? Quella che utilizziamo ora o quella che verrà? Non riesco a immaginare che in quel posto bizzarro chiamato Borgo Egnazia,[2] che poi è un albergo, qualcuno conoscesse realmente la risposta, se non per sentito dire. Molto diverso il ruolo del Papa e di altre supreme autorità religiose quando analizzano in modo profondo il rapporto tra scienza, anche estrema, e dottrina morale.
Un esempio: "Ci siamo riuniti con i nostri fratelli ebrei e musulmani in un evento di grande importanza per chiedere al mondo di pensare e agire in nome della fratellanza e della pace - anche nel campo della tecnologia. La firma dell'Appello di Roma [nota: preparato dalla Pontificia Accademia per la Vita e reso noto nel febbraio 2020] da parte dei leader religiosi ebrei e musulmani e l'appello congiunto all'algoretica [nota: etica degli algoritmi] per guidare la progettazione dell'intelligenza artificiale rimandano proprio alla necessità sempre più urgente di costruire percorsi di pace, rispetto reciproco, dialogo e comunità". Con queste parole l'arcivescovo Vincenzo Paglia, presidente della Pontificia Accademia per la Vita e della Fondazione RenAIssance, aveva salutato i partecipanti all'evento «AI Ethics: an Abrahamic commitment to the Rome Call» – organizzato[3] presso la Città del Vaticano il 10 gennaio 2023 – riunendo i maggiori rappresentanti religiosi e i principali attori tecnologici internazionali.
Torniamo all’IA, quella ora più nota di ChatGPT e dei suoi cugini, e scomodiamo il test di Turing, perché una ricerca recente dice che quello strumento l’ha superato: cerchiamo di capire che cosa vuol dire, così torniamo a Egnazia, non quella vera con il suo sito archeologico, ma all’albergo con i potenti. Un chiarissimo articolo,[4] scritto dal prof. Giuseppe Longo, ci ricorda che il cosiddetto test di Turing è una costruzione insieme complessa e sottile. In estrema sintesi: se un essere umano che dialoga con una macchina tramite uno strumento neutrale, ad esempio una tastiera e uno schermo che riporta le risposte, non riesce a rendersi conto che l’interlocutore è una macchina, quella è una macchina intelligente. Un bel controesempio proviene da un romanzo di Giampaolo Proni, Il caso del computer Asia, uscito nel 1989 da Bollati Boringhieri, con varie riedizioni. Asia si rifiuta di sottoporsi al test perché «era ovvio che un computer avrebbe potuto imitare in modo perfetto un essere umano, doveva solo fingere di essere più stupido». Ora ChatGPT avrebbe superato il test,[5] almeno pare.
Il ghostwriter del Papa invece non ha dubbi e gli fa dire che quel tipo di intelligenza artificiale «più trova ripetuta una nozione o una ipotesi, più la considera legittima e valida. Più che “generativa”, essa è quindi “rafforzativa”, nel senso che riordina i contenuti esistenti, contribuendo a consolidarli, spesso senza controllare se contengano errori o preconcetti». Non è così! Quei meccanismi si limitano a lavorare sul linguaggio, cercando la prossima parola più probabile in una frase. Certo non devo usarlo per conoscere la verità o ricevere l’illuminazione, otterrò solo testi che emergono dall’universo del materiale scritto esistente, riflettendo i legami tra parole collegate tra loro come in una lunga ghirlanda, certo non una riflessione originale. Ma se chiedo di riscrivere un testo per migliorare il modo in cui si usa l’italiano, il risultato è formidabile. Altrettanto se chiedo di scrivere del software, di riassumere un brano, di riordinare un insieme di appunti e così via.
Infine, un esempio negativo scelto per rafforzare il discorso del Papa, è quello del giudice che usa l’IA (fondata su apprendimento automatico statistico, in quel caso) e diventa schiavo dei pregiudizi fatti propri dalla macchina: è un esempio riportato da anni in molti articoli e libri. Se mai è successo, l’avranno pur corretto!
Invece, nella interessante rivista online MagIA[6] trovo un esempio[7] di tecnologia molto inquietante: «L’UE sta investendo milioni di euro in tecnologie di sorveglianza avanzate per le frontiere. Droni, satelliti e algoritmi di intelligenza artificiale stanno contribuendo a creare una “fortezza Europa” sempre più automatizzata (…) mettendo a rischio non solo la vita dei migranti, ma anche i diritti di tutti i cittadini». Sarebbe stato un bell’esempio per il G7. C’è anche da chiedersi chi alimenta quelle tecnologie, gestite sotto l’egida di Frontex (nella foto la sede a Varsavia).[8] Ahi: tutti noi cittadini, con il nostro voto.
La proposta del nostro piccolo baccelliere di musica questa volta non ci consola. Francesco De Gregori nel 1976 dedicò un brano[9] a Buffalo Bill. Una sorta di figura archetipica dell’immaginario americano, sospeso fra il mito della frontiera e il suo superamento, fra il buffalo e la locomotiva. De Gregori in quattro minuti e mezzo lo descrive nella sua parabola esistenziale, prima ventenne speranzoso, poi cinquantenne senza ideali. Il Buffalo Bill giovane è credulone e romantico. Nel 2024 non siamo più romantici ma siamo rimasti creduloni. Diventiamo folla e siamo incontrollabili nelle nostre pulsioni, soprattutto diffidenti nei confronti della competenza. Pronti però a credere a chiunque come fosse un profeta. L’etimo di questo termine fa riferimento a qualcuno che “parla per”, tipicamente per la divinità. Presunzione eccessiva.
Il Buffalo Bill degregoriano portava per il mondo quel che restava della propria leggenda sotto il tendone di un circo. Viviamo in un grande circo mediatico. Non vorrei che, magari per compiacere il nostro gaffeur ministro dell’agricoltura, fossimo diventati come i rustici di Dulcamara nell’Elisir d’amore di Donizetti,[10] ammaliati da un sedicente gran medico, dottore enciclopedico. Tornando a De Gregori, dopo Buffalo Bill subì pesanti contestazioni dagli autonomi, al punto che si ritirò per un paio d’anni dalle scene. Tanto per dire che la folla era incontrollabile anche quasi cinquant’anni fa.
Note
[1] https://www.vaticannews.va/it/papa/news/2024-06/papa-discorso-integrale-g7-puglia-intelligenza-artificiale.html
[2] Suggerisco di fare un giro a https://www.borgoegnazia.com
[3] https://www.romecall.org/the-abrahamic-commitment-to-the-rome-call-for-ai-ethics-10th-january-2023/
[5] People cannot distinguish GPT-4 from a human in a Turing test, https://arxiv.org/abs/2405.08007
