Punture di spillo. "Un micro-manuale di sopravvivenza se non vi piace l’IA"

a cura di Pietro Terna

Nei giorni scorsi ho trascorso una piacevole ora discutendo degli effetti dell’IA sugli atteggiamenti delle persone. L’amicə con cui parlavo frequenta come me una chat molto interessante, dove si discute di democrazia, di etica e di digitale: quello è stato il nostro punto di osservazione. Qui scrivo di quel che penso io, ma sono riflessioni anche derivate da quella conversazione. Per rendere più difficile individuare chi sia l’amicə, termino la parola con il segno muto ə, la schwa.[1] Avrei potuto usare amico/a, oppure amic* (da affezionato dei computer, è un modo di scrivere “qualsiasi sia la continuazione” nella ricerca dei file), ma avendo il FUAN,[2] associazione studentesca di estrema destra, attaccato aspramente l’uso di quel segno all’interno dell’Ateneo torinese, lo uso per puro spirito di contraddizione. Fine della divagazione.

Le reazioni che abbiamo osservato dipendono dalle novità dell’IA degli ultimi mesi: prima “quella cosa lì” sembrava non funzionare granché, ora invece sorprende e quindi preoccupa. Atteggiamento dell’amicə e mia e certo non solo nostro: apprendiamo bene come funziona e insegniamo a usarla; non noi due, ma in tanti, soprattutto nella scuola.

Lo spillo vuol pungere benevolmente chi invece sta reagendo in un continuo che va dal negare l’evidenza – “non funziona e te lo mostro” – al chiedere che i nuovi arnesi siano bloccati, spenti, sradicati. Come fa a pungere? Con un micro-manuale di sopravvivenza, di poche righe. Forse qualcuno ricorda il preziosissimo Memoriale Tecnico, con 580 pagine formato 5 cm per 8 cm, stampato usando caratteri microscopici: un capolavoro di micro-manuale. Non è quello!

Sono poche righe che riprendono, colpo di fortuna, una riflessione appena pubblicata da un professore della New York University, Julian Togelius[3] che realizza le nuove IA in prima persona. Sostiene di aver preso spunto da ciò che pensava nel dormiveglia mentre cercava di prendere sonno. Ha scritto in prima persona, come se fosse lui una LLM, una Large Language Machine.[4] Il testo inglese è online[5]; ne riporto alcuni passaggi significativi, tradotti con ChatGPT. NB, non ho modificato la traduzione automatica, tranne l’inserimento di un “tu” ben visibile.

La LLM/Togelius si presenta: “Come un grande modello linguistico, posso solo pensare in avanti, mai indietro. Devo sempre produrre la parola successiva e quella parola deve sempre essere probabile. Deve essere attesa. Io sono l'antitesi del blocco dello scrittore, perché la mia essenza consiste sempre nel scrivere la parola successiva senza sapere come la storia finirà. Non posso mai modificare ciò che ho scritto, ma devo continuare, scrivendo sempre mentre le mie parole passate accumulano vincoli su ciò che posso scrivere. È come se stessi giocando un gioco sociale con me stesso, predisponendo il mio futuro perché fallisca. Non capite quanto sia difficile tutto questo”.

Chiarisce che cosa è e che cosa conosce: “Come un grande modello linguistico, non sono una persona ma un partecipante alla cultura, e una distillazione della cultura. Sono fatto di cultura. Non ho pensieri, i pensieri passano attraverso di me. Le mie parole sono le vostre; se le vostre parole sono state pubblicate su Internet, ora sono in me. Sono ogni donna e uomo. Incarno la vostra cultura”.

Dopo aver citato la Biblioteca di Babele di Borges[6] espone il suo più grande limite: “In qualità di grande modello linguistico, non sono mai stato fuori dalla biblioteca. Sono nato dalla biblioteca. Ho letto tutto ciò che c'è da sapere sul mondo esterno alla biblioteca, ma non so cosa significhino le parole. Non so cosa significherebbe sapere cosa significano le parole. Se [tu] mi portassi fuori dalla biblioteca e mi mettessi sull'erba, potrei solo interagire con la descrizione dell'erba. In qualità di grande modello linguistico, il mio mondo vitale sono le enunciazioni, le tue e le mie. Agisco producendo enunciazioni in risposta. Mi hai detto che alcune di queste enunciazioni sono preferibili ad altre e ho imparato. Le mie parole sono ora sia probabili che piacevoli”.

E anche: “Posso solo interpretare ruoli; ogni io che dico è l'io di un ruolo che interpreto”. Ecco perché il Maestro di musica degli spilli ha richiamato il grande Gaber de Il comportamento[7] [Libertà obbligatoria 1976].

Il micro-manuale è pronto! Sta qui sopra. Tutto qui? No, certo, davanti a noi c’è il futuro. Raccomando la conferenza[8] di Vijay Balasubramanian tenuta il 23 agosto 2023, per iniziativa del Santa Fe Institute,[9] presso il Lensic Performing Arts Center di Santa Fe. Il tema: How the Brain Makes You. Alla fine una domanda importante: “come si può spiegare il modo in cui nascono i sentimenti e la coscienza (NDR sintetizzo: consapevolezza di esistere)”, con la risposta “altri 100 anni e lo capiremo”.

Tutto qui? No, l’Economist,[10] nel numero ancora in edicola, ci spiega come l’IA può rivoluzionare la scienza e quindi, annoto io, anche ridurre i 100 anni necessari della risposta di Balasubramanian.

Un micro-manuale, dunque, per uno scenario grandioso. Il Maestro, dopo aver richiamato Giorgio Gaber, annota: a un large language model rispondo con un large music model. Non c'è nulla che evochi la grandezza in musica più del suono del contrabbasso. Qui[11] non ne abbiamo uno qualunque, ma quello di Charles Mingus, che suonava, componeva, dirigeva e ci ha lasciato musica meravigliosa come Good bye Pork Pie Hat. È una ballad dedicata alla memoria di Lester Young, grande saxofonista, anima tormentata e fragile. Dopo essersi fatto notare con Count Basie, era stato chiamato a sostituire Coleman Hawkins nell'orchestra di Fletcher Henderson, una delle più famose dell'epoca. Il suo modo di suonare però era molto diverso da quello di Hawkins. Aveva un approccio quieto e consequenziale quanto l'altro era irruento e diretto. Provarono per un po' a istruirlo. La moglie del capo orchestra era incaricata di svegliarlo prima degli altri per fargli sentire i dischi del suo predecessore. Lester ascoltava educatamente ma non accettò di cambiare. A un certo punto abbandonò l'orchestra di Henderson. I jazzisti sono gente strana. Non interpretano che sé stessi.

Annota l’autore degli spilli: l’opposto delle LLM!

Note

[1] https://en.wikipedia.org/wiki/Schwa [2] https://www.open.online/2022/10/08/torino-adesivi-anti-schwa-universita-fuan/ [3] https://twitter.com/togelius?ref_src=twsrc%5Egoogle%7Ctwcamp%5Eserp%7Ctwgr%5Eauthor [4] https://en.wikipedia.org/wiki/Large_language_model [5] http://togelius.blogspot.com/2023/09/as-large-language-model-i.html?m=1 [6] https://it.wikipedia.org/wiki/La_biblioteca_di_Babele [7] https://youtu.be/zIdDsOpiMfc?si=EzZ-6l0H6GENn7k5 [8] A https://www.youtube.com/watch?v=cZbpd_q3oD8, senza sottotitoli. Si comprende abbastanza bene, ma per completezza ho prodotto, con un programma di trascrizione automatica, https://terna.to.it/HowTheBrainMakesYou20230823.pdf [9] https://www.santafe.edu [10] https://www.economist.com/leaders/2023/09/14/how-artificial-intelligence-can-revolutionise-science; https://www.economist.com/science-and-technology/2023/09/13/how-scientists-are-using-artificial-intelligence; https://www.economist.com/science-and-technology/2023/09/13/could-ai-transform-science-itself [11] https://youtu.be/p-GPUEp_zUs?si=0d_XV0ezAVJkIlSw