7 giu 2023Tempo di lettura: 4 min

Punture di spillo: l'IA... di Žižek e Herzog, infiniti chiacchieroni

Aggiornamento: 8 giu 2023

a cura di Pietro Terna

Ancora un pezzullo sull’intelligenza artificiale, rischiando di far arrabbiare qualche amica o amico. Se la materia spaventa o irrita, meglio conoscerla e il gioco è un modo eccellente per esplorare un argomento. Giochiamo allora con due seri chiacchieroni che non si stancano mai.

C’è online una Infinite Conversation[1] in corso tra il filosofo Slavoj Žižek[2] e il regista Werner Herzog:[3] proviene da una macchina che riproduce le loro voci e usa l’intelligenza artificiale per produrre frasi ben costruite partendo da loro scritti, dichiarazioni, interviste. Il primo personaggio, nato nel 1949, può essere considerato, semplificando molto, un pensatore di sinistra con connotati talvolta estremistici. Per lo studio del suo pensiero è stato addirittura fondato nel 2007 l'International Journal of Žižek Studies.[4] Il secondo, nato nel 1942, è uno dei massimi cineasti viventi e nel corso della lunga carriera ha prodotto, scritto e diretto più di 50 pellicole, oltre ad avere pubblicato libri e diretto opere liriche.

Un terzo interessante personaggio, Giacomo Miceli,[5] firma su Le Scienze[6] di giugno 2023 a pag. 68, l’articolo “Vaniloqui tra macchine”, in cui spiega la costruzione del marchingegno. Si autodefinisce “coder creativo, imprenditore e informatico”; è originario di Roma e vive in Florida. Scrive:

Ho realizzato questa conversazione per lanciare un avvertimento. I progressi delle tecniche dette di apprendimento automatico hanno fatto sì che realizzare deepfake – «falsificazioni profonde», cioè immagini, video o discorsi incredibilmente realistici ma fasulli – sia ormai troppo facile, e che la qualità dei falsi sia troppo alta. Allo stesso tempo, le intelligenze artificiali (IA) fatte per generare linguaggio riescono a sfornare un sacco di testo rapidamente e a basso costo. Usate insieme, queste tecnologie possono fare ben di più che mettere in scena una conversazione infinita: sono in grado di inondarci con un'alluvione di informazioni manipolate.

Un esempio, scelto del tutto a caso. Mentre scrivo il pezzo, l’avatar[7] di Žižek afferma:

La splendida "cura parlante" tra Freud e la sua paziente (che è anche il titolo del primo libro di Freud) viene solitamente letta come rivolta a una donna isterica che quando racconta la sua storia, dimentica se stessa e si perde nella sua storia. In realtà, non si rivolge a se stessa, ma a voi – quello che racconta è destinato ai vostri occhi. Per questo non funziona.

Ma forse lo stesso vale per la follia? Il pazzo non ti guarda, ma ti guarda attraverso. Lo stesso pazzo può far parte della comunità. Si può parlare con lui, non è escluso. Ma ciò che guarda attraverso è proprio l'illusione costitutiva della comunità ed è per questo che non funziona. Non si può dire: "Sei pazzo". Non è sufficiente. Bisogna distruggere questa illusione soggettiva.

Dove si trova il coraggio di farlo?

Herzog risponde:

Non posso distruggerla. A volte la gente mi chiede: "Credi in Dio?". Io rispondo: "No, non credo in Dio". E loro dicono “Ah, ecco un altro che non crede in Dio”. Ma io dico: "Io credo in Dio. Si dà il caso che io abbia la prova che non esiste". In questo caso devo avere il coraggio delle mie convinzioni.

Naturalmente, in quanto regista, posso anche rivolgermi a me stesso come a un'illusione e smascherarla. È quello che faccio nei miei film. Sì, bisogna avere il coraggio di distruggersi.

È stato come in Indonesia, quando ho cercato di fare un film sulle macerie di un aereo che si era schiantato lì. Gli abitanti del villaggio volevano erigere una statua. Ma io dissi: "No, ci sono troppi morti". Ho fatto mettere i corpi nelle bare e li ho fatti seppellire. Era una catastrofe enorme sulla costa di Giava, con centinaia di cadaveri. È qui che ho potuto agire. In Germania sarebbe stato impensabile.

Un dialogo sconnesso? Certamente, essendo prodotto da una macchina LLM[8] (Large Language Model) che opera sulla base delle connessioni apprese assimilando i testi prodotti dai due personaggi e calcolando la probabilità della prossima parola sulla base di quelle precedentemente enunciate. Ma… attenzione: se non avessimo saputo che quelle frasi sono uscite da una macchina, non ci saremmo soffermati a cercare di capirne il significato profondo? Forse, o certamente, sì!

Anche se i due chiacchierano giorno e notte, la macchina produce più materiale di quando riesca a smaltire. Il rimescolamento dei loro scritti, interviste e discorsi, genera sempre nuovo materiale, all’infinito. Contiene la verità? È lo stesso paradosso della Biblioteca di Babele[9] immaginata da Borges, composta da infiniti libri, tutti unici e prodotti casualmente. Uno contiene la verità su ogni realtà, ma qual è?

Una digressione da economista, prima di concludere con la consueta riflessione musicale. Giacomo Miceli ha prodotto il suo gioco concettuale usando solo software libero e open source della comunità mondiale degli sviluppatori, quasi senza spese. All’opposto, leggiamo sul Washington Post[10] che: “I chatbot AI perdono denaro ogni volta che li si usa. Questo è un problema. I costi di gestione dei sistemi sono così elevati che le aziende non distribuiscono le loro versioni migliori al pubblico”. A parte che è insensata la precisazione “ogni volta che li si usa” in quanto si tratta di costi quasi totalmente fissi, la borsa sta festeggiando la nuova ondata tecnologica, rincorrendo come sempre le esagerazioni.[11]

Una riflessione del nostro Maestro di musica: la modernità è l'era dell'indeterminato; Pirandello aveva un concetto molto dilatato della verità, come se il mondo si confondesse con la sua stessa immagine, come se si riflettesse in uno specchio o fosse a sua volta uno specchio che si riflette in un altro specchio, con la perdita dell'originale[12] Tutto questo per arrivare a Spiegel im spiegel, Specchio nello specchio[13], di Arvo Pärt (foto in basso).[14]

Quella proposta, per violoncello e organo, è una delle innumerevoli versioni del brano, originariamente pensato per violino e pianoforte. Si tratta di un pezzo minimalista e dall'atmosfera soffusa. I due strumenti si

muovono a tratti su piani adiacenti, come se si specchiassero l'uno nell'altro.

Note

[1] https://infiniteconversation.com [2] https://it.wikipedia.org/wiki/Slavoj_%C5%BDi%C5%BEek [3] https://it.wikipedia.org/wiki/Werner_Herzog [4] http://zizekstudies.org/index.php/IJZS/issue/archive [5] https://www.giacomomiceli.com e https://www.jamez.it/blog/ [6] Anche online a https://www.scientificamerican.com/article/what-an-endless-conversation-with-werner-herzog-can-teach-us-about-ai/ nella versione americana di Scientific American, rivista da cui oltre 54 anni fa è derivata Le Scienze. [7] https://it.wikipedia.org/wiki/Avatar [8] https://en.wikipedia.org/wiki/Large_language_model [9] https://paradox.noblogs.org/resource/generale/download/La%2520Biblioteca%2520di%2520Babele%2520-%2520Jorge%2520Luis%2520Borges.pdf [10] https://www.washingtonpost.com/technology/2023/06/05/chatgpt-hidden-cost-gpu-compute/ con “AI chatbots lose money every time you use them. That is a problem. The cost of operating the systems is so high that companies aren’t deploying their best versions to the public”. [11] https://www.laportadivetro.com/post/punture-di-spillo-l-intelligenza-artificiale-porta-la-finanza-sulle-montagne-russe