E questo, una macchina non potrà mai riuscire a farlo…

Aiuto, “le macchine” producono senso!

LLM
Testi in linguaggio naturale che hanno senso
Ma questo sembrava una “prerogativa” umana!

Tranquillǝ, ci resta … l’interpretazione!

Al convegno del CRIHN [“De la transformation des sciences humaines par les humanités numériques” (maggio 2023)] (https://www.crihn.org/nouvelles/2022/12/11/colloque-de-la-transformation-des-sciences-humaines-par-les-humanites-numeriques-acfas-2023/), un’idea è emersa ripetutamente nelle varie presentazioni: la crescente importanza degli atti ermeneutici. L’osservazione ricorrente è stata che la proliferazione di contenuti generati dal computer e l’abbondanza di strumenti per l’analisi e l’estrazione di testi implicano che dobbiamo chiederci cosa significhino questi contenuti e queste analisi. Che cosa significa un testo prodotto da un grande modello linguistico? Qual è il significato di un grafico che mostra la distribuzione dei concetti in un corpus di testi o i “sentimenti” espressi nei documenti? La conclusione su cui sembravamo d’accordo è che, se i computer possono ora produrre contenuti del tutto simili a quelli che può produrre un essere umano, ciò che resta da fare per noi esseri umani è interpretarli.

Si tratta di una situazione molto antica, e niente di nuovo. Non abbiamo dovuto aspettare ChatGPT perché Borges la immaginasse nella Biblioteca di Babele, una biblioteca contenente tutti i libri possibili (che sono semplicemente il risultato dell’esaurimento di tutte le possibili combinazioni di lettere), nessuno dei quali ha un significato a meno che un bibliotecario non lo legga e gliene assegni uno. Da un lato, un contenuto materiale che dice qualcosa ma non ha alcun significato; dall’altro, un’attività intellettuale che non consiste nel produrre nuovi contenuti, ma semplicemente nell’interpretare quelli già esistenti. La produzione di significato sta quindi nella lettura. L’essere umano è un lettore, la macchina uno scrittore.

…come nella Biblioteca di Babele

“E questo, una macchina non potrà mai riuscire a farlo…”

Arguments from Various Disabilities. These arguments take the form, “I grant you that you can make machines do all the things you have mentioned but you will never be able to make one to do X”. Numerous features X are suggested in this connexion. I offer a selection:
Be kind, resourceful, beautiful, friendly, have initiative, have a sense of humour, tell right from wrong, make mistakes , fall in love, enjoy strawberries and cream, make some one fall in love with it, learn from experience, use words properly, be the subject of its own thought, have as much diversity of behaviour as a man, do something really new. […]
No support is usually offered for these statements. I believe they are mostly founded on the principle of scientific induction. A man has seen thousands of machines in his lifetime. From what he sees of them he draws a number of general conclusions.Turing, Computer Machinery and Intelligence, 1950

Argomenti derivati da varie incapacità. Queste argomentazioni hanno la forma di: “Ti concedo che puoi far fare alle macchine tutte le cose che hai citato, ma non sarai mai in grado di farne una che faccia X”. A questo proposito sono state suggerite numerose caratteristiche X. Ne propongo una selezione:

essere gentile, piena di risorse, bella, amichevole, avere iniziativa, avere senso dell’umorismo, distinguere il bene dal male, commettere errori, innamorarsi, godere di fragole e panna, fare in modo che qualcuno si innamori di lei, imparare dall’esperienza, usare le parole in modo appropriato, essere oggetto del proprio pensiero, avere una diversità di comportamento pari a quella di un uomo, fare qualcosa di veramente nuovo. […]

Di solito queste affermazioni non vengono sostenute. Credo che siano per lo più fondate sul principio dell’induzione scientifica. Un uomo ha visto migliaia di macchine nel corso della sua vita. Da ciò che vede di loro trae una serie di conclusioni generali.Turing, Computer Machinery and Intelligence, 1950

Stiamo dicendo, fondamentalmente: la macchina saprà fare questo questo e quest,altro, la macchia sa scrivere? ok, ma ti garantisco, una macchina non potrà mai interpretare.

Ora bisogna diffidare di questo tipo di argomento che Turing aveva già identificato nel 1950 nel suo celebre Computer Machinery and Intelligence.

Tre presupposti

ci sono delle cose
le cose hanno delle caratteristiche essenziali
c’è una gerarchia ontologica

Mi sembra che sarebbe molto interessante analizzare in profondità i presupposti che stanno alla base di questa idea che, a prima vista, sembrerebbe abbastanza condivisibile. Me ne vengono in mente almeno tre. Il primo è che il mondo è fatto di cose chiaramente identificate, separate e autonome: in questo caso, computer ed esseri umani. La seconda è che dobbiamo stabilire una distinzione di ruoli tra queste cose separate, e che questa distinzione è in qualche modo la garanzia di una separazione ontologica. In altre parole: i computer sanno fare questo e quello, gli esseri umani sanno fare altre cose, e quindi computer ed esseri umani sono due cose separate.

Il terzo, un po’ meno esplicito, è quello che in realtà sta alla base della necessità dei primi due: è il fatto che è necessario stabilire una gerarchia tra le cose. Ci sono cose e non sono uguali. Ecco: chi è meglio tra computer ed esseri umani? Ovviamente questa gerarchia è parziale: una volta deciso che siamo effettivamente una cosa a parte, in quanto esseri umani, il nostro narcisismo ci impone l’antropocentrismo. Lo scopo del gioco sarà quindi quello di dimostrare che siamo migliori dei computer.

Ma una serie di “ruoli” che per molto tempo sono stati chiaramente appannaggio degli esseri umani - in particolare la manipolazione del linguaggio naturale e l’analisi dei testi - sembrano ora accessibili anche alle macchine. Dobbiamo quindi trovare altri ruoli a cui le macchine non hanno accesso. Ed è qui che entra in gioco l’idea dell’interpretazione. È un po’ l’ultima risorsa, perché il bello dell’interpretazione è che è estremamente difficile dire quando c’è e quando non c’è.

Questo ci riporta al problema - ben noto a Turing -: la macchina pensa? O per dirla in un altro modo: la macchina produce significato? Possiamo tranquillamente dire di no, perché non esiste una definizione precisa di significato.

La nostra ferita narcisistica?

Delle frontiere nette?

My posthumanist account calls into question the givenness of the differential categories of human and nonhuman, examining the practices through which these differential boundaries are stabilized and destabilized. Barad, Karen. 2007. Meeting the Universe Halfway: Quantum Physics and the Entanglement of Matter and Meaning. Second Printing edition. Durham: Duke University Press Books.

Questo è l’approccio di Karen Barad, che ho spesso citato. Barad dimostra che non esistono mai confini stabili e innegabili che separano le “cose”. Tracciare un confine è sempre il risultato di una scelta particolare. Anche da un punto di vista fisico, non esistono oggetti chiaramente separati gli uni dagli altri. Anche il contorno fisico di una “cosa” non è affatto un contorno, e qualsiasi “bordo” si estende oltre.

Perciò diventa interessante capire come un confine “si stabilizza e si destabilizza”, come dice Barad (Meeting the Universe Halfway).

Tracciare un confine si basa sempre su decisioni etiche, morali o politiche. E se guardiamo alla distinzione tra significato e sintassi - come avatar searliano dell’opposizione tra interpetazione e contenuto privo di senso, tra ermeneutica umana e contenuto prodotto dalle macchine - è subito evidente come questa distinzione faccia parte di una lunga lista di opposizioni il cui scopo è produrre giudizi di valore: Da un lato c’è il significato e dall’altro la sintassi, da un lato l’anima e dall’altro il corpo, da un lato l’immaterialità e dall’altro la materia, le idee e le attività banali, i pensatori e i segretari, gli uomini e le donne, i grandi pensatori e le piccole mani (per citare l’espressione di Margot Mellet) (https://blank. blu/meditazioni/manifesto-delle-mani-piccole/))

Tracciare confini in questo modo non ci aiuta affatto a “capire” l’unicità umana, ma ci porta solo a creare gerarchie inutili e necessariamente violente: perché ci sarà sempre qualcosa che è meglio di qualcos’altro.

Le computers

in piedi: Ester Gerston
in ginocchio: Gloria Gordon Bolotsky
Jennifer Light, When Computers Were Women
Kathy Kleiman, Proving Ground: The Untold Story of the Six Women Who Programmed the World’s First Modern Computer

Ma il senso è sempre dalla parte di…

John William Mauchly e J. Presper Eckert

Le frontiere…

Uomini/macchine

Uomini/animali

Uomini/donne

Pensatori/segretarie

Grandi intellettuali/manine (petites mains)

Senso/sintassi

Immaterialità/materia

Due strategie, oggi…

ma… questo… una macchina non potrà mai riuscire a farlo
capire che non ci sono “manine” (cf. Margot Mellet)

Abbiamo oggi dunque una doppia possibilità. Due strade opposte. Una consiste a restare aggrappati alla nostra ferita narcisistica, a cercare in tutti i modi di trovare un sistema per rivendicare la nostra centralitrà e per affermare la nostra superiorità. In questo senso possiamo continuare a far giocare l,argument from different disabilities e dire che una macchina non riuscirà mai ad apprezzare le fragole con la panna.

L’altra è la strategia opposta: incvece che deprezzare quello che la macchina sa fare e affidarlo a dei subalterni, invece che continuare a cercare quacosa che la macchina non sa fare per dare valore a questa cosa qui, capire che tutte le cose che sembravano triviali fanno in realtà parte del processo di produzione di sense.

O diciamo: ok la macchina sa scrivere, allora la cosa più importante non è scrivere, è leggere. E il giorno che la macchina saprà leggere diremo: l’importante non è leggere, è amare le fragole…

Oppure ci rendiamo conto che il processo di produzoine di senso è complesso e che è fatto di una serie di elementi: la correzione ortografica, il formato di scrittural, la correzione dei refusi o degli errori di battitura…

Il progetto Anthologia Graeca

anthologiagraeca.org: un’edizione digitale collaborativa dell’AG che contiene:

diverse edizioni del testo greco
traduzioni
scholia
allineamenti con il manoscritto
metadati: autori autrici, luoghi, parole chiave, ecc.
commenti
riferimenti interni ed esterni

Chi interpreta? Chi produce il senso?

Il senso emerge nelle intra-azioni a partire dalle quali si stabilizzano le frontiere tra umano e tecnica

Che cos’è un epigramma?

cosa	–>	idea

testo nel CP23?		testo ideale
testo nell’edizione critica?		l’idea di épigramma
testo nella mia memoria		interpretazione filologica
testo declamato?

Quello che voglio mettere in discussione è l’idea che da un lato ci sia qualcosa di materiale - un testo iscritto, per esempio, o un testo parlato ad alta voce, o iscritto in un particolare formato o supporto tecnico - e dall’altro l’idea, il significato di questa cosa materiale, di cui tutte le iscrizioni sono in definitiva solo manifestazioni parziali. Il fenomeno e il noumeno, insomma.

Mi concentrerò in particolare sul caso specifico dell’epigramma e sulla domanda - che ovviamente sembra essere una questione di interpretazione, e quindi di significato -: che cos’è un epigramma?

In realtà, però, questa domanda e la sua risposta emergono in una complessa serie di intra-azioni che preesistono ai poli che finiscono per collegare. Il significato di un epigramma, infatti, emerge dal fatto che si comincia ad agire. Chi inizia ad agire? Beh, non si può sapere chi è il soggetto dell’azione finché l’azione non ha luogo. Mentre l’azione si svolge, iniziamo a identificare persone, testi, formati e strumenti tecnici. Ma tutte queste “cose” sono inizialmente solo un insieme piuttosto vago e indefinito. Non ci sono ancora uno o più testi incarnati. E non ci sono nemmeno una o più persone, ma azioni interne dalle quali emergono gradualmente ricercatori, professori e studenti. Man mano che le azioni si svolgono, queste persone e queste cose cominciano ad assumere una forma e si comincia a definire una differenza tra le persone che fanno il lavoro più importante e quelle che fanno il lavoro meno importante. Cominciamo a vedere testi scritti e in questi testi cominciamo a vedere formati che gradualmente distinguiamo dai testi.

Le azioni continuano e alla fine c’è un file json con campi particolari e questi campi e questo file fanno sì che qualcosa come un’idea si stabilizzi dall’altra parte: un epigramma è un’entità - anche il nome deriva dalla relazione con il json - astratta - perché non ha un corrispondente al di fuori di questo json appena apparso - che possiede - perché come altro si possono esprimere queste relazioni? - testi, e questi testi sono i valori di altri campi del json, ma sono entità astratte nel modello ideale e interpretativo che si è appena formato.

Solo quando decidiamo di guardare a questo processo come se si fosse fermato, possiamo definire i diversi poli che hanno interagito. Perché questi poli non sono i soggetti dell’interazione, in realtà: sono i risultati.

L’interpretazione è quindi un insieme di azioni senza confini o delimitazioni precise. Non c’è nulla di umano nel significato, perché non ci sono ancora esseri umani mentre il significato sta emergendo. Gli esseri umani sono il risultato della produzione di significato.

E le considerazioni etiche: chi ha avuto un ruolo e perché? Quali fattori intra-attuali hanno portato alla cristallizzazione di un particolare giudizio di valore?

Questo processo è difficile da descrivere perché anche il linguaggio usato per descriverlo è un risultato del processo. È sempre descritto a posteriori.

Chi legge gli epigrammi?

Non c’è un lettore, non c’è un attore ermeneutico. Il significato emerge nel processo, e con esso, e come ripensamento, gli attori che sembrano essere i suoi produttori sono, in realtà, le sue produzioni.

Più complesso…


`entity:`	intra-azioni	testo ideale
`passage:`		l’idea di epigramma
json		modelli epistemologici
XML		le “manine” (cf. M. Mellet)
testo (di Waltz o del CP23 etc…		i pensatori

Reinventare la ruota

Non esistono cose “banali”
Usare uno strumento = non porsi il problema dei confini
Inventare uno strumento = concentrarsi sulla stabilizzazione e destabilizzazione dei confini.

Frontiere confuse

Prima una serie di intra-azioni. I confini poi si stabilizzano, permettendo l’emergere di..:

formati
struttura dei dati
protocolli
algoritmi
infrastrutture
persone e loro ruolo (più o meno “importante” e riconosciuto)
collaborazioni
…

Attenzione ai confini troppo stabili!