Es-tu sûr de penser ?

La pensée est divine

ἔγρετο δ᾽ ἐξ ὕπνου, θείη δέ μιν ἀμφέχυτ᾽ὀμφή (Iliade, 2,41)

ἀτάρ, ὦ φίλε Φαῖδρε, δοκῶ τι σοί, ὥσπερ ἐμαυτῷ, θεῖον πάθος πεπονθέναι; Platon, Phèdre, 238c6

Il se reveilla et la voix divine résonnait autour de lui

Mais, cher Phèdre, ne te semble pas, comme à moi, que je suis sous une influence divine?

Dans Par delà le bien et le mal, Nietzsche se moque de Descartes en affirmant que la pensée n’est pas une production du sujet: “quelque chose pense, mais croire que ce quelque chose est l’antique et fameux moi, c’est une pure supposition”. Il suffit de lire une page de poésie épique grecque, par ailleurs, pour se rendre compte que, dans la tradition classique, la pensée n’est jamais d’un être humain, mais toujours des dieux qui suggèrent aux humains quoi penser. À partir de cette provocation, j’aimerais mettre en question la doxa selon laquelle il y aurait d’un côté les êtres humains, qui pensent, interpètent et produisent du sens et de l’autre les machines qui ne manipulent que de la syntaxe, sans comprendre et sans produire du sens. Est-il vrai qu’un texte produit par un grand modèle de language aurait moins de sens ou moins d’intention que celui produit par un.e journaliste? Parler de comment émerge le sens? Qui comprends quoi? Turing Searle etc.

Je pourrais parler de la question de l’émergence du sens en posant - de façon un peu provocatrice - la question: “qui produit le sens”? Mon point de vue, pour faire vite, est qu,on idéalise l’être humain comme producteur de sens et que l’opposition entre sens et syntaxe (humain=sens vs machine=syntaxe) est mal définie. Dit autrement: y a-t-il vraiment une différence entre un.e journaliste et un llm?

"Je" pense ?

Pour ce qui en est de la superstition des logiciens, je veux souligner encore, sans me laisser décourager, un petit fait que ces esprits superstitieux n’avouent qu’à contre-cœur. C’est, à savoir, qu’une pensée ne vient que quand elle veut, et non pas lorsque c’est moi qui veux ; de sorte que c’est une altération des faits de prétendre que le sujet moi est la condition de l’attribut « je pense ». Quelque chose pense, mais croire que ce quelque chose est l’antique et fameux moi, c’est une pure supposition, une affirmation peut-être, mais ce n’est certainement pas une « certitude immédiate ». En fin de compte, c’est déjà trop s’avancer que de dire « quelque chose pense », car voilà déjà l’interprétation d’un phénomène au lieu du phénomène lui-même.

NIETZSCHE, Friedrich, Par_delà_le_bien_et_le_mal. Prélude d’une philosophie de l’avenir, Paris, Mercure de France. Chapitre 1, 17

Blessure narcissique?

Le test de Turing

Turing, A. M. « Computing Machinery and Intelligence ». Mind LIX, nᵒ 236 (1 octobre 1950): 433‑60. https://doi.org/10.1093/mind/LIX.236.433.

Le jeu des rôles - Imitation game

découvrir une différence ou la performer?

Performer l’humain

Dans le test de Turing on ne “découvre” pas qui est l’être humain et qui est la machine: on produit la définition de ce qu’est l’humain et de ce qu’est une machine.

La chambre chinoise

Searle, John R. « Minds, Brains, and Programs ». Behavioral and Brain Sciences 3, nᵒ 3 (septembre 1980): 417‑24. https://doi.org/10.1017/S0140525X00005756.

My car and my adding machine, on the other hand, understand nothing: they are not in that line of business.

Qui est le plus intelligent?

homme vs femme
humain vs animal
humain vs machine

Instead of arguing continually over this point it is usual to have the polite convention that everyone thinks. Turing, A. M. « Computing Machinery and Intelligence ». Mind LIX, nᵒ 236 (1 octobre 1950): 433‑60. https://doi.org/10.1093/mind/LIX.236.433.

Les computers

debout: Ester Gerston
accroupie: Gloria Gordon Bolotsky
Jennifer Light, When Computers Were Women
Kathy Kleiman, Proving Ground: The Untold Story of the Six Women Who Programmed the World’s First Modern Computer

Mais le sens est du côté de…

John William Mauchly e J. Presper Eckert

Busa et…

Elle s’appelle Livia Canestraro!

Il y avait aussi…

Rosetta Rossi Bertolli, Gisa Crosta et plein d’autres

Les petites mains

Margot Mellet, Manifeste des petites mains, Blank.blue, 2021.

Les frontières…

Hommes/machines

Hommes/animaux

Hommes/femmes

Penseurs/secrétaires

Grands intellects/petites mains

Sens/syntaxe

Immatérialité/matière

Le sens et la syntaxe

une table d’associations

input	output
`a?`	`b`

Une opération

a?
b

Le sens et la syntaxe

une table d’associations

input	output
`Qu'est-ce que le soleil?`	`Une étoile`

Une opération

Qu'est-ce que le soleil?
Une étoile

Le sens et la syntaxe

Syntaxe = juste ce qu’on voit: table + symboles
Sens = quelque chose de plus… mais quoi?

Et si on complexifiait la table?

Et si ce quelque chose de plus était justement par ex ce qui nous échappe dans les matrices de réseaux de neurones? Justement parce qu’on ne sait pas, comme on ne sait pas ce que veut dire qu’un enfant comprend… Cf Michèle Sebag Goodfellow et Clever Hans Hans le malin

Le problème est que cet exemple est conçu pour définir clairement l’ensemble des éléments disponibles dans le premier cas et pour laisser ambigus les éléments disponibles dans le second cas.

Dans le premier cas, il n’y a que les deux symboles et le tableau. Dans le second, il y a autre chose. Mais qu’est-ce que ce quelque chose d’autre ?

La réponse que l’exemple tente de provoquer est : “le sens”, en supposant que le sens est ce qui reste après avoir considéré tous les éléments déclarés. Mais le problème est que ces éléments n’ont pas été déclarés.

Et s’il existait de nombreux tableaux, chacun définissant des instructions pour établir des relations entre différents symboles ? Une table établissant une relation entre le symbole Soleil et le symbole étoile, une autre établissant une relation entre Soleil et une image, une autre établissant une relation entre Étoile et lumineux, une autre entre lumineux et chaud et entre étoile et objet astronomique constitué d’un sphéroïde lumineux de plasma maintenu par sa propre gravité, et ainsi de suite. Imaginez des millions, des milliards, des trillions de ces relations. L’exemple serait-il encore valable ?

Quelque chose de semblable:

Tononi, Giulio. 2012. Phi: A Voyage from the Brain to the Soul. New York: Pantheon

La définition de l’humain

est ‘humain’ ce qui échappe à la machine

Qui pense?

la pensée est le résultat d’un ensemble complexe d’éléments comprenant des environnements techniques, des protocoles, des formats, des algorithmes, des structures de données, des communautés…

mépris pour la matérialité:

on ne donne pas assez de crédit aux véritables protagonistes
on ne se rend pas compte du fait que quelqu’un pense à notre place

chatGPT pense-t-il?

quel est l’enjeu ?
- affirmer une supériorité ?
plutôt comprendre comment émerge le sens?
- modèle théorique de l’algorithme
- contexte économique et culturel
- concentration des ressources
- …