Si c’est intuitif c’est bête

éloge du bug contre la rhétorique des GAFAM

Marcello Vitali-Rosati

UCO - Niort - 1 mars 2023

Les génies exaucent nos désirs ou nous exauçons les leurs?

L’impératif fonctionnel (Francesco Orlando)

impératif rationnel
impératif fonctionnel au XIX^e siècle et aujourd’hui

La rhétorique des GAFAM

les “solutions”
intuitif
simple
performant
rapide
facile

Kant et l’intuition

intuitif de in + tueor: voir à l’intérieur
allemand Anschaung (an+schauen)
rapport immédiat avec le réel
débat sur l’intuition intellectuelle (l’universel)

Ein Verstand, in welchem durch das Selbstbewußtsein
zugleich alles Mannigfaltige gegeben würde, würde anschauen;
der unsere kann nur denken und muß in den Sinnen die Anschauung
suchen. Kant, Kritik der reinen Vernunft, Die transscendentale Analytik, 17

Un entendement dans lequel, par la conscience de soi, tout le divers serait simultanément donné serait intuitif; le nôtre ne peut que penser et il lui faut chercher l’intuition dans les sens. Source

Les intuitions sensibles nous font saisir immédiatement le particulier, mais pour passer du particulier à l’universel il est nécessaire de faire travailler la pensée: c’est la médiation du concept qui permet le passage à l’universel. Pour faire un exemple: grâce aux intuitions a priori de l’espace et du temps, je peux avoir l’intuition sensible d’une chaise particulière; “cette chaise là”. Pour ensuite arriver au concept de chaise, il faut que je pense. Il n’est pas possible d’avoir l’intuition du concept de chaise (ce qui serait une intuition intellectuelle). Certains idéalistes (Fichte et Schelling par exemple) affirment la fusion totale de la pensée et de l’Être et croient donc en la possibilité de l’intuition intellectuelle. Hegel la critique durement comme étant irrationnelle - la fusion de l’Être et de la pensée à la base de la philosophie hégélienne est garantie par le fait que l’Être est toujours déjà médié.

Ce qui me dérange de la notion d’intuition est justement l’idée d’immédiateté. D’un point de vue ontologique, je pense, avec Hegel même si de façon très différente, que l’Être est toujours médié - mais cette question est trop complexe et nous amènerait trop loin. Mais au delà des considérations ontologiques, l’idée d’immédiateté me semble dangereuse. Elle implique d’une part la croyance en un monde unitaire et monolithique et de l’autre la conviction qu’il y aurait un accès transparent à ce monde. En somme: intuition va avec immédiateté et avec transparence. Et c’est cette logique - qui a des fondements métaphysiques anciens - que nous vendent les GAFAM: l’outil parfait serait celui qui nous donne un accès immédiat au monde. Cette immédiateté ne peut qu’être basée sur l’unicité: il y a une et une seule manière pour saisir ce que le monde est en soi - car s’il y en avait plusieurs il serait nécessaire de justifier cette multiplicité avec des médiations différentes. Cela implique qu’il y a un et un seul bon outil et que le travail de conceptions devrait juste essayer de se rapprocher le plus possible de cet outil idéal.

Les problèmes de cette rhétorique

immédiateté
pensée unique
littératie réduite à apprendre à faire ce que les outils nous font faire
les solutions sans problème (Morozov)
utilisateurs.rices utilisé.e.s

Algorithmes et visions du monde

modèles, algorithmes, formats, protocoles
modèle basé sur des valeurs
reproduction de ces valeurs
prophétie autoréalisante

L’exemple de Tinder: la modélisation de l’amour

Le brevet Tinder

In this example, Harry is 10 years older than Sally, makes $10,000 more per year, and has a Master’s degree while Sally has a bachelor’s degree. Even with these disparities, matching server 20 will give Sally’s profile a high score which makes it more likely that Sally’s profile will appear in Harry’s result list. However, if it was Sally who submitted the search, and matching server 20 was evaluating Harry’s profile, a different score is possible. So, if it were Sally who was 10 years older, made $10,000 more per year, and had a Master’s degree while Harry had a Bachelor’s degree, matching server 20 would give a low score to Harry’s profile, making it less likely that his profile would appear in Sally’s result list. Matching server 20 may be configured this way because empirical data has shown that these demographic differences do not have an equivalent effect on the choices men and women make regarding matches.

Lire et interpréter le code

le code est trop important pour être laissé aux informaticien.ne.s

Le bug

Un spectre dans le système:

arrêter l’imperatif fonctionnel
faire émerger la pensée
proposer de nouveaux modèles

Erreurs, bogues et dysfonctionnements

3 types de dysfonctionnement:

Outil cassé
Outil complexe (multiplicité)
Outil inutile