Ctrl+K

LLM: questions épistémologiques

LLM: questions épistémologiques#

Sources:

Qu’est-ce que la “science”?#

  • La notion de “succès”

  • L’application

  • Les résultats

  • La prévision

  • L’explication

  • La compréhension

  • Le sens?

There is a notion of success … which I think is novel in the history of science. (Chomsky, cité par Norvig)

Breiman is inviting us to give up on the idea that we can uniquely model the true underlying form of nature’s function from inputs to outputs. Instead he asks us to be satisfied with a function that accounts for the observed data well, and generalizes to new, previously unseen data well, but may be expressed in a complex mathematical form that may bear no relation to the “true” function’s form (if such a true function even exists). Chomsky takes the opposite approach: he prefers to keep a simple, elegant model, and give up on the idea that the model will represent the data well. Instead, he declares that what he calls performance data—what people actually do—is off limits to linguistics; what really matters is competence—what he imagines that they should do.

Déduction et induction#

  • déduction: de l’universel au particulier

  • induction: du particulier à l’universel

Exemple

Déduction: 2x=y -> si x = 2 alors y=4

Induction: x = 1 et y = 2, x = 3 et y = 6 -> 2x=y

Limites de l’induction#

La dinde inductiviste de Popper: une dinde se lève chaque matin et son maître lui donne à manger; après plusieurs jours elle induit la règle universelle: mattin=repas. Jusqu’au jour de l’Action de grâce où son maître lui tire le cou…

Il faut beaucoup de données!

Limites de la déduction#

Est-ce qu’il y a toujours des règles universelles? Lesquelles?

Mais si on a la règle on n’a pas besoin de données!

Connectivisme vs symbolisme#

Le langage artificiel IEML de Pierre Lévy (cf. notamment cet article) propose une représentation symbolique de la connaissance. C’est une représentation formelle où sémantique et syntaxe sont alignée par construction. La langue devient donc calculable.

  • c’est une langue - avec les avantages de pouvoir “tout exprimer” - et non un système de règles

  • elle permet d’exprimer des connaissances expertes et d’en déduire ensuite d’autres connaissances

Des approches “mixtes”?#

Le Retrieval augmented generation (RAG) semble être une approche hybride.

Mais l’est-elle?

En réalité non, car il s’agit juste de donner des prompts pour “conditionner” le comportement du modèle inductif en aval - alors que pour avoir un système déductif il faudrait que la connaissance experte soit insérée en amont.

Disantangled representation#

Travailler de manière “experte” sur les couches cachées.

Explicabilité, compréhension#

Dangers de la généralisation de l’induction#

Un LLM utilise l’induction même quand il y a des règles simples

The story of Clever Hans is a metaphor for machine learning systems that may achieve very high accuracy on a test set drawn from the same distribution as the training data, but that do not actually understand the underlying task and perform poorly on other inputs.Librairie cleverhans, Goodfellow et al

  • Byte pair encoding

On perd l’expertise!

Besoin de données et besoin de calcul = dépendance d’infrastructures très couteuses.

Le rapport d’AInow

Juste une question de “performance”?#

On dirait que dans le monde du développement d’algorithmes inductifs, les limites de l’induction sont juste compris comme des limites des performance et fiabilité.

Par exemple, l’approche de Papernot et Goodfellow consiste à se questionner sur la sécurité des modèles inductifs (cf. ici). C’est ce qui les pousse à développer l’approche des “exemples adversaires” – les contrexemples qui “cassent” le fonctionnement du modèle.

Mais il faut considérer aussi le problème épistémologique!

Stochastique#

στόχος: “conjecture” (mais aussi “cible”)

  • quelque chose qui peut être décrit comme aléatoire sur la base d’une distribution de probabilités.

Admettons d’avoir un panier avec 5 billes rouges, 3 vertes et 2 jaunes. Si on prend une bille à l’aveugle du panier, on aura 50% de chances de prendre une bille rouge, 30% une verte et 20% une jaune. Le résultat est donc aléatoire (car c’est un tirage au sort) mais il reflètera la distribution de probabilité. Ce n’est donc pas comme si je prenais les billes dans un panier où il y avait 3 billes rouges, 3 vertes et 3 jaunes.

Contents