IA & société

Fonctionnement des IA modernes, et conséquences pour la société

Fonctionnement de l’IA moderne

Systèmes experts : des règles écrites à la main

Deep Blue, IBM
Deep Blue (IBM) bat Garry Kasparov aux échecs en 1997
Photo : James the photographer, CC BY 2.0, via Wikimedia Commons

Le Machine Learning : apprendre à partir d’exemples

Un neurone est capable d’apprendre

Entraîner un réseau de neurones à la main

Explosion de la taille des modèles

Boucle d’entraînement automatique

Entraînement automatique

Prédire la suite d’un texte

« Paris est la capitale de la ___ »
→ France
« Paris est la capitale de la France. Elle est située en ___ »
→ Europe

Prédire la lettre suivante

Caractère vs mot vs token

Token par token

Variabilité des réponses

La température

Une conversation dépend du point de vue

Raisonner par étapes (« chain of thought »)

3 étages × 12 rayonnages × 40 livres. 15 % sont prêtés. Combien de livres restent en rayon ?
Réponse attendue : 1 224

Réponse courte

Il reste 1 350 livres.
2 tokens faux

Réponse longue (avec étapes)

3 × 12 = 36 rayonnages. 36 × 40 = 1 400 livres. 15 % de 1 400 = 210. Il reste 1 400 − 210 = 1 190 livres.
7 tokens faux : l’erreur se répète
À l’entraînement, chaque token faux est pénalisé :
une erreur répétée dans un raisonnement coûte plus cher.

Impact de l’IA

Deux sources de biais

Biais d’entraînement

Biais d’utilisation

Écrire avec une IA peut changer notre opinion

La majorité des participants n’a pas remarqué que l’IA était orientée.
Jakesch, Bhat, Buschek, Zalmanson & Naaman, « Co-Writing with Opinionated Language Models Affects Users’ Views », CHI 2023. doi:10.1145/3544548.3581196

Nous ne serons pas remplacés par les IA

Et en bibliothèque ? 📚

Ce qui change pour l’information

Des faux, sous toutes les formes

De plus en plus difficiles a détecter!

Hameçonnage

De : service-client@secur-verif-acount.xyz

Bonjour,

Votre compte a ete bloque.
Clique ici pour le debloquer immediatement !!!

Merci de votre comprehension

fautesformulation étrangetraduction approximative
De : Médiathèque municipale — Espace lecteur

Bonjour Monsieur Dupont,

Nous avons détecté une connexion inhabituelle à votre espace lecteur, le 23 septembre à 22 h 14, depuis un appareil situé à Lyon.

Si vous n’êtes pas à l’origine de cette connexion, nous vous invitons à sécuriser votre compte sous 48 heures :
Vérifier mon compte

Le service numérique de la médiathèque

français impeccablepersonnaliséadapté au destinatairedes dizaines de variantes

Exemples fictifs

Action des IA

L’incident Hugging Face

Sources : blog Hugging Face (juillet 2026) ; OpenAI

Conclusion

  1. Une IA n’est pas magique.
  2. Un LLM prédit du texte, token par token.
  3. Les données et/ou les instructions peuvent être biaisées.
  4. L’IA réduit fortement le coût de la création de faux.

Sources