Sommaire · leçon 5 sur 91
Module 1 · Comment une IA apprend
Les données, la matière première
Une IA ne sait que ce que ses exemples lui ont montré. Comprendre d'où viennent ces exemples, c'est comprendre ses forces et ses angles morts.
À la fin de cette leçon, vous saurez
- Dire ce que sont les données d'entraînement
- Expliquer pourquoi la qualité des données détermine celle de l'IA
- Comprendre ce qu'est un biais et d'où il vient
Qu'appelle-t-on « données » ?
Les exemples qui servent à entraîner une IA s'appellent des données. Le mot est abstrait, la réalité est simple : ce sont des informations rangées de façon à pouvoir être lues par une machine.
Voici des données pour apprendre à estimer le prix d'un logement :
| Surface | Chambres | Quartier | Prix |
|---|---|---|---|
| 45 m² | 1 | Centre | 28 000 000 F |
| 80 m² | 3 | Périphérie | 35 000 000 F |
| 120 m² | 4 | Centre | 75 000 000 F |
Les trois premières colonnes sont l'entrée, la dernière est la sortie à prédire. Avec quelques milliers de lignes comme celles-ci, un modèle apprend le lien entre les caractéristiques d'un logement et son prix.
Les données ne sont pas toujours des tableaux. Ce sont aussi des photos, des enregistrements sonores, des vidéos et, pour les assistants qui nous intéressent, des textes : livres, articles, sites web, forums, lignes de code. Des quantités de textes qu'aucun être humain ne pourrait lire en mille vies.
Une IA ne dépasse pas ses données
Une règle résume tout : une IA ne peut pas être meilleure que les exemples qu'on lui a donnés.
Reprenons le modèle de prix. S'il n'a vu que des logements d'une seule ville, il se trompera lourdement dans une autre. Si les prix de ses exemples datent de dix ans, ses estimations seront trop basses. Il ne « sait » pas que les prix ont changé : il reproduit fidèlement ce qu'on lui a montré.
Trois défauts reviennent sans cesse.
Des données insuffisantes. Sur un sujet rare, le modèle a vu peu d'exemples. Ses réponses y sont moins fiables. C'est pourquoi un assistant est souvent plus sûr sur un sujet très documenté que sur l'histoire d'un petit village.
Des données fausses. Si les exemples contiennent des erreurs, le modèle les apprend comme des vérités. Il ne distingue pas un texte sérieux d'une rumeur : pour lui, ce sont deux exemples.
Des données déséquilibrées. C'est le défaut le plus sournois. Il mérite un paragraphe.
Les biais
On parle de biais quand une IA traite systématiquement moins bien certains cas ou certaines personnes, parce que ses données étaient déséquilibrées.
Un exemple réel : des systèmes de reconnaissance faciale ont longtemps fait beaucoup plus d'erreurs sur les visages à la peau foncée. Personne ne l'avait voulu. Ils avaient simplement été entraînés avec une grande majorité de photos de personnes à la peau claire.
Les assistants qui écrivent ont leurs propres biais, hérités des textes qu'ils ont lus.
- La langue. Une très grande part des textes d'entraînement est en anglais. Les réponses sont souvent plus riches en anglais, et moins sûres dans les langues peu présentes sur Internet.
- La géographie. Les exemples, les lois, les prix, les habitudes cités par défaut sont souvent ceux des États-Unis ou de l'Europe. Demandez un conseil juridique sans préciser le pays, et vous risquez d'obtenir le droit d'un autre continent.
- Les stéréotypes. Si, dans les textes, les infirmières sont le plus souvent des femmes et les ingénieurs des hommes, le modèle tend à reproduire cette association.
Vérifiez que vous avez compris
Question
Un assistant répond très bien sur la cuisine italienne et mal sur une spécialité locale peu connue. Quelle est l'explication la plus probable ?
Avant de continuer
- Je sais ce que sont des données d'entraînement
- Je sais pourquoi une IA peut être moins fiable sur un sujet rare
- Je pense à préciser mon pays et mon contexte quand je pose une question