IA Engineering
Sommaire · leçon 6 sur 91

Module 1 · Comment une IA apprend

Dans un réseau de neurones

Le mot impressionne, l'idée est accessible : de petits calculs très simples, mis bout à bout en très grand nombre. Aucune formule dans cette leçon.

7 minLeçon 6 / 91

À la fin de cette leçon, vous saurez

  • Expliquer ce qu'est un neurone artificiel
  • Décrire le rôle des couches d'un réseau
  • Savoir ce que sont les paramètres d'un modèle

Un neurone artificiel

météofatigueamisΣje sors !trait épais = plus d'importance

Malgré son nom, un neurone artificiel n'a pas grand-chose à voir avec une cellule du cerveau. C'est un petit calcul.

Il reçoit quelques nombres, accorde plus ou moins d'importance à chacun, les combine, et transmet le résultat. C'est tout.

Imaginez que vous décidiez de sortir ou non ce soir. Vous pesez plusieurs éléments : la fatigue, la météo, l'envie de voir vos amis. Vous n'accordez pas le même poids à chacun. Si la fatigue compte beaucoup pour vous, elle l'emportera même par beau temps. Un neurone fait la même chose : il pèse ses entrées, chacune avec son poids, et en tire un résultat.

Un neurone seul ne sait presque rien faire. La puissance vient du nombre.

Des couches qui affinent

pixelstraitsformesparties« chat »

Dans un réseau, les neurones sont rangés en couches. Chaque couche reçoit les résultats de la précédente et transmet les siens à la suivante.

Entrée

les pixels

Couche 1

des traits

Couche 2

des formes

Sortie

chat ou chien

Un réseau qui reconnaît un animal sur une photo. L'information traverse le réseau de gauche à droite ; chaque couche s'appuie sur le travail de la précédente.

Suivons une photo à travers ce réseau.

  1. L'entrée. Pour un ordinateur, une photo est une grille de points colorés, les pixels. Chacun est un nombre. Le réseau reçoit donc une longue liste de nombres.
  2. Les premières couches repèrent des éléments très simples : un bord, un contraste, une tache de couleur.
  3. Les couches suivantes assemblent ces éléments en formes : une courbe, un cercle, une texture de pelage.
  4. Les dernières couches assemblent ces formes en parties reconnaissables : une oreille, un museau, une moustache.
  5. La sortie donne le verdict : « chat », avec un certain degré de confiance.

Le point remarquable est que personne n'a dit au réseau de chercher des bords, puis des formes, puis des oreilles. Cette organisation apparaît d'elle-même pendant l'entraînement, parce qu'elle est efficace pour trouver la bonne réponse.

Les paramètres : ce que le modèle a appris

… et des milliards d'autres réglageschaque erreur ajuste légèrement les réglages

Revenons aux poids. Chaque lien entre deux neurones a le sien. Ces poids portent un nom que vous croiserez souvent : les paramètres.

  • Avant l'entraînement, les paramètres sont tirés au hasard. Le réseau répond n'importe quoi.
  • Pendant l'entraînement, chaque erreur entraîne un léger ajustement des paramètres, comme vu dans la leçon « Apprendre par l'exemple ».
  • Après l'entraînement, les paramètres sont figés. Ce sont eux, le modèle.

Tout ce qu'un modèle « sait » est contenu dans ces nombres. Il n'y a ni dictionnaire, ni encyclopédie, ni base de données cachée à l'intérieur : seulement des paramètres.

Leur nombre donne la mesure de l'objet. Le petit réseau du schéma en compte quelques dizaines. Les modèles qui animent les assistants actuels en comptent des dizaines, voire des centaines de milliards.

Ce qu'il faut garder en tête

0.97

Vous n'aurez jamais à manipuler un neurone. Mais cette image vous servira de garde-fou.

Un modèle n'est pas une personne qui réfléchit, ni une encyclopédie que l'on consulte. C'est une immense machine à calculer, réglée par des milliards d'exemples pour produire des sorties vraisemblables. Qu'elle y parvienne aussi bien reste étonnant, y compris pour les chercheurs. Mais c'est un calcul, du début à la fin.

Vérifiez que vous avez compris

?

Question

Où se trouve ce qu'un modèle a appris ?

Avant de continuer

  • Je sais qu'un neurone artificiel est un petit calcul
  • Je peux expliquer à quoi servent les couches
  • Je sais ce que sont les paramètres d'un modèle