Biologie & vivantPreprintSimulation4 min de lecture

POURQUOI UN RÉSEAU DE RESSORTS AURAIT-IL BESOIN DE DORMIR ?

Qu’est-ce que le sommeil ? On l’identifie comme un état de repos réversible, pendant lequel un animal réagit moins à son environnement — et dont il a davantage besoin après en avoir été privé. Défini ainsi, le sommeil se retrouve dans tout le règne animal : chez les mammifères et les oiseaux, les poissons et les vers, et même chez des animaux sans système nerveux centralisé, comme les méduses et les hydres. Cette étendue soulève une question, posée par Nada Elmeligy, Nidhi Pashine et J. M. Schwarz, de l’université de Syracuse : le besoin de sommeil pourrait-il venir de l’apprentissage lui-même, quel que soit le système qui apprend ?

L’intelligence artificielle offre une réponse partielle : depuis l’algorithme « veille-sommeil », des phases de type sommeil aident des réseaux de neurones à apprendre du nouveau sans oublier l’ancien. Mais ces réseaux suivent des règles d’apprentissage prescrites mathématiquement. L’équipe voulait quelque chose de plus simple et de purement physique : un matériau qui apprend par sa propre mécanique.

Des ressorts qui apprennent

Leur apprenti est un réseau désordonné de ressorts : 128 nœuds reliés par 354 à 366 ressorts. La tâche à apprendre est mécanique. Quand deux forces opposées tirent sur un ressort (l’entrée), un autre ressort plus loin (la sortie) doit répondre avec une tension précise. L’apprentissage est local : chaque ressort ajuste sa propre raideur à partir des tensions qu’il ressent, sans processeur central.

L’équipe a entraîné 50 de ces réseaux sur un flux de 23 visites : neuf tâches nouvelles, mêlées à 14 répétitions de tâches déjà vues. Au fil du flux, une part de plus en plus faible des réseaux parvenait à apprendre les nouvelles tâches. Les tâches elles-mêmes n’étaient pas en cause : entraînées en premier, depuis l’état de départ, ces mêmes tâches étaient apprises plus souvent.

Apprendre use la capacité d’apprendre

L’explication tient dans une grandeur que les auteurs appellent la dominance. Tirez sur les deux extrémités d’un ressort : la charge se répartit, une partie reste dans ce ressort, le reste passe par le réseau autour. La dominance d’un ressort est la part qu’il garde, entre 0 et 1. Un ressort qui porte toute la charge ne peut plus transmettre de changement au reste du réseau ; un ressort qui ne porte rien n’a rien à transmettre. Son utilité pour l’apprentissage, que les auteurs appellent sa plasticité, est le produit f(1 − f) : nul aux deux extrêmes, maximal à un demi.

Avant l’entraînement, les dominances des ressorts restent proches de la moyenne. L’entraînement les polarise : certains ressorts finissent par porter presque toute la charge appliquée à leurs extrémités, d’autres presque rien. Et là, l’équipe démontre une loi exacte. Additionnez la plasticité de tous les ressorts pour obtenir la capacité d’apprentissage C du réseau ; mesurez l’écart des dominances à la moyenne pour obtenir la polarisation P. Alors C + P est une constante, fixée par la seule structure du réseau. Chaque gain de polarisation est une perte de capacité d’apprentissage. Les auteurs appellent P la « pression de sommeil » du réseau. Dans les simulations, les tâches arrivées quand C était élevée étaient apprises bien plus souvent.

Écouter le bruit

Peut-on réparer les dégâts ? En principe, oui : affaiblir les ressorts trop dominants, renforcer ceux qui le sont trop peu. La difficulté : la dominance d’un ressort dépend de tout le réseau. L’équipe a trouvé un raccourci local : secouer le réseau de l’intérieur avec de petites forces aléatoires, et l’énergie moyenne stockée dans chaque ressort révèle sa dominance. Chaque ressort n’a alors besoin que de sa propre raideur et de son propre allongement.

Insérée entre les visites de tâches, cette réparation a maintenu l’apprentissage tout au long du flux. Elle a fait mieux qu’une relaxation aveugle vers la raideur de repos dans 49 réseaux sur 50. Elle rappelait aussi plusieurs traits du sommeil animal. La réparation nuisait quand rien de nouveau n’était appris, et aidait le plus quand environ 40 % des visites apportaient une tâche nouvelle. Sauter les trois dernières séances de réparation laissait la « pression de sommeil » s’accumuler, et le rattrapage demandait une dose supplémentaire — mais seulement 75,3 % de ce qui avait été sauté, et 52,2 % après six séances manquées.

Pourquoi la réparation doit attendre

Pourquoi ne pas réparer en apprenant ? Parce qu’une tâche en cours ajoute de la contrainte aux ressorts qui la portent. Leurs mesures d’énergie montent — dans les 50 réseaux —, si bien que la réparation prend les ressorts occupés pour des ressorts trop dominants et ramollit justement les chemins utilisés. Réparer pendant la tâche a donné des résultats bien moins bons que réparer hors ligne.

Comme ce biais pousse toujours les mesures vers le haut, un ressort qui paraît faible pendant une tâche l’est vraiment. L’équipe a donc essayé un partage : renforcer pendant la « veille », n’affaiblir que pendant le « sommeil ». Cela a marché presque aussi bien qu’une réparation entièrement hors ligne. Le partage inverse a fait baisser la performance dans tous les réseaux. Les auteurs relèvent un parallèle dans le cortex visuel du rat, où l’activité est réajustée vers le haut pendant l’éveil et vers le bas pendant le sommeil — une explication physique possible, présentée comme une hypothèse à tester.

Un interrupteur encore actionné de l’extérieur

Les réseaux ne décident pas seuls de dormir : un superviseur externe programme apprentissage et réparation, et fixe la cible de récupération. Et comme la réparation ne sait rien des tâches passées, elle érode les mémoires, contrairement au sommeil biologique, qui réactive aussi les expériences de la journée. Les prochaines questions des auteurs : quand un apprenti basculerait-il de lui-même dans une phase hors ligne — et une forme physique de rêve pourrait-elle protéger ce qu’il vient d’apprendre ?