Une étude du MIT (Massachusetts Institute of Technology) a révélé que le cerveau humain travaille moins dur lorsqu’il utilise un LLM, et que ses effets persistent, affectant négativement l’activité mentale dans les travaux futurs.
Les chercheurs ont utilisé un nombre limité de sujets pour leurs expériences (une limitation indiquée dans l’article [PDF]), qui ont été invités à rédiger des essais sur divers sujets. Un groupe de sujets a été autorisé à utiliser une IA (ChatGPT a été choisi; les chercheurs ont considéré qu’il y avait peu de différence entre lui et ses concurrents), le deuxième groupe a été autorisé à utiliser Google Search, et le troisième groupe était appelé « cerveau uniquement » – c’est-à-dire produisant un travail sans l’aide de la technologie.
L’électroencéphalographie (EEG) a été utilisée sur tous les sujets pour surveiller l’activité cérébrale afin d’évaluer l’engagement cognitif et la charge cognitive. Les chercheurs ont constaté que les groupes présentaient des niveaux différents de connectivité neuronale, reflétant les différentes stratégies utilisées par le cerveau pour rédiger les devoirs. Plus les sujets étaient soutenus, moins leurs cerveaux semblaient travailler dur. L’analyse EEG a montré que la matière grise la plus active appartenait au groupe non assisté, avec moins d’activité neuronale dans le groupe « moteur de recherche », et encore moins chez les utilisateurs d’IA.
L’étude a également examiné ce qu’elle appelait «l’appropriation» – la capacité des auteurs à citer ce qu’ils avaient écrit par la suite et à résumer leur travail. Les niveaux d’appropriation ont considérablement chuté avec l’aide technologique accordée aux sujets. Peu d’étudiants utilisant un LLM ont pu citer de manière fiable ce qu’ils avaient écrit. De plus, le groupe utilisant un LLM « a produit des essais statistiquement homogènes dans chaque sujet, montrant significativement moins de déviations par rapport aux autres groupes ».
Sans surprise, le cortex visuel de ceux utilisant un moteur de recherche ou ChatGPT était plus actif, ces groupes étant « plus enclins à se concentrer sur la production des outils qu’ils utilisaient », indique l’article.
Effets à long terme
Après plusieurs tours d’écriture d’essais, deux autres groupes ont été formés à partir des sujets participants, comprenant des « cerveau-vers-LLM » et des « LLM-vers-cerveau », qui, comme leur nom l’indique, étaient des sujets qui n’avaient auparavant eu aucun soutien technologique et pouvaient maintenant utiliser un LLM, et des utilisateurs de LLM dorénavant instruits pour compléter les devoirs de manière « solo ».
Les chercheurs ont constaté que, « les participants LLM-vers-cerveau ont montré une connectivité neuronale plus faible et un sous-engagement des réseaux alpha et bêta; et les participants Cerveau-vers-LLM ont démontré un rappel de mémoire plus élevé et une réactivation des nœuds occipito-pariétaux et préfrontaux étendus. […] Cela suggère que la réengagement assisté par l’IA a provoqué des niveaux élevés d’intégration cognitive, de réactivation de la mémoire et de contrôle descendant. »
En bref, les humains utilisant leur cerveau pour aborder un sujet peuvent bénéficier de l’utilisation d’une IA après avoir pleinement exploré leurs pensées, leur expérience, leurs connaissances et leurs sentiments sans utiliser de technologie. Mais ceux qui utilisent une IA dès le début montrent une activité cérébrale réduite avec le temps, et étaient moins capables d’effectuer des tâches cognitives lorsqu’on leur demandait de se passer de ChatGPT.
L’article indique, « Comme nous l’avons démontré au cours de quatre mois, les participants du groupe LLM ont performé moins bien que leurs homologues du groupe cerveau uniquement à tous les niveaux : neuronal, linguistique, [et] de notation. »
Étude limitée
Avec seulement quelques dizaines de sujets dans l’étude, le groupe de recherche travaillait avec un échantillon limité. Les auteurs admettent qu’il sera nécessaire de faire appel à davantage de volontaires ayant des antécédents plus diversifiés pour découvrir des résultats plus fiables statistiquement. Cependant, alors que l’IA est de plus en plus utilisée dans les écoles, les collèges et la vie quotidienne, les chercheurs ont souligné ce qu’ils appellent une « question urgente » d’une « diminution probable des compétences d’apprentissage » qui découle de l’utilisation de l’IA en remplacement des cerveaux humains.
Conclusions
Si la tendance à utiliser ChatGPT à la place des activités très humaines de réflexion, de considération et de résumé se poursuit, il semble probable que la capacité à réfléchir efficacement diminuera à long terme. Avoir une IA ajoutant du contexte ou des informations supplémentaires plus tard dans tout processus de réflexion intellectuelle produit de meilleurs résultats que son utilisation dès le début.
L’utilisation d’un moteur de recherche se situe entre la pensée non assistée et le fait d’être nourri d’informations générées par une IA, selon l’article. Cependant, le besoin de Google, Microsoft, et autres d’insérer la génération d’IA dans les résultats de recherche des utilisateurs (les résultats LLM apparaissant en premier sur les pages de résultats des moteurs de recherche) signifie que l’activité cognitive parmi les utilisateurs de recherche quotidienne peut diminuer s’ils se concentrent uniquement sur les résultats de recherche générés par l’IA.
Le groupe de recherche affirme qu’il est nécessaire de mener davantage d’études pour comprendre les effets à long terme des IA sur le cerveau, « avant que les LLM ne soient reconnus comme quelque chose de nettement positif pour […] les humains. »