7 months ago
85
Je vous parlais la semaine dernière de Geoffrey Hinton, qui veut doter les IA d’un instinct maternel. Un de ses proches collègues, l’ingénieur français Yann Le Cun, est allé dans son sens en parlant de la nécessité d’installer des garde-fous sur les IA en les programmant pour les rendre empathiques et soumises aux humains. C’était le 14 août dernier sur le réseau LinkedIn. Il a proposé de programmer des interdits dans les IA, comme « ne pas écraser les gens », « ne pas agiter les bras en présence de personnes surtout si vous tenez un couteau ». Et il a ajouté : « Ces garde-fous programmés seraient l’équivalent des instincts ou des pulsions chez les animaux et les humains. »
Yann Le Cun est reconnu dans son domaine pour avoir conçu des réseaux de neurones capables de reconnaître efficacement des images. Recruté en 2013 par Facebook, il dirige aujourd’hui la recherche sur l’IA chez Meta. Ça m’intéresse beaucoup qu’il parle de pulsion, cette notion freudienne entre toutes. Dans les années 1990, le mathématicien britannique Bernard Meltzer avait regretté que les recherches en intelligence artificielle ne s’intéressent pas aux centaines de cas cliniques de Freud, qui permettent de saisir le fonctionnement des rêves, des métaphores, des névroses et des psychoses. On commence donc à voir des chercheurs en IA s’intéresser à Freud : ça peut devenir amusant. On pourra peut-être rendre les IA moins psychotiques. Ces machines sont aujourd’hui plutôt psychotiques au sens où elles sont programmées pour produire de froids raisonnements, dont l’extrême rigueur mathématique peut facilement les rendre très bêtes, avec des réponses inadaptées voire dangereuses.
Enfants sauvages 2.0
Mais alors, comment rendre une machine empathique ? Les ingénieurs pourraient peut-être s’inspirer des merveilleux programmes de l’Éducation nationale, qui a développé, je cite, des « cours d’empathie » : « Il s’agit d’inculquer aux élèves la capacité de se mettre à la place des autres et de comprendre leurs émotions et leurs perspectives. En développant cette compétence essentielle, les enfants apprennent à mieux communiquer, à résoudre les conflits de manière pacifique […]. »
Notez qu’il n’est pas question de « parler », mais de « communiquer ». Ce glissement sémantique est hyperbanalisé, mais il me glace toujours quand je l’entends. On communique de plus en plus, et on parle de moins en moins. C’est vrai que parler, c’est plus délicat que de communiquer des informations.
Après une expérimentation, entre janvier et juin 2024, les cours d’empathie ont été généralisés à l’école primaire à partir de septembre 2024. Je me demande où cela en est. Sur le site Web de l’Éducation nationale, il est aussi question de modules de SCP, c’est-à-dire de « soutien au comportement positif ».
Mais aujourd’hui, beaucoup d’enfants très jeunes passent plus de temps sur des écrans qu’à parler avec leurs parents – parents qui sont eux-mêmes scotchés à leur portable en permanence. Nous fabriquons des enfants sauvages 2.0. À l’école, on colle de plus en plus facilement les enfants sur des tablettes « pédagogiques » ou sur des ENT, des « espaces numériques de travail ». Plutôt que de leur donner des cours d’empathie et de communication positive, on pourrait déjà décoller les enfants de ces écrans, qui ne peuvent que leur apprendre à réagir de manière binaire et primaire.
Tiens, je vais proposer au nouveau ministre de l’Éducation nationale de lire Sauvagerie, le roman glaçant de J. G. Ballard, dans lequel un groupe d’enfants hyperconnectés et hyperstimulés s’organisent froidement pour éliminer leurs parents devenus trop gênants. Ils sont comme des algorithmes sans programme d’empathie.
