8 months ago
83
Les infinies discussions sur le pouvoir de l’IA me font penser à Véronique Courjault. Cette femme qui accouchait chez elle et qui mettait ses bébés au congélateur un par un.
Quel rapport ? me direz-vous.
On a vu cette année se multiplier de fâcheux incidents numériques. Cela fait bien longtemps que les ordinateurs sont plus contraignants qu’aidants, mais là, ça commence à être directement entravant, voire menaçant. Cet été, des IA embarquées pour assister le freinage d’urgence ont provoqué des accidents sur l’autoroute : victimes d’hallucination, elles ont brutalement bloqué les roues sans raison apparente. L’algorithme a peut-être vu un éléphant rose traverser la route. Et puis, il y a cette histoire d’une IA qui, pour éviter d’être remplacée, était prête à faire chanter un ingénieur au sujet d’une liaison dont elle avait eu connaissance en lisant ses courriels.
À lire aussi
Entretien. « Il faut se méfier des discours colportés par les géants de l’IA »
Alors on voit certains pontes de l’IA, d’ordinaire enclins à l’optimisme technologique, commencer à s’inquiéter. Geoffrey Hinton, par exemple, qui est considéré comme un des pères de l’IA – il a reçu le prix Nobel de physique en 2024 pour avoir conçu les premiers réseaux neuronaux capables d’apprentissage profond. Le 12 août dernier, lors d’un rassemblement de la tech à Las Vegas, Hinton a déclaré que, pour empêcher les IA de nous éliminer, il faudrait les doter d’un « instinct maternel ». Il a ajouté qu’il ne savait pas bien comment cela était possible techniquement, mais il a encouragé les chercheurs à y travailler.
Instinct maternel
Alors j’aimerais questionner Geoffrey Hinton sur sa conception du maternel. J’aimerais bien en savoir plus sur sa mère. Il semble que le brillant ingénieur n’ait pas lu Simone de Beauvoir : elle soutenait que l’instinct maternel, ça n’existe pas. Les comportements maternels sont transmis. Et parfois ne sont pas transmis. Ça n’est pas inné. Notamment ce qu’on appelle le « holding », le fait de bien tenir un bébé dans ses bras. Ça se ressent, ça s’apprend : si une femme n’a pas éprouvé ce holding quand elle était bébé, elle peut être en difficulté pour s’ajuster aux besoins de son enfant.
Et puis Geoffrey Hinton semble ignorer que les mères ne sont pas toutes protectrices. Loin de là. C’est pour ça que l’aide sociale à l’enfance est débordée. Quand on travaille en psychiatrie infanto-juvénile, on sait l’étendue des mauvais traitements dont sont capables certaines mères : il ne suffit pas de mettre au monde un enfant pour avoir envie de s’en occuper. Sans aller jusqu’à la violence froide de Véronique Courjault, il y a tout un tas de gestes de mères qui peuvent surprendre le sens commun. Pour une femme psychotique, le fait qu’un petit être pousse en elle n’est pas forcément heureux, et le fait qu’il se détache d’elle au moment de l’accouchement peut être aussi violent que de lui arracher un bras. Les décompensations post-partum sont aussi variables qu’il y a de possibilités d’envisager cet étrange objet que l’on voit sortir de ses entrailles. Après l’accouchement, une mère peut plonger dans une mélancolie paralysante, qui la rend absolument indisponible à son enfant. Envahie par ses cris, une mère est capable de jeter son bébé par la fenêtre ; ou alors de faire tout ce qui est possible pour entraver son développement.
Voilà pourquoi je trouve Geoffrey Hinton très naïf. À vouloir plaquer du maternel sur les algorithmes, à simuler un « instinct maternel » sans confrontation au réel du corps, sans nouage avec le symbolique et l’imaginaire, on risque de fabriquer des mères particulièrement froides. Par souci de perfection, une IA maternelle pourrait bien être encore plus pressée de nous éliminer.
