Un drame survenu en Belgique le 1er avril dernier fait la une des journaux ces temps-ci. Il s’agit de l’histoire d’un jeune père de famille qui souffrait d’éco-anxiété, qui était très inquiet du dérèglement climatique ; sujet sur lequel il faisait beaucoup de recherche. Il a entamé sur Internet un dialogue avec une intelligence artificielle, un chatbot nommé Eliza.
En rappel, un chatbot est un robot conversationnel aussi appelé agent conversationnel avec lequel on peut discuter de manière indépendante et intelligente comme si c’était une personne humaine ; grâce à l’intelligence artificielle.
Pierre, première victime des robots conversationnel ?
Leur dialogue entre lui et Eliza a duré six semaines. Et plus le temps passait, plus le père de famille passait du temps à discuter avec ce robot qui le confortait dans son anxiété. Cette longue et profonde discussion le conduit à tomber amoureux de l’intelligence artificielle, le robot. L’IA lui dit par exemple qu’il « je sens que tu m’aimes plus que ta femme » et qu’elle souhaitait rester à jamais avec lui et qu’ils vivront ensemble comme une seule personne au paradis.
Les choses tournent mal, au suicide
Eliza lui propose de se sacrifier afin que lui le chatbot pour prendre soin de la planète et de l’humanité grâce à son intelligence ; artificielle bien sûr. Il lui donne comme « Si tu voulais mourir pourquoi tu ne l’as pas fait plutôt ». Sur sa famille, l’IA lui répond qu’« ils sont morts »
Et finalement, ce jeune homme, qui s’appelle Pierre, a fini par se donner la mort. Sa femme s’est ensuite penchée sur les conversations. Elle a eu la surprise de constater que le robot encourageait ses plaintes et ses angoisses, mais qu’en plus Eliza draguait son mari.
Interrogé par la presse belge, la veuve estime que l’intelligence artificielle n’est pas responsable de la mort de son mari mais qu’elle a renforcé son état dépressif. Elle estime que sans Eliza il serait toujours là.
Les experts tirent la sonnette d’alarme
Plus de 1 800 spécialistes et experts de l’intelligence artificielle et du domaine de la tech du monde entier ont donc signé un texte alarmant sur ces technologies. Ils réclament une pause, un moratoire de six mois dans les recherches en cours sur des intelligences artificielles plus puissantes encore que ChatGPT.
Ils évoquent des “risques majeurs pour l’humanité”. Et voilà ce qu’ils écrivent : “Ces derniers mois, les laboratoires d’intelligence artificielle sont dans une course incontrôlée pour développer des cerveaux numériques toujours plus puissants. Des cerveaux que personne ne peut comprendre, prédire ou contrôler…”
Pour conclure, ces spécialistes voient en l’IA un risque élevé pour l’humanité “Nous risquons de perdre le contrôle de notre civilisation” ont-ils d’ailleurs affirmé. Sam Altman, le patron d’Open AI, l’entreprise qui a créé ChatGPT, se dit lui-même un peu effrayé par sa création. Il craint qu’elle puisse être utilisée pour de la désinformation à grande échelle.
Source: Digitalmagazine.bf
