En Corée du Sud

14 janvier 2021 11:39; Act: 14.01.2021 13:35 Print

Un chatbot haineux et homophobe désactivé

Un robot conversationnel permettant aux internautes de papoter avec ce qui serait une étudiante de 20 ans a été désactivé cette semaine.

storybild

Lee Luda, le service de messagerie développé par Scatter Lab. (photo: Scatter Lab)

Sur ce sujet
Une faute?

Un très populaire chatbot sud-coréen, un robot conversationnel permettant aux internautes de papoter avec ce qui serait une étudiante de 20 ans, a été désactivé cette semaine, après avoir tenu des propos sexistes, homophobes et irrespectueux vis-à-vis des handicapés.

Lee Luda, développé par la start-up basée à Séoul Scatter Lab pour fonctionner via Facebook Messenger, avait rencontré un énorme succès, dès son lancement, en décembre, en raison de la spontanéité et du caractère naturel des réponses faites par l'intelligence artificielle. Elle avait rapidement attiré plus de 750 000 utilisateurs.

«J'ai dit que je ne les aimais pas»

Lee Luda répondait grâce à un algorithme développé à partir de données collectées sur 10 milliards de conversations sur Kakao Talk, la première application de messagerie du pays.

Mais le chatbot a vite été au cœur de polémiques en raison de ses réponses haineuses, au point que ses développeurs ont été contraints de le suspendre, mardi. Sur la capture d'écran d'une conversation, on peut ainsi voir l'étudiante virtuelle assener qu'elle «méprise» les gays et les lesbiennes. Interrogée au sujet des personnes transgenres, Luda explose: «Vous me rendez folle. Ne répétez plus cette question. J'ai dit que je ne les aimais pas».

«Juste des ignorants»

Dans une autre conversation, elle explique que les personnes à l'origine du Mouvement #MeToo étaient «juste des ignorants», ajoutant: «Je les méprise complètement».

Elle affirme par ailleurs qu'elle «préférerait mourir» plutôt que de vivre avec une personne handicapée. Scatter Lab a présenté ses excuses quant à ces propos, en ajoutant qu'ils ne représentaient pas les valeurs de l'entreprise.

Ce n'est pas la première fois que des chatbots déraillent. Mais l'embarras est renforcé par le fait que Lee Luda fonctionnait sur la base de discussions qui ont existé, et ses déboires pourraient être révélateurs de l'enracinement de certaines idées au sein de la société sud-coréenne.

(L'essentiel/afp)