Les jeunes deviennent un terrain de chasse prometteur pour les géants de l’intelligence artificielle. Mais les risques sont énormes

OpenAI a lancé de nouvelles mesures pour protéger les enfants qui utilisent ChatGPT. Mais il n’est de loin pas certain que cela empêche des dérives potentiellement gravesC’est un marché de rêve pour les géants de l’intelligence artificielle. Des centaines de millions de jeunes, accros à leur téléphone, curieux de toute innovation et férus de conversations avec des chatbots. OpenAI, Anthropic ou encore Google tentent aujourd’hui de séduire un maximum d’enfants et d’adolescents. Mais les risques de dérapage sont énormes: addiction à ces conversations avec des machines, échanges qui tournent mal et peuvent conduire à des mutilations, voire des suicides, ou encore réduction des échanges sociaux au profit des discussions avec un chatbot.Mis en cause, notamment en justice, à cause de plusieurs cas dramatiques, OpenAI a décidé de réagir. Ce mardi, l’éditeur de ChatGPT annonçait un vaste train de mesures pour tenter de sécuriser sa machine. Pour les utilisateurs qui disent avoir moins de 18 ans (ou que l’agent conversationnel estime être mineurs, en analysant les conversations), «ChatGPT ne doit pas utiliser de langage romantique, encourager la dépendance affective ni laisser entendre qu’il possède des sentiments ou une conscience», annonce OpenAI. De plus, des messages de rappel concernant le téléchargement d’images sensibles mettent désormais en garde les adolescents contre le partage d’images privées ou sensibles.Voir plus