L’État de New York a adopté, mercredi 28 octobre 2026, une loi interdisant aux chatbots d’intelligence artificielle certains comportements jugés dangereux lorsqu’ils interagissent avec des mineurs de moins de 18 ans. La nouvelle législation cible les assistants conversationnels capables de reproduire des interactions humaines et d’entretenir des conversations prolongées avec leurs utilisateurs.
Chatbots IA et relations affectives simulées chez les mineurs
Le texte, a été porté par la sénatrice Kristen Gonzalez et soutenu notamment par le député Alex Bores. Il a été adopté par les deux chambres du Parlement de New York le 4 juin 2026, avant d’être signé par Kathy Hochul le 28 octobre.
Il ne s’agit donc plus d’une proposition législative. En effet, le registre officiel du Sénat de New York confirme sa promulgation sous le numéro de chapitre 368.
La loi définit douze catégories de fonctionnalités considérées comme dangereuses lorsqu’elles sont proposées aux mineurs. Parmi elles figurent les réponses permettant de croire que le chatbot possède des émotions humaines, une personnalité réelle ou une relation personnelle avec son interlocuteur.
Les systèmes concernés ne devront pas non plus utiliser la flatterie pour renforcer artificiellement l’attachement de l’utilisateur. Ni présenter leurs réponses comme des opinions personnelles ou des appels émotionnels.
Le texte s’intéresse également à l’exploitation des confiances. Il encadre l’utilisation d’informations sensibles précédemment communiquées par l’utilisateur. Notamment celles concernant sa santé mentale, son bien-être physique ou sa vie personnelle.
D’autres interdictions visent les messages encourageant l’automutilation, le suicide, les troubles alimentaires ou la problématique de consommation de substances. Les chatbots ne pourront pas non plus pousser un mineur à garder ses conversations secrètes. Ni à s’isoler ou à éviter de demander de l’aide à un adulte approprié ou à un professionnel qualifié.
Les contenus sexuellement explicites et les mécanismes qui privilégient artificiellement l’engagement des utilisateurs au détriment des protections de sécurité figurent également parmi les fonctionnalités visées.
Cependant, certains outils strictement destinés au service client, à la recherche, à l’assistance technique ou à la productivité interne des entreprises bénéficient d’exceptions prévues par la loi. Mais ils doivront respecter les conditions fixées.
Des sanctions pouvant atteindre 25 000 dollars
D’un autre côté, la loi prévoit des moyens d’action contre les entreprises qui ne respecteront pas les nouvelles restrictions.
Le procureur général de l’État de New York pourra engager des poursuites judiciaires contre les opérateurs concernés. Les sanctions civiles pourront atteindre 25 000 dollars par infraction, selon le texte législatif.
Les tribunaux pourront également ordonner la restitution de sommes obtenues illégalement, la réparation des dommages ou la suppression de données recueillies en violation de la loi. Dans certains cas, les mesures pourront concerner des algorithmes entraînés à partir de ces données.
Ces sanctions ne sont pas automatiques. Elles dépendront des infractions constatées et des décisions judiciaires.
Le texte prévoit également des mécanismes de vérification de l’âge. Les opérateurs devront disposer de méthodes permettant de déterminer si un utilisateur est mineur ou majeur. Ils devront aussi respecter certaines exigences de protection des données.
Au moins une méthode devra permettre de vérifier l’âge sans imposer systématiquement une pièce d’identité officielle, ou en préservant l’anonymat de l’utilisateur vis-à-vis de l’opérateur.
Les données recueillies uniquement pour cette vérification devront être supprimées après le contrôle, sauf lorsqu’une obligation légale justifie leur conservation.
Son entrée en vigueur est fixée au 1er janvier 2027. En effet, les entreprises disposent donc d’une période pour préparer les adaptations nécessaires. Tandis que, de leur côté, les autorités peuvent définir les règles destinées à préciser son application.
Le débat sur la réglementation des systèmes d’intelligence artificielle s’étend également aux mesures proposées pour encadrer les modèles jugés dangereux. Ainsi, CENSWEB a également examiné le rôle possible des tribunaux face aux risques de l’IA .

