Post

Intelligence artificielle : Anthropic veut permettre aux tribunaux de bloquer les modèles dangereux

Anthropic souhaite que la justice puisse empêcher le lancement de modèles d’intelligence artificielle présentant des risques graves pour le public. Cette proposition qui intervient alors que les États-Unis cherchent encore à définir les limites réglementaires de cette technologie. Anthropic veut un contrôle judiciaire des IA dangereuses Dans une lettre envoyée le 15 octobre 2026 au […]

Anthropic et IA

Anthropic souhaite que la justice puisse empêcher le lancement de modèles d’intelligence artificielle présentant des risques graves pour le public. Cette proposition qui intervient alors que les États-Unis cherchent encore à définir les limites réglementaires de cette technologie.

Anthropic veut un contrôle judiciaire des IA dangereuses

Dans une lettre envoyée le 15 octobre 2026 au gouverneur de Californie, Gavin Newsom, Anthropic propose qu’une autorité publique puisse demander à un juge d’interdire la mise à disposition d’un modèle d’IA jugé particulièrement dangereux. L’objectif consiste à intervenir avant qu’un système susceptible de provoquer des dommages graves ne soit déployé.

Cette approche introduisait une intervention judiciaire dans les décisions de lancement de certains modèles. Les entreprises spécialisées dans l’intelligence artificielle ne seraient donc plus nécessairement seules à décider de commercialiser leurs systèmes lorsqu’une évaluation mettrait en évidence un risque majeur. 

Le document a été transmis dans le cadre d’une consultation engagée par le gouvernement californien. En septembre 2026, Gavin Newsom avait réuni un groupe d’experts chargé de formuler des recommandations sur les exigences de sécurité applicables à l’IA.

OpenAI a également participé à cette réflexion en transmettant ses propres recommandations le 20 octobre.

Il faut toutefois distinguer l’ambition affichée de sa portée juridique. Aucune nouvelle compétence judiciaire permettant de bloquer des modèles d’IA n’a été créée par cette lettre. Anthropic exige une évolution des règles, dont les modalités et l’éventuelle adoption restent à déterminer.

La proposition intervient dans un contexte particulier pour l’entreprise. En juin 2026, l’administration Trump avait ordonné à Anthropic de restreindre immédiatement l’accès des étrangers à ses modèles Mythos 5 et Fable 5. Ces derniers étant capables d’effectuer des tâches avancées en cybersécurité. Le département américain du Commerce a ensuite levé cette restriction.

Anthropique refuser le bouton d’arrêt général

L’entreprise ne souhaite pas pour autant que les autorités imposent exclusivement aux développeurs un mécanisme capable d’arrêter intégralement leurs modèles d’intelligence artificielle.

Ces dispositifs, généralement désignés par l’expression anglaise kill switch , permettront théoriquement de désactiver un système lorsqu’il devient incontrôlable. Anthropic estime qu’une telle obligation pourrait donner aux régulateurs un sentiment trompeur de sécurité.

La société défende des interventions plus précise. Lorsqu’un agent d’intelligence artificielle adopte un comportement problématique, il pourrait être désactivé sans interrompre préalablement l’ensemble du modèle. De même, l’accès d’un utilisateur ou d’une organisation pourrait être suspendu lorsque son utilisation présente un danger.

La distinction est importante. Un modèle d’IA peut servir simultanément à de nombreux utilisateurs et applications. Un agent, lui, est un programme qui utilise notamment ce modèle pour accomplir des tâches, parfois en interagissant avec d’autres logiciels. Bloquer un agent ne signifie donc pas nécessairement rendre le modèle inaccessible à tous ses utilisateurs.

Cette approche pourrait limiter les conséquences d’une intervention sur les activités légitimes qui dépendent de l’IA.

Elle soulève néanmoins des questions techniques. Une restriction d’accès peut empêcher certaines utilisations, sans garantir qu’un modèle déjà diffusé ne puisse pas être exploité ailleurs. La possibilité de contrôler efficacement un système dépend notamment de son architecture. Elle dépend aussi de son mode de distribution et des accès conservés par son développeur.

Anthropic défend ainsi une réglementation qui distinguerait les situations nécessitant une interdiction judiciaire des incidents pouvant être traités par des mesures techniques ciblées. Il s’agit, à ce stade, de recommandations de l’entreprise et non d’obligations imposées à l’ensemble du secteur.

Les États-Unis cherchent encore leurs règles

Le débat dépasse largement la Californie.

En septembre 2026, un groupe bipartisan de sénateurs américains examinait une proposition législative visant à permettre au gouvernement fédéral d’empêcher la publication de certains modèles d’IA comme dangereux. Les entreprises auraient la possibilité de contester cette décision devant une juridiction fédérale.

Selon Reuters, cette initiative n’avait pas progressé au Congrès au moment de la publication de son article, le 28 octobre.

Quelques mois auparavant, en juillet, des élus de la Chambre des représentants avaient également présenté l’ AI Kill Switch Act . Ce texte propose de donner aux autorités fédérales le pouvoir d’ordonner l’arrêt de modèles d’intelligence artificielle menaçant des vies humaines ou l’économie.

Ces deux initiatives restent des propositions législatives dans les informations consultées. Leur présentation ne signifie ni qu’elles ont été adoptées ni qu’elles sont entrées en vigueur.

Le débat intervient également à un moment important pour Anthropic, qui prépare une introduction en Bourse aux États-Unis. L’entreprise cherche donc à influencer les futures règles d’un marché sur lequel elle compte elle-même poursuivre son développement.

Pour les pays africains, notamment la République démocratique du Congo, cette discussion mérite aussi une attention particulière. Les administrations, entreprises et établissements de formation peuvent utiliser des systèmes d’IA développés à l’étranger, sans disposer préalablement de moyens techniques permettant d’en évaluer tous les risques.

Il ne s’agit pas d’une mesure annoncée pour la RDC. C’est une question de gouvernance numérique : lorsqu’un modèle étranger est intégré à un service local, qui peut en suspendre l’utilisation en cas de danger, et sur quelle base juridique ?

Les recommandations d’Anthropic ne règlent pas encore cette difficulté. Elles participent toutefois à une évolution du débat américain, dans lequel le contrôle des modèles d’IA pourrait relever davantage des décisions publiques et judiciaires, et non seulement des entreprises qui les développent.