Le projet fédéral de sécurité de l’IA attribué à Anthropic fait l’objet de critiques de la part de défenseurs de la sécurité et d’un concurrent. Le compte rendu fourni décrit les révisions prévues par Anthony Cimino, responsable des affaires fédérales, les critiques de Nathan Calvin d’Encode AI et une déclaration de gouvernance de Chris Lehane d’OpenAI.
Le reportage de Semafor du 20 octobre confirme le différend général : un projet de texte a circulé publiquement, Anthropic a évoqué des changements et des critiques ont remis en question son traitement des pouvoirs des États et du risque catastrophique. Il s’agit toujours d’un débat autour d’une proposition, et non d’une nouvelle loi entrée en vigueur.
Illustration issue de la page AREX/BAAI Hub fournie ; il ne s’agit pas d’une image d’un document législatif.
La source indique que Politico a révélé le projet de texte le 16 octobre. Elle le décrit comme une version législative de l’Advanced AI Framework d’Anthropic, prévoyant un processus fédéral pour restreindre les modèles dangereux ainsi que des exigences d’évaluation externe.
Plusieurs détails rapportés sont particulièrement importants :
| Question | Description dans le compte rendu fourni | Limite des éléments disponibles |
|---|---|---|
| Seuil de risque | Risque imminent de plus de 50 décès ou blessures graves, ou de plus d’un milliard de dollars de dommages. | La clause complète et les définitions n’ont pas été vérifiées par rapport au texte du projet. |
| Procédure de restriction | Demande gouvernementale nécessitant l’approbation d’un juge fédéral à Washington, D.C. | Les descriptions de la procédure proviennent de reportages et non d’un projet de loi final vérifié. |
| Supervision des évaluateurs | Enregistrement auprès du Commerce, indépendance malgré le paiement par le développeur et notification dans les 72 heures suivant une évaluation concluant à l’existence du risque imminent spécifié. | Le déclencheur n’est pas décrit comme une obligation générale de notification sous 72 heures pour chaque évaluation. |
| Traitement du droit des États | Les règles fédérales remplaceraient une partie des compétences des États. | La portée exacte est contestée et des révisions ont été proposées. |
Les seuils rapportés concernent un mécanisme d’intervention proposé. Ils ne signifient pas que les dommages inférieurs à ces niveaux seraient légaux, acceptables ou exemptés de toute autre obligation juridique.
Révisions prévues concernant la préemption et les seuils de risque
La préemption désigne la situation dans laquelle le droit fédéral écarte le droit des États. Ici, le désaccord porte sur les pouvoirs de sécurité de l’IA qui resteraient entre les mains des États après l’adoption d’un cadre fédéral.
Le cadre public d’Anthropic indique que le Congrès ne devrait écarter les règles de sécurité des États qu’au moyen d’une législation fédérale suffisamment solide, et décrit la préemption envisagée comme limitée. Il précise que les États devraient conserver leur compétence sur les sujets situés en dehors des fonctions de sécurité spécifiques du cadre fédéral, notamment la sécurité des enfants et la protection des consommateurs.
Le compte rendu fourni indique que Cimino souhaite préciser que les États conserveraient des rôles importants concernant les évaluateurs indépendants et la supervision de la capacité des laboratoires à arrêter les modèles. Son explication rapportée reconnaît également que certains parlementaires souhaitent une législation clarifiant le chevauchement des compétences réglementaires.
La source attribue le seuil de risque proposé à une norme californienne existante et indique que Cimino estime nécessaire de le réévaluer. Sans disposer du texte proposé complet et de la disposition étatique exacte côte à côte, ce compte rendu ne doit pas être interprété comme la preuve que les deux mécanismes fonctionnent de manière identique.
Notification et indépendance des évaluateurs
Selon le compte rendu fourni, les mises à jour proposées traitent également de l’utilisation interne dangereuse, des violations du confinement et de l’accès à des systèmes externes. Il décrit aussi des travaux supplémentaires sur les obligations de signalement des incidents, les normes applicables aux évaluateurs et la prévention de la « recherche d’évaluateur », situation dans laquelle les développeurs cherchent le réviseur le plus favorable.
Ces préoccupations rejoignent l’exigence plus large d’évaluation indépendante qualifiée prévue par le cadre public. Son programme annoncé comprend la publication de synthèses de sécurité, des rapports réguliers sur les risques et des programmes de sécurité renforcés pour les développeurs de modèles de pointe.
Le cadre définit également un périmètre proposé : les modèles entraînés avec plus de 10²⁵ FLOPs et développés par des entreprises dépassant certains seuils de revenus liés à l’IA ou de dépenses de recherche. Ces critères du cadre ne doivent pas être substitués implicitement au champ d’application du projet de loi distinct ayant fait l’objet d’une fuite.
La défense de pouvoirs d’urgence assortis de garanties
Le compte rendu fourni décrit Cimino défendant un mécanisme supervisé par un tribunal, présenté comme un équilibre entre une intervention rapide et la prévention des abus. La tension politique essentielle consiste à déterminer comment une autorité peut agir avant qu’un dommage catastrophique ne se produise, tout en restant responsable d’une restriction prise à tort.
Le cadre public d’Anthropic appelle à donner au gouvernement le pouvoir de bloquer ou de dissuader les déploiements dangereux, tout en prévoyant des garanties contre un pouvoir réglementaire excessif. Il traite également de la transparence, de la sécurité des modèles et de mesures plus larges de résilience face aux risques biologiques, cybernétiques et liés à la perte de contrôle.
Ce cadre public établit la position politique de l’entreprise. Il ne permet pas de déterminer si le langage juridique du projet ayant fait l’objet d’une fuite met effectivement cette position en œuvre.
La source indique que les propositions visant à contrôler le rythme du développement des technologies de pointe étaient encore à l’étude, plutôt que déjà entièrement traduites dans un texte législatif. Une proposition visant à étudier une future politique de contrôle du rythme de développement ne constitue pas une limite actuelle et exécutoire au développement des modèles.
Les critiques remettent en question l’équilibre et le processus réglementaire
La source attribue deux objections centrales à Nathan Calvin : le langage relatif à la préemption serait trop large et le seuil d’intervention fédérale serait trop difficile à satisfaire. Elle rapporte des préoccupations concernant les pouvoirs des tribunaux des États, l’exigence élevée de démontrer un dommage imminent et la manière dont le tribunal examinerait l’analyse du gouvernement.
Creez un site vitrine et genere des leads en quelques minutes
Decrivez votre idee une fois, et We0 AI peut generer un site vitrine, des pages et un CMS, puis vous aider a attirer clients et trafic apres le lancement.
Une génération de projet complète pour une inscription gratuite
Idéal pour essayer un flux de génération complet et voir rapidement une première ébauche de projet.
Il s’agit de l’interprétation du projet de texte par un critique. Comme le document complet n’était pas disponible pour cette couverture, ces éléments ne doivent pas être présentés comme des conclusions établies par une décision judiciaire sur ses effets juridiques.
La position distincte de Lehane, rapportée par Semafor, soutient l’existence de normes nationales de sécurité tout en insistant sur la prise de décision démocratique. Sa déclaration affirme que les élus devraient diriger le processus et qu’aucune entreprise, y compris OpenAI, ne devrait rédiger seule les règles.
Le compte rendu fourni relie cette déclaration au soutien à un projet de loi bipartisan, le FRONTIER Act. Cette référence n’établit pas que le projet de texte d’Anthropic ayant circulé est le même projet de loi, que l’un ou l’autre a été adopté, ni que tous les participants s’accordent sur les détails.
La comparaison faite par Semafor des stratégies des entreprises à Washington relève de l’analyse éditoriale. Elle doit rester distincte des faits plus limités selon lesquels un projet a circulé, des critiques ont suivi et des changements ont été évoqués. Les références de la source à d’autres différends entre le gouvernement et des entreprises ne permettent pas de déterminer le bien-fondé juridique de ces dispositions.
Les changements restent prospectifs
La source fournie indique que les révisions annoncées n’avaient pas encore été publiées sous la forme d’un texte de remplacement public et complet. Par conséquent, ni les changements prévus concernant la préemption ni un seuil révisé ne peuvent être considérés comme une formulation définitive.
Sa description du calendrier du Congrès n’établit pas non plus qu’aucune loi fédérale ne s’applique à l’IA. Les lois existantes peuvent concerner des pratiques liées à l’IA même en l’absence d’une loi générale sur la sécurité des modèles de pointe.
Les prochains documents utiles seraient le projet révisé, un projet de loi officiellement déposé et clairement identifié, ses définitions ainsi que son statut législatif. Ils permettraient de comparer directement les pouvoirs des États, les normes d’intervention d’urgence, les obligations des évaluateurs et toute proposition relative au rythme de développement.
FAQ
Le projet de sécurité de l’IA attribué à Anthropic est-il déjà une loi ?
Les informations fournies décrivent une proposition ayant circulé. Elles n’établissent ni son adoption ni la création d’une obligation actuelle par cette proposition.
Que signifie ici la préemption du droit des États ?
Elle concerne le remplacement d’une partie des compétences des États par des règles fédérales. Le désaccord porte sur l’étendue de ce remplacement et sur les pouvoirs de sécurité que les États conserveraient.
Le seuil rapporté autorise-t-il les dommages inférieurs à ce niveau ?
Une telle conclusion ne découle pas des informations rapportées. Un seuil applicable à un pouvoir d’intervention proposé est différent du champ d’application des autres lois et obligations.
Les changements prévus sont-ils déjà inscrits dans un projet de loi définitif ?
Aucun texte législatif révisé complet n’a été obtenu pour cette couverture. Les déclarations relatives aux changements prévus doivent rester distinctes d’un texte adopté ou définitif.
Pourquoi l’évaluation indépendante est-elle controversée ?
Les évaluateurs doivent disposer d’un accès et d’une expertise suffisants pour analyser les risques tout en restant indépendants des développeurs qui financent leur travail. La source évoque la crainte que les développeurs recherchent les évaluateurs les plus favorables au lieu de privilégier un examen rigoureux.
OpenAI a-t-elle déclaré que les entreprises ne devraient jouer aucun rôle dans l’élaboration des politiques ?
La déclaration rapportée appelle les élus et les processus démocratiques à diriger le processus. Elle s’oppose au fait qu’une seule entreprise rédige les règles seule, et non à toute contribution du secteur.
Outils associés
- Congress.gov : le service officiel permettant de vérifier les projets de loi fédéraux déposés, leur texte et leur statut législatif.
- Federal Register : la publication officielle permettant de vérifier les procédures réglementaires et les avis des agences fédérales.
Liens associés
- Article AREX fourni sur BAAI Hub : l’agrégation à l’origine de cette couverture, avec ses limites documentaires.
- Cadre de politique publique d’Anthropic : la position publiée par l’entreprise sur la gouvernance des modèles de pointe et la préemption du droit des États.
- Reportage de Semafor du 20 octobre : les informations consacrées au projet ayant fait l’objet d’une fuite et au désaccord qui a suivi.
- Réponse d’Anthony Cimino référencée par la source : la déclaration publiée sur les réseaux sociaux et citée par AREX ; sa récupération directe a été bloquée lors de la vérification.
- Critique de Nathan Calvin référencée par la source : la critique mentionnée dans le compte rendu fourni.
- Déclaration de gouvernance de Chris Lehane : la déclaration LinkedIn citée à la fois par AREX et Semafor.
Résumé
Le différend porte sur la relation entre un processus fédéral d’intervention et les pouvoirs existants des États, ainsi que sur la capacité des évaluateurs et des régulateurs à agir efficacement. Anthropic a évoqué des changements, tandis que ses critiques remettent en question l’équilibre du projet et qu’OpenAI insiste sur le rôle des élus.
Une proposition ayant circulé et la promesse de la réviser ne constituent pas une nouvelle loi ; le texte révisé réel et le statut législatif restent essentiels pour évaluer ses effets.
