La propuesta federal de seguridad de IA atribuida a Anthropic está siendo criticada tanto por defensores de la seguridad como por un competidor. El relato proporcionado describe las revisiones previstas por Anthony Cimino, responsable de asuntos federales, las críticas de Nathan Calvin, de Encode AI, y una declaración sobre gobernanza de Chris Lehane, de OpenAI.
El informe de Semafor del 20 de octubre confirma la disputa general: un borrador que circulaba se hizo público, Anthropic habló de cambios y los críticos cuestionaron su tratamiento de las competencias estatales y del riesgo catastrófico. Esto sigue siendo un debate sobre una propuesta, no una nueva ley en vigor.
Ilustración de la página de AREX/BAAI Hub proporcionada; no es una imagen de un documento legislativo.
La fuente afirma que Politico reveló el borrador el 16 de octubre. Lo describe como una versión legislativa del Advanced AI Framework de Anthropic, con un proceso federal para restringir modelos peligrosos y requisitos de evaluación externa.
Varios detalles descritos en los informes son especialmente relevantes:
| Tema | Descripción en la información proporcionada | Límite de la evidencia |
|---|---|---|
| Umbral de riesgo | Riesgo inminente de más de 50 muertes o lesiones graves, o de más de 1.000 millones de dólares en daños. | La cláusula completa y sus definiciones no se contrastaron con el texto del borrador. |
| Procedimiento de restricción | Una solicitud gubernamental que requeriría la aprobación de un juez federal en Washington, D. C. | Las descripciones del procedimiento proceden de informes periodísticos, no de un proyecto de ley final verificado. |
| Supervisión de los evaluadores | Registro ante el Departamento de Comercio, independencia pese al pago por parte del desarrollador y notificación en un plazo de 72 horas después de una evaluación que determine el riesgo inminente especificado. | El desencadenante no se describe como una obligación general de notificar en 72 horas después de cada evaluación. |
| Tratamiento de la legislación estatal | Las normas federales desplazarían parte de las competencias estatales. | El alcance exacto es objeto de controversia y se han propuesto revisiones. |
Los umbrales descritos se refieren a un mecanismo de intervención propuesto. No significan que los daños menores sean legales, aceptables o estén exentos de cualquier otra obligación jurídica.
Revisiones previstas sobre la prelación y los umbrales de riesgo
La prelación normativa se refiere a las situaciones en las que la legislación federal desplaza la legislación estatal. En este caso, el desacuerdo se centra en qué facultades de seguridad de la IA conservarían los estados después de la adopción de un marco federal.
El marco público de Anthropic afirma que el Congreso solo debería desplazar las normas estatales de seguridad mediante una legislación federal suficientemente sólida y describe ese desplazamiento previsto como limitado. Señala que los estados deberían conservar autoridad sobre los asuntos que queden fuera de las funciones de seguridad específicas del marco federal, incluida la seguridad infantil y la protección de los consumidores.
El relato proporcionado afirma que Cimino pretende aclarar que los estados conservarán funciones importantes relacionadas con los evaluadores independientes y la supervisión de la capacidad de los laboratorios para detener modelos. Su explicación, según los informes, también reconoce que algunos legisladores quieren una ley que resuelva la superposición de competencias regulatorias.
La fuente atribuye el umbral de riesgo propuesto a una norma vigente en California y afirma que Cimino considera que merece una nueva evaluación. Sin el texto completo de la propuesta y la disposición exacta de la legislación estatal para compararlos, este relato no debe tomarse como prueba de que ambos funcionan de forma idéntica.
Información y autonomía de los evaluadores
Según el relato proporcionado, las actualizaciones propuestas también abordan el uso interno peligroso, las brechas de contención y el acceso a sistemas externos. Describe trabajos adicionales sobre las obligaciones de notificación de incidentes, los estándares para evaluadores y la prevención de la “selección interesada de evaluadores”, mediante la cual los desarrolladores buscan al revisor más favorable.
Estas preocupaciones coinciden con el requisito más amplio de evaluación independiente cualificada incluido en el marco público. Su agenda declarada incluye resúmenes de seguridad publicados, informes periódicos sobre riesgos y programas de seguridad más sólidos para los desarrolladores de modelos de frontera.
El marco también establece un alcance propuesto: modelos entrenados con más de 10²⁵ FLOPs y desarrollados por empresas que superen determinados umbrales de ingresos procedentes de la IA o de gasto en investigación. Estos criterios del marco no deben sustituirse silenciosamente por el alcance del borrador legislativo filtrado, que es un documento separado.
El argumento a favor de facultades de emergencia con salvaguardas
El relato proporcionado describe a Cimino defendiendo un mecanismo supervisado por un tribunal como un equilibrio entre la intervención rápida y la prevención de abusos. La tensión política principal consiste en determinar cómo puede actuar una autoridad antes de que ocurra un daño catastrófico y, al mismo tiempo, rendir cuentas por una restricción equivocada.
El marco público de Anthropic propone otorgar al gobierno autoridad para bloquear o disuadir despliegues peligrosos, junto con salvaguardas frente a un poder regulatorio excesivo. También aborda la transparencia, la seguridad de los modelos y medidas de resiliencia más amplias frente a riesgos biológicos, cibernéticos y de pérdida de control.
Ese marco público establece la posición política de la empresa. No determina si el lenguaje jurídico del borrador filtrado aplica eficazmente dicha posición.
La fuente afirma que las propuestas para controlar el ritmo del desarrollo de frontera aún se estaban estudiando, en lugar de haberse traducido ya por completo a un texto legislativo. Una propuesta para estudiar una futura política sobre el ritmo de desarrollo es distinta de un límite actual y exigible al desarrollo de modelos.
Los críticos cuestionan el equilibrio y el proceso de elaboración normativa
La fuente atribuye dos objeciones centrales a Nathan Calvin: que el lenguaje sobre la prelación es demasiado amplio y que el estándar federal de intervención es demasiado difícil de cumplir. También recoge preocupaciones sobre las facultades de los tribunales estatales, la exigencia de demostrar un daño inminente y el tratamiento que hace el tribunal del análisis del gobierno.
Crea un sitio de presentacion y capta leads en minutos
Describe tu idea una vez y We0 AI puede generar un sitio de presentacion, paginas y CMS, y ayudarte a atraer clientes y trafico tras el lanzamiento.
Una generación completa de proyectos para registro gratuito
Lo mejor para probar un flujo de generación completo y ver rápidamente el primer borrador del proyecto.
Estas son interpretaciones del borrador realizadas por un crítico. Como el documento completo no estaba disponible para esta cobertura, no deben presentarse como conclusiones resueltas sobre sus efectos jurídicos.
La posición separada de Lehane, según informó Semafor, apoya unos estándares nacionales de seguridad y, al mismo tiempo, subraya la toma de decisiones democrática. Su declaración sostiene que los funcionarios elegidos deben liderar el proceso y que ninguna empresa, incluida OpenAI, debería redactar las normas por sí sola.
El relato proporcionado relaciona esa declaración con el apoyo a una FRONTIER Act bipartidista. Esa referencia no demuestra que el borrador que circuló Anthropic sea el mismo proyecto de ley, que cualquiera de los dos haya sido aprobado ni que todos los participantes estén de acuerdo sobre los detalles.
La comparación de Semafor entre las estrategias de las empresas en Washington es un análisis editorial. Debe mantenerse separada de los hechos más limitados: circuló un borrador, surgieron críticas y se debatieron cambios. Las referencias de la fuente a otras disputas entre gobiernos y empresas no determinan los méritos jurídicos de estas disposiciones.
Los cambios siguen siendo prospectivos
La fuente proporcionada afirma que las revisiones anunciadas todavía no habían aparecido en un texto público completo que sustituyera al anterior. Por ello, ni los cambios previstos sobre la prelación ni un umbral revisado pueden tratarse como un texto definitivo.
Su descripción del calendario del Congreso tampoco demuestra que ninguna ley federal se aplique a la IA. Las leyes existentes pueden aplicarse a conductas relacionadas con la IA incluso sin una ley integral de seguridad para modelos de frontera.
Los siguientes documentos útiles serían el borrador revisado, un proyecto de ley presentado formalmente y sus definiciones y estado legislativo claramente identificados. Estos materiales permitirían comparar directamente las competencias estatales, los estándares de intervención de emergencia, las obligaciones de los evaluadores y cualquier propuesta sobre el ritmo de desarrollo.
Preguntas frecuentes
¿El supuesto borrador de seguridad de IA de Anthropic ya es ley?
La información periodística proporcionada describe una propuesta que circulaba. No demuestra que haya sido aprobada ni que dicha propuesta haya creado una obligación vigente.
¿Qué significa aquí la prelación de la legislación estatal?
Se refiere a que las normas federales desplazan parte de las competencias estatales. La cuestión controvertida es hasta dónde llegaría ese desplazamiento y qué facultades de seguridad conservarían los estados.
¿El umbral descrito permite causar daños por debajo de ese nivel?
La información periodística no permite extraer esa conclusión. El umbral de una facultad de intervención propuesta es distinto del alcance de otras leyes y obligaciones.
¿Los cambios previstos ya están escritos en un proyecto de ley final?
No se obtuvo un texto legislativo revisado y completo para esta cobertura. Las declaraciones sobre cambios previstos deben mantenerse separadas del texto aprobado o definitivo.
¿Por qué es controvertida la evaluación independiente?
Los revisores necesitan acceso y experiencia suficientes para evaluar los riesgos, pero deben mantener su independencia respecto de los desarrolladores que pagan por su trabajo. La fuente recoge la preocupación de que los desarrolladores puedan buscar evaluadores favorables en lugar de un escrutinio riguroso.
¿OpenAI dijo que las empresas no deberían tener ningún papel en la política pública?
La declaración citada pide que los funcionarios elegidos y los procesos democráticos lideren el proceso. Su objeción se dirige a que una sola empresa redacte las normas por sí sola, no a prohibir la participación del sector.
Herramientas relacionadas
- Congress.gov: El servicio oficial para consultar proyectos de ley federales presentados, sus textos y su estado legislativo.
- Federal Register: La publicación oficial para consultar la elaboración de normas y los avisos de las agencias federales.
Enlaces relacionados
- Artículo de AREX proporcionado en BAAI Hub: La recopilación que motivó esta cobertura, incluidas sus limitaciones de fuentes.
- Marco de política pública de Anthropic: La posición publicada por la empresa sobre la gobernanza de la IA de frontera y la prelación de la legislación estatal.
- Informe de Semafor del 20 de octubre: Información sobre el borrador filtrado y el desacuerdo posterior.
- Respuesta de Anthony Cimino incluida en las fuentes: La declaración social citada por AREX; la recuperación directa fue bloqueada durante la verificación.
- Crítica de Nathan Calvin incluida en las fuentes: La crítica mencionada en el relato proporcionado.
- Declaración de Chris Lehane sobre gobernanza: La declaración de LinkedIn enlazada tanto por AREX como por Semafor.
Resumen
La disputa se centra en la relación entre un proceso federal de intervención y las competencias estatales existentes, así como en si los revisores y reguladores podrían actuar de manera eficaz. Anthropic ha hablado de cambios, mientras los críticos cuestionan el equilibrio del borrador y OpenAI enfatiza el liderazgo de los funcionarios elegidos.
Una propuesta que circula y la promesa de revisarla no constituyen una nueva ley; el texto revisado real y el estado legislativo siguen siendo esenciales para evaluar sus efectos.
