A proposta federal de segurança de IA da Anthropic, segundo relatos, vem recebendo críticas de defensores da segurança e de um concorrente. O relato fornecido descreve revisões planejadas pelo responsável por assuntos federais, Anthony Cimino, críticas de Nathan Calvin, da Encode AI, e uma declaração de governança de Chris Lehane, da OpenAI.
A reportagem da Semafor de 20 de outubro confirma a controvérsia mais ampla: um rascunho que circulava tornou-se público, a Anthropic discutiu mudanças e críticos questionaram o tratamento dado aos poderes estaduais e ao risco catastrófico. Isso continua sendo um debate sobre uma proposta, e não uma nova lei em vigor.
Ilustração da página fornecida do AREX/BAAI Hub; não é uma imagem de um documento legislativo.
A fonte informa que a Politico divulgou o rascunho em 16 de outubro. O texto descreve uma versão legislativa do Advanced AI Framework da Anthropic, com um processo federal para restringir modelos perigosos e exigências de avaliação externa.
Vários detalhes relatados são especialmente relevantes:
| Questão | Descrição no relato fornecido | Limite da evidência |
|---|---|---|
| Limiar de risco | Risco iminente de mais de 50 mortes ou lesões graves, ou de mais de US$ 1 bilhão em danos. | A cláusula completa e as definições não foram verificadas no texto do rascunho. |
| Procedimento de restrição | Uma solicitação do governo que exigiria aprovação de um juiz federal em Washington, DC. | As descrições processuais vêm de reportagens, e não de um projeto de lei final verificado. |
| Supervisão dos avaliadores | Registro no Departamento de Comércio, independência apesar do pagamento pelos desenvolvedores e notificação em até 72 horas após uma avaliação identificar o risco iminente especificado. | O gatilho não é descrito como uma obrigação geral de 72 horas para toda avaliação. |
| Tratamento das leis estaduais | As regras federais substituiriam parte da autoridade dos estados. | O escopo exato é contestado e foram propostas revisões. |
Os limiares relatados dizem respeito a um mecanismo de intervenção proposto. Eles não significam que danos menores sejam legais, aceitáveis ou isentos de todas as demais obrigações jurídicas.
Revisões planejadas para a preempção e os limiares de risco
A preempção diz respeito às situações em que a lei federal substitui a legislação estadual. Neste caso, a divergência envolve quais poderes de segurança de IA permaneceriam com os estados após a adoção de uma estrutura federal.
A estrutura pública da Anthropic afirma que o Congresso deveria substituir regras estaduais de segurança somente por meio de uma legislação federal suficientemente forte e descreve essa substituição pretendida como limitada. O documento afirma que os estados deveriam manter autoridade sobre assuntos fora das funções específicas de segurança da estrutura federal, incluindo segurança infantil e proteção do consumidor.
O relato fornecido afirma que Cimino pretende esclarecer que os estados manteriam funções importantes relacionadas a avaliadores independentes e à supervisão da capacidade dos laboratórios de interromper modelos. A explicação atribuída a ele também reconhece que alguns legisladores querem uma legislação que resolva a sobreposição de competências regulatórias.
A fonte atribui o limiar de risco proposto a um padrão existente da Califórnia e afirma que Cimino considera necessário reavaliá-lo. Sem o texto completo da proposta e a disposição exata da legislação estadual lado a lado, esse relato não deve ser considerado prova de que os dois funcionam de forma idêntica.
Relatórios e independência dos avaliadores
Segundo o relato fornecido, as atualizações propostas também tratam do uso interno perigoso, de violações da contenção e do acesso a sistemas externos. O texto descreve trabalhos adicionais sobre obrigações de comunicação de incidentes, padrões para avaliadores e prevenção da “escolha conveniente de avaliadores”, situação em que os desenvolvedores procuram o revisor mais favorável.
Essas preocupações estão alinhadas à exigência mais ampla de avaliação independente qualificada presente na estrutura pública. A agenda declarada inclui resumos de segurança publicados, relatórios periódicos de risco e programas de segurança mais robustos para desenvolvedores de fronteira.
A estrutura também define um escopo proposto: modelos treinados com mais de 10²⁵ FLOPs, desenvolvidos por empresas que ultrapassem determinados limiares de receita de IA ou de gastos com pesquisa. Esses critérios da estrutura não devem ser silenciosamente substituídos pelo escopo do rascunho legislativo vazado separado.
O argumento a favor de poderes de emergência com salvaguardas
O relato fornecido descreve Cimino defendendo um mecanismo supervisionado por um tribunal como um equilíbrio entre intervenção rápida e prevenção de abusos. A tensão política central é como uma autoridade pode agir antes que ocorra um dano catastrófico e, ao mesmo tempo, responder por uma restrição equivocada.
A estrutura pública da Anthropic defende que o governo tenha autoridade para bloquear ou impedir implementações perigosas, juntamente com salvaguardas contra poder regulatório excessivo. Ela também aborda transparência, segurança de modelos e medidas mais amplas de resiliência contra riscos biológicos, cibernéticos e de perda de controle.
Essa estrutura pública estabelece a posição política da empresa. Ela não determina se a linguagem jurídica do rascunho vazado implementa essa posição de maneira eficaz.
A fonte afirma que as propostas para controlar o ritmo do desenvolvimento de fronteira ainda estavam sendo exploradas, em vez de já terem sido plenamente convertidas em texto legislativo. Uma proposta para estudar uma política futura de controle do ritmo é diferente de um limite atual e aplicável ao desenvolvimento de modelos.
Críticos questionam o equilíbrio e o processo de elaboração das regras
A fonte atribui duas objeções centrais a Nathan Calvin: a linguagem de preempção seria ampla demais e o padrão de intervenção federal seria difícil demais de atingir. O relato menciona preocupações sobre os poderes dos tribunais estaduais, a exigência elevada de demonstrar dano iminente e a forma como o tribunal trataria a análise do governo.
Crie um site de apresentacao e gere leads em minutos
Descreva sua ideia uma vez e o We0 AI pode gerar um site de apresentacao, paginas e CMS, alem de ajudar a atrair clientes e trafego apos o lancamento.
Uma geração completa de projetos para registro gratuito
Melhor para experimentar um fluxo de geração completo e ver rapidamente um primeiro rascunho do projeto.
Essas são interpretações de um crítico sobre o rascunho. Como o documento completo não estava disponível para esta cobertura, elas não devem ser apresentadas como conclusões judiciais sobre seus efeitos legais.
A posição separada de Lehane, conforme relatada pela Semafor, apoia padrões nacionais de segurança e, ao mesmo tempo, enfatiza a tomada de decisões democrática. Sua declaração argumenta que as autoridades eleitas devem liderar o processo e que nenhuma empresa, incluindo a OpenAI, deveria elaborar as regras sozinha.
O relato fornecido relaciona essa declaração ao apoio a uma FRONTIER Act bipartidária. Essa referência não estabelece que o rascunho divulgado da Anthropic seja o mesmo projeto de lei, que qualquer um dos dois tenha sido aprovado ou que todos os participantes concordem com os detalhes.
A comparação feita pela Semafor entre as estratégias das empresas em Washington é uma análise editorial. Ela deve permanecer distinta dos fatos mais restritos de que um rascunho circulou, críticas foram feitas e mudanças foram discutidas. As referências da fonte a outras disputas entre governos e empresas não determinam o mérito jurídico dessas disposições.
As mudanças continuam sendo prospectivas
A fonte fornecida afirma que as revisões anunciadas ainda não haviam aparecido como um texto público completo de substituição. Portanto, nem as mudanças pretendidas na preempção nem um limiar revisado podem ser tratados como redação definitiva.
A descrição do cronograma do Congresso também não estabelece que nenhuma lei federal se aplique à IA. Leis existentes podem incidir sobre condutas relacionadas à IA mesmo na ausência de uma legislação abrangente de segurança para modelos de fronteira.
Os próximos documentos mais úteis seriam o rascunho revisado, um projeto de lei formalmente apresentado e claramente identificado, suas definições e seu status legislativo. Esses materiais permitiriam uma comparação direta dos poderes estaduais, dos padrões de intervenção de emergência, das obrigações dos avaliadores e de qualquer proposta para controlar o ritmo do desenvolvimento.
Perguntas frequentes
O rascunho de segurança de IA da Anthropic já é lei?
As reportagens fornecidas descrevem uma proposta que circulava. Elas não comprovam sua aprovação nem uma obrigação vigente criada por essa proposta.
O que significa preempção da legislação estadual neste caso?
O conceito diz respeito à substituição de parte da autoridade estadual por regras federais. A questão contestada é a extensão dessa substituição e quais poderes de segurança permaneceriam com os estados.
O limiar relatado permite danos abaixo desse nível?
Nenhuma conclusão desse tipo decorre das reportagens. Um limiar para um poder de intervenção proposto é diferente do alcance de outras leis e obrigações.
As mudanças planejadas já foram incluídas em um projeto de lei final?
Não foi obtido um texto legislativo revisado completo para esta cobertura. As declarações sobre mudanças pretendidas devem permanecer separadas de uma redação aprovada ou finalizada.
Por que a avaliação independente é controversa?
Os avaliadores precisam de acesso e conhecimento suficientes para analisar os riscos, mas devem permanecer independentes dos desenvolvedores que pagam por seu trabalho. A fonte discute preocupações de que os desenvolvedores possam procurar avaliadores favoráveis em vez de uma análise rigorosa.
A OpenAI afirmou que as empresas não deveriam ter nenhum papel na formulação de políticas?
A declaração relatada defende que autoridades eleitas e processos democráticos liderem o processo. A objeção é que uma única empresa escreva as regras sozinha, e não uma proibição à participação do setor.
Ferramentas relacionadas
- Congress.gov: Serviço oficial para verificar projetos de lei federais apresentados, seus textos e seu status legislativo.
- Federal Register: Publicação oficial para consultar regulamentações e avisos de agências federais.
Links relacionados
- Artigo fornecido do AREX no BAAI Hub: Agregação que motivou esta cobertura, incluindo suas limitações de fonte.
- Estrutura de política pública da Anthropic: Posição publicada da empresa sobre governança de modelos de fronteira e preempção da legislação estadual.
- Reportagem da Semafor de 20 de outubro: Reportagem sobre o rascunho vazado e a divergência resultante.
- Resposta de Anthony Cimino indicada pela fonte: Declaração publicada em rede social citada pelo AREX; o acesso direto foi bloqueado durante a verificação.
- Crítica de Nathan Calvin indicada pela fonte: Crítica mencionada no relato fornecido.
- Declaração de governança de Chris Lehane: Declaração no LinkedIn vinculada tanto pelo AREX quanto pela Semafor.
Resumo
A controvérsia se concentra na relação entre um processo federal de intervenção e os poderes estaduais existentes, além de questionar se avaliadores e reguladores poderiam agir de forma eficaz. A Anthropic discutiu mudanças, enquanto críticos questionam o equilíbrio do rascunho e a OpenAI enfatiza a liderança de autoridades eleitas.
Uma proposta que circula e uma promessa de revisá-la não constituem uma nova lei; o texto revisado efetivo e o status legislativo continuam sendo essenciais para avaliar seus efeitos.
