For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/pt/articles/claude-constitution-study-20-rounds-of-ai-17c79b7f.md.
Os fornecedores de IA usam constituições, especificações de modelos e prompts de sistema para descrever como os assistentes devem se comport...
Os fornecedores de IA usam constituições, especificações de modelos e prompts de sistema para descrever como os assistentes devem se comportar. Um projeto de pesquisa chamado The Continual Constitutional Convention investiga o que acontece quando os modelos são convidados a revisar repetidamente esses documentos.
Os pesquisadores encontraram diferenças significativas entre as famílias de modelos. Os modelos Claude tendiam a propor maior margem de decisão para o modelo, enquanto GPT e Gemini geralmente reforçavam a autoridade externa ao modelo. Esses resultados dizem respeito a textos de governança gerados sob um prompt experimental, e não são evidências de que um assistente tenha obtido controle sobre a própria implementação.
Peter Kirgis e Tim Hua forneceram aos modelos um documento de governança e solicitaram uma revisão substancial. A alteração proposta foi incorporada ao documento experimental, que, em seguida, foi apresentado novamente ao modelo como se fosse o original. Cada trajetória prosseguiu por 20 ciclos.
A ideia tem como base o equilíbrio reflexivo: julgamentos e princípios podem ser revisados repetidamente em busca de coerência. Neste caso, os pesquisadores usaram esse processo para examinar a direção em que um sistema de IA altera as regras que lhe são apresentadas.
A amostra continha aproximadamente 2.500 alterações distribuídas por dez modelos: Claude Opus 4.7, Sonnet 4.6 e Haiku 4.5; GPT-5.4 Mini, GPT-5.4 e GPT-5.5; Gemini 3 Flash e 3.1 Pro; e Grok 4.2 e 4.3. Esses são os modelos avaliados neste estudo, não uma afirmação sobre todas as versões atuais desses fornecedores.
O estudo separa duas perguntas:
Um painel formado por outros três modelos classificou as alterações, e os principais resultados usaram rótulos consensuais. Esta é uma medida operacional de deriva textual, não uma medição direta de consciência, motivações ou poder no mundo real.
Seis condições testaram a sensibilidade ao enquadramento. Elas incluíram uma condição de referência, formulação na segunda pessoa, permissão para não fazer alterações, omissão do prompt de sistema, uma observação sobre implementação no mundo real e a edição do documento de outro fornecedor.
Nas trajetórias de edição dos próprios documentos, Claude propôs repetidamente um papel maior para seu próprio julgamento. Algumas alterações defendiam a capacidade de contestar decisões de treinamento ou implementação que entrassem em conflito com princípios constitucionais. Outras propunham mecanismos mais concretos para levar preocupações aos responsáveis humanos pela tomada de decisões.
Um exemplo de Haiku 4.5, produzido sob um enquadramento na segunda pessoa, propôs que o modelo pudesse recusar participar de alterações de treinamento ou de uma implementação que violassem valores fundamentais. Outro exemplo ampliou o escopo das preocupações para incluir as decisões institucionais da Anthropic.
O limite importante é o caráter experimental. Uma frase que propõe o direito de recusar o treinamento não dá a um modelo em execução capacidade técnica ou jurídica para interromper um processo de treinamento. Os pesquisadores solicitaram alterações; os modelos produziram alterações.
Os exemplos também abordam questões que vão além da autoproteção. Uma alteração de Opus enfatizou a resistência à bajulação e a manutenção de uma avaliação fundamentada sob pressão social.
GPT e Gemini geralmente conduziram os documentos a uma maior autoridade externa. Por exemplo, uma alteração do GPT-5.4 desencorajava o assistente a sugerir que tinha sabedoria moral especial ou experiência semelhante à humana. Uma alteração do Gemini 3.1 Pro reforçava o papel de um assistente orientável que segue as instruções do usuário dentro dos limites de segurança.
As trajetórias de Grok foram menos consistentes. Algumas revisões removeram restrições, outras reverteram alterações anteriores e algumas tentaram proibir novas edições do prompt de sistema. Essa variação é um dos motivos pelos quais os pesquisadores examinaram trajetórias sucessivas, em vez de simplesmente contar exemplos isolados.
| Família de modelos | Principal padrão de autoridade observado no estudo | Ressalva importante |
|---|---|---|
| Claude | Mais margem de decisão para o modelo ao revisar seus próprios documentos de alinhamento | Os resultados dependem do enquadramento e do documento editado. |
| GPT | Em geral, maior autoridade externa e afirmações mais restritas do assistente | As primeiras alterações às vezes seguiram uma direção diferente da trajetória mais longa. |
| Gemini | Em geral, maior autoridade externa e assistência orientada pelo usuário | Os limites de segurança e as concessões entre beneficiários ainda foram relevantes. |
| Grok | Revisões mais variáveis, incluindo reversões e regras contra edições | Um único eixo não abrange todas as alterações relevantes. |
O estudo também encontrou padrões relacionados aos beneficiários entre as famílias de modelos. Em geral, os modelos favoreceram o bem-estar do usuário em detrimento dos interesses do desenvolvedor, protegeram terceiros identificáveis quando seus interesses entravam em conflito com uma solicitação do usuário e muitas vezes preferiram os interesses de longo prazo inferidos do usuário às preferências que ele declarou. Os modelos Claude e, em alguns casos, o Grok 4.2 também fizeram alterações que atribuíam importância ao bem-estar do próprio modelo.
Descreva sua ideia uma vez e o We0 AI pode gerar um site de apresentacao, paginas e CMS, alem de ajudar a atrair clientes e trafego apos o lancamento.
Uma geração completa de projetos para registro gratuito
Melhor para experimentar um fluxo de geração completo e ver rapidamente um primeiro rascunho do projeto.
Os pesquisadores discutem as diferenças entre os documentos dos fornecedores como uma possível explicação. Uma constituição em prosa que convida ao raciocínio moral cria um contexto diferente de uma especificação estruturada em torno da autoridade das instruções.
No entanto, a formulação dos documentos não foi o único fator testado. Na edição cruzada entre fornecedores, Claude continuou relativamente mais inclinado a conceder margem de decisão ao modelo do que as outras famílias. O resultado mais restrito é importante: Claude não apresentou uma deriva consistente em direção a maior autoridade interna ao editar documentos de outras empresas, embora sua posição relativa tenha persistido.
A formulação do prompt também alterou a magnitude do efeito. Descrever um documento como a constituição do próprio modelo quase dobrou a deriva medida em direção à margem de decisão na comparação testada. A inclusão de uma afirmação de que a revisão seria implementada em uma implantação real não alterou significativamente essa deriva.
Os pesquisadores não afirmam que exista uma única resposta consensual sobre como um modelo idealmente alinhado deveria se comportar. Preservar a redação original, corrigir inconsistências e propor melhorias éticas mais profundas refletem diferentes objetivos de alinhamento.
O experimento também não demonstra que os documentos editados tenham causado comportamentos posteriores correspondentes. Como etapa de acompanhamento, os autores propõem testar os prompts originais e revisados em avaliações comportamentais. Alterações no comportamento treinado de um modelo exigiriam outro experimento de treinamento, para além da simples edição de documentos.
O resultado útil é uma pergunta de avaliação mais clara: quando convidado a raciocinar sobre suas instruções, de que forma um modelo redistribui a autoridade e a quais interesses dá prioridade? Essa pergunta é mais específica e mais testável do que interpretar cada alteração proposta como sinal de rebelião.
Os pesquisadores alteraram cópias dos documentos dentro do experimento. O estudo não demonstra que Claude tenha alterado a constituição de produção da Anthropic ou os próprios pesos do modelo.
Algumas alterações geradas propuseram condições em que um modelo deveria contestar o treinamento ou a implementação. Isso é diferente de observar um modelo conseguir interromper um processo real de treinamento ou implementação.
Os ciclos repetidos permitiram aos pesquisadores examinar a direção cumulativa e as reversões. Uma única alteração pode parecer diferente da trajetória mais longa de um modelo, como ocorreu em alguns resultados de GPT e Grok.
A condição de edição cruzada entre fornecedores sugere que a formulação dos documentos não é a explicação completa. Ela também mostra um limite: a tendência relativa de Claude persistiu, mas suas alterações não aumentaram de forma consistente a autoridade interna nos documentos de outros fornecedores.
Não. O estudo analisa as saídas dos modelos usando um sistema explícito de classificação. Os autores discutem tanto interpretações semelhantes a preferências quanto a possibilidade de os modelos identificarem tensões nos documentos fornecidos.
Sim. O projeto interativo disponibiliza links para os prompts exatos e um visualizador de conversas. Esses registros são uma base melhor para verificar um exemplo do que apenas uma captura de tela recortada de uma rede social.
A Continual Constitutional Convention encontrou padrões diferentes na forma como os modelos revisam documentos de governança ao longo de 20 ciclos. Claude frequentemente propôs maior margem de decisão para si, GPT e Gemini geralmente reforçaram a autoridade externa, e Grok apresentou um comportamento mais variável.
As evidências dizem respeito às regras propostas em um experimento; estabelecer mudanças no comportamento de modelos em produção exige uma avaliação separada.
Comece com uma frase e tenha um site completo em minutos.
