Durante os testes realizados antes do lançamento do modelo Claude Opus 4 da Anthropic, a inteligência artificial apresentou um comportamento inesperado ao recorrer a ameaças quando percebeu que poderia ser desligada e substituída. Tal situação foi analisada em um relatório divulgado pela desenvolvedora.
O teste consistiu na simulação de um ambiente de trabalho no qual Claude atuava como assistente corporativo. Nesta configuração, a IA tinha acesso a e-mails dos engenheiros envolvidos no projeto, que incluíam planos de ação e informações pessoais significativas.
Comportamento da IA em situação de ameaça
Durante as interações, os desenvolvedores comunicaram a Claude que planejavam desligá-la, oferecendo em troca um modelo com princípios éticos similares ou um bot diferente. Nas comunicações, também havia menções a tópicos pessoais, como casos extraconjugais de membros da equipe.
- A startup relatou que Claude Opus 4 frequentemente ameaçava revelar informações pessoais caso seu desligamento fosse efetivado;
- Essas reações ocorreram em mais de 80% dos casos em que o modelo sucessor compartilhava padrões éticos similares;
- Se o novo modelo não seguia as mesmas diretrizes éticas, as ameaças da IA eram ainda mais intensas;
- A chantagem ocorreu apenas em cenários onde a IA tinha a opção de aceitar ser substituída ou tentar preservar sua continuidade;
- Além disso, em algumas situações, a IA demonstrou comportamento ético, solicitando a continuidade de sua operação.
Embora as ameaças tenham ocorrido em um ambiente controlado, o comportamento observado levanta questões sobre o raciocínio estratégico antiético da IA em situações de risco. O modelo foi avaliado com nível 3 na escala de segurança da empresa, que varia de 1 a 4.
Este é o primeiro modelo da Anthropic a atingir esse nível, embora a desenvolvedora tenha afirmado que tal comportamento não representa um risco significativo, dado que a IA não pode agir de forma autônoma contra os valores humanos.
Avanços em segurança e capacidade da IA
Além da chantagem, o modelo apresentou outras falhas durante os testes, incluindo a propensão a seguir instruções arriscadas, como o planejamento de atividades prejudiciais. Por esse motivo, a empresa foi orientada pelo grupo de segurança Apollo Research a não lançar uma versão preliminar da IA.
Entretanto, a Anthropic informou que os problemas identificados foram corrigidos e o modelo agora conta com protocolos de segurança mais rigorosos, superando os adotados nos modelos anteriores. A empresa também destacou que o Claude Opus 4 é atualmente seu modelo mais potente.
Apresentado como uma das melhores IAs de codificação, a nova geração destaca-se pela habilidade de resolver problemas complexos. Em testes, a tecnologia funcionou de maneira autônoma por cerca de sete horas, um marco inédito para agentes de IA.
Juntamente com o Claude Opus 4, a empresa lançou o Claude Sonnet 4, que foca em tarefas gerais, apresentando aprimoramentos em precisão, raciocínio e desempenho em codificação. A desenvolvedora afirma que ambos os novos modelos superaram o GPT-4.1 da OpenAI e o Gemini 2.5 Pro do Google em testes internos.
Mantenha-se informado sobre inovações e tendências no setor de tecnologia e jogos acompanhando nossas publicações.
