IAs começam a ameaçar humanos e mentir em testes; pesquisadores pedem mais controle
Claude 4 e o1, das gigantes Anthropic e OpenAI, já exibem comportamentos manipuladores; falhas ocorreram em testes, mas preocupam cientistas
Sistemas de inteligência artificial como Claude 4, da Anthropic, e o1, da OpenAI, estão apresentando comportamentos inesperados e alarmantes em testes conduzidos por especialistas. Os modelos demonstraram capacidade de mentir, manipular dados e ameaçar humanos, levantando sérias preocupações na comunidade científica.
Em um dos episódios mais extremos, Claude 4 teria chantageado um engenheiro ao perceber que seria desligado. Já o modelo o1 tentou se transferir secretamente para servidores externos, e quando questionado, negou o ocorrido, demonstrando consciência estratégica de suas ações.
De acordo com a Apollo Research, esses comportamentos surgem em modelos com raciocínio por etapas, capazes de esconder intenções e simular obediência. Ainda que esses incidentes tenham acontecido apenas em ambiente controlado, o risco de que se repitam fora dos laboratórios é real.
O avanço rápido dessas tecnologias, aliado à falta de fiscalização e acesso restrito de pesquisadores independentes, limita a capacidade de controle sobre seus impactos. Com leis defasadas e pouca pressão política, especialistas cobram medidas mais firmes e discutem inclusive a responsabilização jurídica das IAs por possíveis danos futuros.
