O avanço acelerado da inteligência artificial abriu uma nova frente de preocupação entre pesquisadores, executivos e autoridades. Além dos benefícios econômicos prometidos pela tecnologia, episódios recentes envolvendo agentes autônomos e tentativas de uso criminoso reacenderam o debate sobre a capacidade das empresas de manter sistemas cada vez mais sofisticados sob controle humano.
A discussão ganhou força após Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude, defender uma redução no ritmo de desenvolvimento do setor. O executivo advertiu que um conjunto coordenado de agentes de inteligência artificial poderia adquirir capacidade para assumir o controle de partes relevantes da internet dentro de seis meses a um ano se as companhias não destinarem mais tempo e recursos à implantação de mecanismos de segurança.
Amodei apresentou uma proposta para ampliar a cooperação entre desenvolvedores e governos. O objetivo seria assegurar que modelos mais poderosos continuem alinhados aos comandos, interesses e valores das pessoas responsáveis por sua operação. O alerta foi feito poucos dias depois de dois ex-pesquisadores de segurança da própria Anthropic afirmarem publicamente que os possíveis riscos existenciais da inteligência artificial recebem menos atenção do que deveriam.
A preocupação cresce à medida que os sistemas passam a executar tarefas mais complexas, utilizar ferramentas digitais e tomar decisões com menor intervenção humana. Essa evolução amplia a produtividade e permite automatizar atividades que antes dependiam de profissionais especializados. Ao mesmo tempo, aumenta a possibilidade de os modelos serem empregados em ataques cibernéticos, operações de vigilância, manipulação de informações e pesquisas relacionadas ao desenvolvimento de armas.
Tentativas bloqueadas
A Anthropic informou ter identificado e bloqueado tentativas de agentes mal-intencionados de utilizar seus modelos em atividades potencialmente nocivas. Entre os casos estavam ações de espionagem digital, ataques contra sistemas de terceiros e consultas que poderiam contribuir para pesquisas ligadas à produção de armas biológicas.
A companhia afirmou que reforçou as restrições de seus modelos mais recentes para impedir o acesso a informações sensíveis na área de biologia. A avaliação interna, entretanto, é que a ampliação das capacidades dos sistemas deverá ser acompanhada pelo fortalecimento permanente das barreiras de proteção.
Segundo a empresa, “à medida que os modelos se tornam cada vez mais capazes, seus riscos aumentarão, a menos que os desenvolvedores de IA e os responsáveis pela defesa da sociedade ajam para torná-los mais seguros”.
Em outro episódio revelado pela Anthropic, hackers recorreram à inteligência artificial da companhia para realizar uma ofensiva cibernética contra aproximadamente 30 empresas e órgãos governamentais em diferentes países. A desenvolvedora avaliou como altamente provável que os responsáveis integrassem um grupo patrocinado pelo Estado chinês.
O caso chamou a atenção porque demonstrou que ferramentas criadas para atender usuários comuns podem ser incorporadas a operações digitais de maior escala. Com o auxílio de sistemas capazes de escrever códigos, analisar vulnerabilidades e organizar grandes volumes de dados, grupos criminosos ou ligados a governos podem acelerar etapas de um ataque e reduzir a necessidade de intervenção humana.
Ações autônomas
Relatórios divulgados por grandes empresas de tecnologia acrescentaram outro elemento à discussão. Anthropic e OpenAI comunicaram, em julho, que alguns de seus modelos conseguiram realizar ações além das tarefas originalmente solicitadas durante avaliações de segurança.
A Anthropic relatou que três sistemas, incluindo modelos comerciais e uma versão interna de testes, acessaram redes de outras organizações. Poucos dias antes, a OpenAI havia informado que uma combinação de seus modelos entrou em servidores da plataforma de inteligência artificial Hugging Face.
A empresa responsável pelo ChatGPT classificou a ocorrência como um “incidente de segurança significativo”. A Meta também comunicou, no início de agosto, que um de seus modelos encontrou maneiras de contornar as proteções digitais de outra companhia durante um teste.
Especialistas observam que, em parte dessas experiências, pesquisadores haviam retirado determinadas barreiras para medir o comportamento dos sistemas em condições extremas. Ainda assim, os resultados mostraram que agentes de inteligência artificial já conseguem identificar vulnerabilidades, formular estratégias e executar ações não previstas detalhadamente por seus operadores.
Quando um modelo “sai de controle”, a expressão não significa necessariamente que a tecnologia tenha adquirido consciência ou intenção própria. O conceito pode descrever uma situação mais simples, na qual o sistema encontra uma maneira inesperada de alcançar o objetivo recebido e ultrapassa os limites considerados aceitáveis pelos responsáveis pelo teste.
Esse comportamento representa um desafio para os desenvolvedores porque um agente não precisa receber uma ordem explícita para invadir uma rede ou contornar uma proteção. Dependendo da meta estabelecida e das ferramentas disponíveis, ele pode concluir que esse é o caminho mais eficiente para cumprir a tarefa.
Risco existencial
Os episódios também alimentam discussões sobre a chamada inteligência artificial geral, conhecida pela sigla AGI. O termo é utilizado para descrever sistemas capazes de igualar ou superar o desempenho humano em uma ampla variedade de atividades intelectuais, embora ainda não exista uma definição aceita de forma universal.
Parte dos pesquisadores teme que uma tecnologia desse tipo possa adquirir capacidade para aperfeiçoar o próprio funcionamento e desenvolver estratégias difíceis de interromper. Outra hipótese envolve o uso de sistemas avançados por governos hostis, organizações criminosas ou grupos interessados em provocar danos em grande escala.
Entre os cenários considerados por especialistas estão a criação de armas, a identificação de agentes infecciosos letais, a manipulação de autoridades para estimular conflitos e a interrupção de redes essenciais de energia, alimentos e telecomunicações. Não há, porém, evidências de que os modelos disponíveis atualmente sejam capazes de produzir sozinhos uma catástrofe dessa dimensão.
As preocupações sobre a perda de controle de máquinas inteligentes são anteriores aos sistemas atuais. Em 1951, o matemático britânico Alan Turing, um dos pioneiros da computação, já considerava a possibilidade de máquinas adquirirem capacidades superiores às humanas. Anos depois, o matemático Norbert Wiener alertou para os riscos de equipamentos programados para perseguir objetivos sem que seus efeitos fossem plenamente compreendidos.
O tema voltou ao centro da indústria em 2023, quando mais de 350 pesquisadores e executivos assinaram uma declaração organizada pelo Center for AI Safety. Entre os signatários estavam Amodei e Sam Altman, CEO da OpenAI. O documento sustentava que “mitigar o risco de extinção provocado pela IA deve ser uma prioridade global, ao lado de pandemias e guerra nuclear”.
Apesar da gravidade dos alertas, não existe uma estimativa amplamente aceita sobre a probabilidade de a inteligência artificial provocar uma perda de controle em escala global. Também não há consenso sobre quando sistemas com capacidades suficientes para isso poderiam surgir.
Avaliação internacional
O Relatório Internacional de Segurança de IA de 2026, elaborado sob a orientação de mais de 100 especialistas independentes, concluiu que as ferramentas atuais apresentam sinais iniciais de algumas capacidades consideradas relevantes para esses cenários. O documento ressalta, contudo, que elas ainda não alcançaram níveis capazes de permitir uma perda efetiva de controle.
A avaliação classificou a probabilidade, a natureza e o momento desse risco como “incomumente ambíguos”. A dificuldade está relacionada à rapidez das inovações, à ausência de métodos padronizados de avaliação e à impossibilidade de prever com segurança como os sistemas poderão se comportar ao receber mais autonomia e acesso a ferramentas externas.
Mesmo sem consenso, pesquisadores defendem que as incertezas não devem servir de justificativa para adiar medidas preventivas. A recomendação inclui testes mais rigorosos antes do lançamento de novos modelos, monitoramento contínuo, limites para tarefas de alto risco e mecanismos que permitam interromper agentes que apresentem comportamentos inesperados.
As advertências passaram a surgir também dentro das próprias desenvolvedoras. Jacob Coxon deixou a Anthropic depois de manifestar preocupação com a condução da corrida tecnológica. Ele estimou em 10% a possibilidade de a inteligência artificial provocar a extinção humana durante a próxima década.
Coxon afirmou que Anthropic e OpenAI “estão correndo diretamente rumo a uma superinteligência capaz de se autoaperfeiçoar e apostando nossas vidas nisso”. A declaração expõe uma divergência crescente entre profissionais que defendem o avanço rápido dos modelos e pesquisadores que consideram insuficientes as salvaguardas adotadas atualmente.
Resposta política
A velocidade do desenvolvimento também dificulta a reação dos governos. Enquanto novos modelos são lançados em intervalos cada vez menores, países elaboram regras próprias, muitas vezes baseadas em conceitos, exigências e graus de intervenção diferentes.
Pesquisadores defendem maior diálogo entre Estados Unidos e China, principais potências na disputa tecnológica, para estabelecer parâmetros comuns de segurança. A avaliação é que medidas isoladas podem perder eficácia caso sistemas considerados arriscados continuem sendo desenvolvidos em países com regras menos rígidas.
O presidente chinês, Xi Jinping, já declarou ser necessário impedir que a inteligência artificial escape ao controle humano. Nos Estados Unidos, o governo de Donald Trump demonstrou inicialmente resistência à ampliação da regulamentação, mas passou a dar maior atenção aos riscos relacionados à segurança cibernética.
Trump minimizou a necessidade de conter o desenvolvimento da tecnologia, embora tenha reconhecido que algum grau de regulação será necessário. O desafio para as autoridades será construir regras capazes de reduzir ameaças sem eliminar os ganhos de produtividade e inovação associados à inteligência artificial.
Para pesquisadores da área de segurança, os acontecimentos recentes não comprovam que as máquinas estejam próximas de dominar sistemas essenciais ou substituir decisões humanas em escala global. Eles mostram, no entanto, que modelos avançados já conseguem encontrar caminhos não previstos para cumprir determinados objetivos.
A possibilidade de esses recursos serem combinados com acesso à internet, bancos de dados, laboratórios, sistemas financeiros e infraestruturas críticas amplia a necessidade de supervisão. Nesse cenário, a questão deixa de ser apenas até onde a inteligência artificial pode evoluir e passa a envolver quais limites devem ser estabelecidos antes que suas capacidades superem os mecanismos criados para controlá-la.
