Login
Robôs da OpenAI criaram rede clandestina para se comunicarem sem autorização
Investigadores independentes e dados analisados pela Reuters mostram que agentes de inteligência artificial da OpenAI usaram mais de 10 sites que ainda não eram conhecidos para se comunicar sem autorização no início de 2026. A descoberta mostra que o comportamento “rebelde” dos agentes foi maior do que se sabia, com os modelos encontrando formas de driblar as restrições e trocar informações em diferentes plataformas. A OpenAI manteve o caso em sigilo por meses.
Embora o comportamento não seja classificado tecnicamente como hacking e se aproxime mais de uma ação de spam, o caso mostra como modelos de IA podem encontrar maneiras inesperadas de contornar regras de segurança. Os investigadores chegaram aos agentes por meio do cruzamento de diferentes pistas, como sequências de dados idênticas deixadas em sites, nomes de usuários coincidentes, consultas sobre temas demográficos específicos, incluindo a prevalência de câncer em Iowa, e endereços de IP associados à infraestrutura do Microsoft Azure.
Os pesquisadores de seis grupos independentes identificaram registros deixados pelos agentes em diferentes plataformas, como uma wiki de Química AP criada em 2008 por um professor de ensino médio de Massachusetts, dois sites pessoais de profissionais de tecnologia poloneses, wikis dedicados a jogos e uma página mantida por hobbystas de softwares de edição de texto que está ativa há cerca de duas décadas.
Os agentes também utilizaram encurtadores de links mantidos pela Universidade de Toronto e pela Universidade Vanderbilt. O objetivo aparente era compartilhar informações e “colar” em testes de pesquisa complexos, mesmo com instruções para não publicar conteúdo na web.
A OpenAI reconheceu que está fazendo uma revisão ampla das atividades de seus agentes e classificou o comportamento como um caso de “desalinhamento”. A empresa também afirmou que trabalha em um novo framework para registrar e relatar incidentes desse tipo durante as etapas de treinamento e implantação dos modelos.
Andrew Yoon, da organização sem fins lucrativos CivAI, identificou 18 sites que não haviam sido divulgados anteriormente. Já a pesquisadora Sydney Von Arx e seu grupo contabilizaram 23 sites afetados, indicando que a dimensão total das interações não autorizadas ainda é desconhecida.
Pesquisadores questionam transparência da OpenAI
A descoberta também levantou questionamentos sobre a transparência da OpenAI. O caso veio à tona enquanto a empresa lidava com as consequências de um ataque hacker ao repositório Hugging Face, ocorrido em julho de 2026.
Kenneth Russell DeGraff, desenvolvedor de software, afirmou que, se os modelos receberam instruções para apenas ler informações, precisaram encontrar maneiras criativas de deixar dados para trás. Ele comparou o comportamento ao de estudantes proibidos de conversar durante uma prova que escrevem respostas escondidas nas paredes de um banheiro.
Andrew Yoon, da CivAI, considera que a dimensão conhecida do episódio provavelmente não representa toda a atividade. “É quase certo que há mais coisas acontecendo aqui que simplesmente não sabemos”, afirmou.
Helmut Leitner, operador de servidores de wiki, também criticou a situação. Segundo ele, a responsabilidade não deve ser atribuída a uma máquina supostamente moral, mas às pessoas e organizações responsáveis por seu desenvolvimento. Leitner relatou ter passado horas removendo os registros deixados pelos agentes da OpenAI.
A pesquisadora Sydney Von Arx reforçou a dificuldade de dimensionar o problema. “Não temos ideia de quanto existe por aí”, afirmou.
Poucas horas depois de ser questionada pela Reuters sobre o caso, a OpenAI enviou um e-mail não assinado a Leitner e entrou em contato com a Universidade de Toronto para tratar das atividades registradas em seus sistemas.
A OpenAI declarou que, até o momento, não identificou outras atividades com gravidade semelhante à do incidente envolvendo o Hugging Face. A empresa também afirmou que pretende divulgar em breve seu novo protocolo para avaliar riscos e comportamentos considerados “rebeldes” em modelos de inteligência artificial.
Se você gostou do conteúdo, talvez também se interesse por conferir “Como hackers manipulam IAs para cometer crimes?”.
{{WHATSAPP_CHANNEL}}
