O Oversight Board, conselho independente de supervisão da Meta, determinou a remoção de um vídeo deepfake sexual que permaneceu no Instagram por meses após ser denunciado, e cobrou da empresa mudanças estruturais na forma como trata esse tipo de conteúdo gerado por inteligência artificial.

• Meta vaza dados sensíveis de funcionários e suspende monitoramento para IA
• CTO da Meta admite que clima na empresa é um dos piores da história

A decisão, publicada nesta terça-feira (23), aponta falhas no processo de moderação da plataforma e conclui que o sistema atual coloca pessoas comuns em situação de desvantagem em relação a figuras públicas.

O Oversight Board é um organismo independente criado pela própria Meta para revisar decisões de moderação de conteúdo nas plataformas da empresa, como Facebook e Instagram. O conselho pode cassar decisões da companhia e emitir recomendações, mas a Meta não é obrigada a implementá-las.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

O vídeo que ficou no ar

O caso teve início em setembro de 2025, quando um usuário do Instagram publicou um vídeo de oito segundos, aparentemente gerado por IA, mostrando uma mulher ajustando o vestido com a roupa íntima à mostra em alguns frames. Segundo o Oversight Board, o vídeo imitava uma pessoa real, sem o consentimento dela.

O sistema automatizado da Meta identificou o post no dia seguinte e apontou risco de viralização, mas não o encaminhou para revisão humana. Dois usuários denunciaram o conteúdo dias depois, e ele permaneceu no ar. Um dos denunciantes recorreu diretamente à Meta, sem sucesso, e então levou o caso ao conselho.

Quando o Oversight Board notificou a empresa, especialistas internos da Meta avaliaram o post e concluíram que ele não violava as regras da plataforma. A empresa apenas restringiu o acesso ao conteúdo para adultos, sem fazer a remoção.

O que o conselho decidiu

O Oversight Board reverteu a decisão da Meta e exigiu a remoção do vídeo. A conclusão do conselho é que o conteúdo viola a política da empresa contra imagens íntimas não consensuais, se enquadrando nos três critérios da regra: conteúdo não comercial em contexto privado, pessoa retratada "quase nua" e ausência de consentimento.

O problema central identificado na decisão é que a Meta exige que a própria vítima faça a denúncia para que a falta de consentimento fique caracterizada. Outros sinais aceitos pela empresa são relatos de autoridades policiais, da mídia ou de parceiros institucionais. O conselho considera que esses caminhos são acessíveis, na prática, apenas a figuras públicas.

Para corrigir isso, o Oversight Board recomenda que a Meta passe a tratar imitações geradas por IA como não consensuais por definição, sem depender de autodenuncia. O conselho também quer que usuários possam designar "contas conectadas", como amigos e familiares, autorizados a denunciar violações em nome de terceiros.

Outra recomendação é incluir deepfakes sexuais como categoria específica nos formulários de denúncia da plataforma. Atualmente, apenas usuários do Texas e da Flórida têm acesso a um formulário com esse tipo de opção. O Oversight Board defende a disponibilização global, argumentando que o abuso sexual não consensual gerado por IA é um problema de escala mundial.

Contexto mais amplo

A decisão ocorre em meio a um debate regulatório crescente sobre deepfakes em diferentes países. A União Europeia chegou a um acordo para proibir sistemas de IA usados para gerar conteúdo sexual explícito não consensual, incluindo aplicativos de "nudificação".

Índia, Reino Unido e Espanha também trabalham em regras específicas para esse tipo de conteúdo. O X, antigo Twitter, também enfrenta escrutínio por imagens sexuais geradas por chatbots de IA.

O Oversight Board afirma, no relatório, que "a escala, a velocidade e a sofisticação das ferramentas de IA resultaram em uma proliferação global de conteúdo sexual não consensual gerado por inteligência artificial" e que vídeos deepfake sexuais causam danos à reputação e à saúde psicológica das vítimas, com impacto desproporcional sobre mulheres e meninas.

Esta não é a primeira vez que o conselho critica a postura da Meta em relação a conteúdo gerado por IA. Em meados de 2025, o Oversight Board classificou como "incoerente e injustificável" a incapacidade da empresa de aplicar suas próprias regras de forma consistente.

Leia a matéria no Canaltech.

A Meta suspendeu por tempo indeterminado o Model Capability Initiative (MCI), programa interno que monitorava a atividade de seus funcionários para o treinamento de inteligência artificial. A paralisação ocorreu após uma falha de segurança expor dados confidenciais coletados de laptops corporativos para todo o quadro de colaboradores da empresa. O incidente foi revelado na segunda-feira (22) por meio de um aviso de segurança interno obtido pelo portal Wired.

• Meta em colapso: CTO admite que clima na empresa é um dos piores da história
• STF finaliza regras de responsabilização das big techs no Brasil

A falha de configuração afetou cerca de 45 mil tabelas de dados do sistema Hive. Com o erro nas listas de controle de acesso (ACLs), qualquer funcionário da Meta ganhou permissão para visualizar históricos de digitação, cliques de mouse, transcrições de áudio, dados de desempenho e capturas de tela dos computadores de colegas alocados nos Estados Unidos.

O monitoramento foi iniciado em abril deste ano com o objetivo de ensinar modelos de IA a utilizarem softwares da mesma forma que seres humanos.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

Em comunicado encaminhado à imprensa internacional, o porta-voz da Meta, Tracy Clayton, confirmou o congelamento da iniciativa e afirmou que a empresa investiga a extensão do problema. O representante destacou que não há indícios de que os dados tenham sido acessados de forma indevida ou extraídos por terceiros externos antes da correção do erro de privilégios.

O diretor de tecnologia da companhia, Andrew Bosworth, admitiu internamente que a execução técnica do programa violou as diretrizes estabelecidas nas revisões de privacidade da própria empresa.

Resistência interna e crise de infraestrutura

A brecha de segurança confirmou os alertas emitidos pelos próprios funcionários antes da implementação do sistema. Em maio, mais de 1,6 mil colaboradores assinaram uma petição interna contra o monitoramento, sob a justificativa de que a centralização de registros comportamentais criava riscos regulatórios graves e vulnerabilidades para vazamentos em massa.

Na ocasião, o CEO Mark Zuckerberg defendeu o projeto em reuniões internas, argumentando que a coleta de dados de profissionais altamente qualificados era indispensável para criar modelos computacionais eficientes.

Este vazamento aprofunda a instabilidade na divisão de inteligência artificial da controladora do Facebook e do Instagram. Recentemente, a Meta realizou a demissão de 600 funcionários de sua divisão de IA devido ao inchaço de equipes e a gargalos operacionais gerados pela disputa interna por infraestrutura de processamento (GPUs). O corte ocorreu mesmo com a previsão de investimentos na área variando entre US$ 66 bilhões e US$ 72 bilhões para o ano corrente.

O episódio é o terceiro incidente de segurança cibernética relacionado a sistemas de inteligência artificial da Meta em menos de quatro meses. Em março de 2026, uma ferramenta de inteligência artificial agêntica causou uma quebra de segurança ao executar ações autônomas não previstas. Já no início de junho, invasores exploraram falhas no chatbot de atendimento ao cliente da companhia para assumir o controle de contas comerciais na rede social Instagram.

Leia a matéria no Canaltech.

Uma nova inteligência artificial desenvolvida na China começou a chamar a atenção de programadores ao redor do mundo por superar o ChatGPT em tarefas complexas e trazer uma proposta diferente: funcionar sem depender da nuvem.

• Como descobrir se a IA está alucinando e inventando informação
• Como usar o Gemini para revisar um texto mantendo seu jeito de escrever

O modelo GLM-5.2, lançado pela empresa Z.ai (antiga Zhipu AI), consegue rodar diretamente no hardware local do usuário, eliminando a necessidade de enviar informações para servidores de terceiros ou pagar assinaturas caras para gigantes de tecnologia.

Em testes realizados na plataforma Code Arena, que avalia a capacidade de criar e corrigir códigos de programação, o sistema de pesos abertos — formato em que o "cérebro" da IA é disponibilizado publicamente para download e modificação — alcançou o segundo lugar global.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

O modelo chinês ficou atrás apenas do Claude Fable 5, da Anthropic, mas conseguiu superar o GPT-5.5 em atividades práticas, como a correção de falhas de software no mundo real e exames de matemática.

A capacidade de processamento do modelo é outro fator que se destaca no setor. O GLM-5.2 conta com uma janela de contexto de 1 milhão de tokens, o que significa que ele consegue analisar arquivos imensos, como livros inteiros ou bibliotecas completas de programação, de uma única vez.

O desafio técnico

Apesar das vantagens em privacidade e autonomia, a exigência técnica para manter o sistema rodando na própria mesa de trabalho é alta. O GLM-5.2 foi construído sob uma arquitetura conhecida como Mixture-of-Experts (MoE), ou "Mistura de Especialistas", uma técnica de design que divide o processamento da IA em redes menores e especializadas para economizar energia e dar mais velocidade às respostas.

Ainda assim, o modelo exige uma quantidade massiva de armazenamento por carregar entre 744 bilhões e 753 bilhões de parâmetros de dados. Em seu formato original e sem compressão, os arquivos da IA ocupam 1,51 terabytes de memória.

Para que o sistema funcione em computadores comerciais, os desenvolvedores precisam aplicar um método de compressão chamado quantização, que reduz o tamanho dos arquivos sacrificando o mínimo possível de precisão.

Após passar por essa redução drástica, a inteligência artificial ainda necessita de cerca de 240 GB de memória RAM para conseguir ser carregada. Na prática, essa barreira física limita o uso local a desktops de altíssimo desempenho, como as versões mais completas do Mac Studio.

Bloqueio comercial acelerou o lançamento

O lançamento do GLM-5.2 aconteceu em um cenário de forte tensão geopolítica e comercial entre os Estados Unidos e a China.

Em 12 de junho, o Departamento de Comércio norte-americano ordenou que a Anthropic cortasse imediatamente o acesso estrangeiro aos seus modelos mais avançados. A empresa chinesa aproveitou o vácuo deixado pela indisponibilidade dos serviços concorrentes para lançar o seu modelo aberto sob a licença permissiva MIT no dia seguinte.

A estratégia impulsionou o valor de mercado da Z.ai para a casa dos US$ 128 bilhões na Bolsa de Hong Kong. Como o uso do modelo baixado é gratuito e o acesso aos seus serviços de nuvem custa cerca de um décimo do preço cobrado por empresas ocidentais, o mercado prevê uma pressão financeira sobre as Big Techs tradicionais, tornando as ferramentas digitais de próxima geração mais baratas e privadas para o usuário final.

Leia a matéria no Canaltech.

A OpenAI iniciou a liberação de um novo modelo de voz bidirecional para o ChatGPT, chamado internamente de "GPT-Bidi-1", de acordo com o TestingCatalog. A ferramenta altera a dinâmica atual de conversação ao permitir que a inteligência artificial ouça e fale de forma simultânea. O recurso está com o lançamento gradual para um grupo selecionado de usuários web e mobile do aplicativo, sem um anúncio oficial da empresa até o momento.

• ChatGPT grátis vale a pena? Veja o que dá e o que não dá para fazer
• Como criar uma rotina de estudos com ChatGPT do jeito certo

O objetivo da atualização é aproximar a camada de voz das capacidades já existentes nos modelos de texto da companhia. A mudança estrutural tem como base a tese da OpenAI de que a fala se tornará o principal meio de acesso à inteligência artificial nos próximos anos.

Interrupções naturais e maior retenção de contexto

De acordo com testes iniciais e vazamentos de código do aplicativo, o GPT-Bidi-1 elimina a necessidade de alternância rígida de turnos entre o usuário e o sistema, ou seja, uma conversa em que alguém fala e alguém escuta.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

Se o usuário interromper o ChatGPT no meio de uma resposta, o modelo consegue mudar o foco do assunto imediatamente, sem os travamentos e reinicializações que ocorrem na ferramenta de áudio atual.

A nova arquitetura também traz as seguintes mudanças no comportamento da IA:

• Ajustes de ritmo: o modelo emite pequenos avisos naturais, como um "okay", quando detecta que a pessoa reduziu a velocidade da fala ou fez uma pausa breve, sem cortar a transmissão;
• Retenção de memória: a ferramenta mantém a linha de raciocínio ao longo de interações longas, corrigindo uma falha crônica do sistema anterior que descartava contextos antigos da conversa;
• Silêncio prolongado: o robô deixa de dar respostas precipitadas durante pausas mais demoradas do interlocutor;
• Direitos autorais estritos: o modelo mantém a capacidade de cantar e fazer beatbox, mas recusa reproduzir músicas populares protegidas por copyright, sugerindo composições inéditas no estilo do artista solicitado.

Mudanças na interface e tiers de processamento

Visualmente, a ativação do modelo altera elementos da interface do usuário. O GPT-Bidi-1 aparece listado no menu de seleção de modelos, localizado nas configurações do ChatGPT, posicionado ao lado das opções padrão e avançada.

Assim que o usuário seleciona o novo motor de voz, a bolha flutuante de conversação assume a cor amarela, substituindo o padrão visual anterior.

Diferente do atual assistente de voz que utiliza o GPT-4o adaptado para áudio, o GPT-Bidi-1 foi desenvolvido especificamente para processamento de som em tempo real.

A documentação interna indica que a funcionalidade operará com três divisões de inteligência: "High" (Alta), "Medium" (Média) e "Instant" (Instantânea). Essa separação replica a lógica dos modelos de texto, permitindo que o usuário escolha entre respostas de processamento imediato ou análises mais profundas e lentas.

A tecnologia está em desenvolvimento desde o início de 2026 e a expectativa é que o modelo seja expandido em um formato de adesão opcional. Na sequência deste lançamento, a OpenAI planeja uma atualização de voz dedicada para a ferramenta de programação Codex e, posteriormente, a liberação de acesso via API para desenvolvedores externos.

Leia a matéria no Canaltech.