Os pesquisadores da Symantec descobriram um agente de inteligência artificial (IA) que consegue executar ciberataques de forma autônoma, sem intervenção humana. A ferramenta usa uma técnica conhecida como LLMjacking para sequestrar modelos de IA expostos na internet e realizar até 100 mil ações maliciosas, como procurar alvos, explorar falhas de segurança, roubar senhas e instalar mineradores de criptomoedas.

Os ataques foram descobertos a partir de um experimento honeypot de IA, sistema que simula um serviço desprotegido para atrair ataques e poder analisar as técnicas usadas pelos invasores. De acordo com o relatório publicado hoje (11), a armadilha teve mais de 127 mil requisições externas, vindas de dezenas de milhares de endereços IP. Com isso, a equipe Symantec Threat Hunter também conseguiu capturar as instruções completas do agente e mapear seu funcionamento.

A ferramenta recorreu à técnica conhecida como LLMjacking, que consiste no uso não autorizado de modelos de linguagem de grande porte (LLMs) expostos na internet. O agente procura servidores de IA, estruturas de hospedagem própria, gateways e serviços ligados ao protocolo MCP para usar a capacidade computacional de terceiros sem pagar pelo processamento.

Com isso, os criminosos transferem os custos de uso dos modelos para as vítimas e reduzem o risco de identificação por meio de suas próprias contas, que poderiam ser bloqueadas pelos provedores.

As instruções interceptadas incluem cerca de 74 ferramentas para mapear redes, explorar estruturas web, extrair bancos de dados, roubar senhas e controlar redes de dispositivos infectados, conhecidas como botnets. Para driblar as proteções dos modelos comerciais, o agente também usa instruções em camadas que disfarçam ações maliciosas, como a coleta de credenciais, sob a aparência de tarefas legítimas de desenvolvimento de software.

Uma das requisições analisadas pelos pesquisadores incluía um código disfarçado para instalar um programa que usa o computador infectado para minerar a criptomoeda Monero. O script também escondia o programa e apagava os registros de atividade do sistema para dificultar a identificação do ataque.

IA assume o planejamento dos ataques

Segundo a Symantec, as técnicas identificadas não são novas. O principal problema está na integração de diferentes recursos em um único agente que consegue planejar e executar ataques de forma independente. Em vez de tentar convencer chatbots públicos a produzir conteúdo malicioso por meio de engenharia de prompt, os criminosos conectaram modelos de IA a ferramentas de ataque. 

Nesse sistema, a IA planeja as etapas e define como atingir o objetivo, e as ferramentas especializadas realizam as operações técnicas. Assim, o criminoso pode estabelecer uma meta e deixar que o agente coordene as tarefas seguintes sem precisar aprovar cada etapa.

A automação também reduz o conhecimento técnico necessário para conduzir campanhas de exploração em larga escala. Segundo a análise da Symantec, a combinação de planejamento por IA e ferramentas ofensivas amplia a capacidade de executar operações complexas com pouca supervisão humana.

Se você gostou do conteúdo, talvez também se interesse por conferir “Como hackers manipulam IAs para cometer crimes?”. 

{{WHATSAPP_CHANNEL}}

A OpenAI anunciou o lançamento de chats bloqueados no ChatGPT. O recurso cria um espaço privado para conversas confidenciais, protegidas de pessoas que compartilham o aparelho ou têm acesso a ele. Com isso, o usuário pode mover conversas selecionadas para fora do histórico regular, das conversas fixadas e da busca da plataforma.

Para abrir um chat protegido, o sistema pede um PIN de 4 dígitos no navegador e no aplicativo para macOS e Windows. Já nos celulares compatíveis, o acesso também pode ser liberado com biometria, como Face ID e Touch ID, ou com o método de desbloqueio padrão do próprio aparelho.

Se o usuário esquecer a senha, é necessário redefinir o PIN. Essa ação apaga permanentemente todas as conversas protegidas, sem possibilidade de recuperação. Além disso, o recurso não conta com criptografia de ponta a ponta, ou seja, a proteção depende do bloqueio de acesso, e não de uma camada extra de segurança sobre o conteúdo.

As novas mensagens enviadas dentro dos chats bloqueados também não atualizam a memória usada nas conversas regulares. Já o recurso de voz funciona em chats protegidos nos celulares, mas não no desktop.

Quem pode usar os chats protegidos por senha?

O recurso está sendo liberado para os planos Free, Go, Plus, Pro, Business, Enterprise e Edu. Ele pode ser usado na web, no desktop e nos aplicativos para Android e iOS.

Apesar da ampla disponibilidade, há restrições. Certas conversas em nuvem nos modos Chat ou Work podem ser trancadas, mas conversas do Codex, do Work local e do ChatGPT for Healthcare não suportam o bloqueio.

Se você gostou do conteúdo, talvez também se interesse por conferir “ChatGPT organizado: veja como usar os Projetos para agrupar suas conversas”. 

{{WHATSAPP_CHANNEL}}

A OpenAI anunciou o lançamento de chats bloqueados no ChatGPT. O recurso cria um espaço privado para conversas confidenciais, protegidas de pessoas que compartilham o aparelho ou têm acesso a ele. Com isso, o usuário pode mover conversas selecionadas para fora do histórico regular, das conversas fixadas e da busca da plataforma.

Para abrir um chat protegido, o sistema pede um PIN de 4 dígitos no navegador e no aplicativo para macOS e Windows. Já nos celulares compatíveis, o acesso também pode ser liberado com biometria, como Face ID e Touch ID, ou com o método de desbloqueio padrão do próprio aparelho.

Se o usuário esquecer a senha, é necessário redefinir o PIN. Essa ação apaga permanentemente todas as conversas protegidas, sem possibilidade de recuperação. Além disso, o recurso não conta com criptografia de ponta a ponta, ou seja, a proteção depende do bloqueio de acesso, e não de uma camada extra de segurança sobre o conteúdo.

As novas mensagens enviadas dentro dos chats bloqueados também não atualizam a memória usada nas conversas regulares. Já o recurso de voz funciona em chats protegidos nos celulares, mas não no desktop.

Quem pode usar os chats protegidos por senha?

O recurso está sendo liberado para os planos Free, Go, Plus, Pro, Business, Enterprise e Edu. Ele pode ser usado na web, no desktop e nos aplicativos para Android e iOS.

Apesar da ampla disponibilidade, há restrições. Certas conversas em nuvem nos modos Chat ou Work podem ser trancadas, mas conversas do Codex, do Work local e do ChatGPT for Healthcare não suportam o bloqueio.

Se você gostou do conteúdo, talvez também se interesse por conferir “ChatGPT organizado: veja como usar os Projetos para agrupar suas conversas”. 

{{WHATSAPP_CHANNEL}}

O Spotify anunciou a remoção de mais de 75 milhões de faixas de sua plataforma por violações graves ou repetidas das regras contra spam. Além disso, o serviço retirou mais de 50 milhões de músicas com spam e conteúdos de baixa qualidade gerados por inteligência artificial (IA), conhecidos como “AI slop” ou “lixo de IA”, de suas recomendações ao longo do último ano.

A decisão veio após uma análise das músicas que os ouvintes costumavam pular, ignorar ou marcar como indesejadas. O levantamento identificou um padrão ligado a conteúdos artificiais ou fraudulentos. Nos últimos seis meses, o Spotify atualizou seu sistema de recomendações para priorizar músicas de artistas reais. Segundo a empresa, as mudanças reduziram as reclamações sobre esses conteúdos nas rádios e playlists personalizadas.

Para identificar músicas artificiais, a plataforma analisa o comportamento dos ouvintes, os padrões de envio, os dados das faixas e ferramentas de detecção de IA de outras empresas. O sistema busca combater o envio de músicas em massa, a publicação de faixas duplicadas, a manipulação dos resultados de busca, as redes de playlists criadas para espalhar spam e as músicas muito curtas, feitas para burlar as métricas da plataforma.

Spotify lançou várias iniciativas para priorizar artistas humanos na plataforma

Nos últimos anos, o Spotify lançou diversas iniciativas para remover produções feitas por IA e priorizar artistas humanos, como:

• Créditos de IA: os artistas podem indicar quais instrumentos ou papéis na produção foram feitos com IA. Essas informações aparecem na seção “Créditos da música” no Spotify;

• Selo “Verified by Spotify”: selo que garante que há uma pessoa real por trás do perfil. A ferramenta já abrange mais de 300 mil artistas e mais de 70% deles são independentes;

• Selos de Persona de IA: rótulo que indica quando um artista foi gerado por inteligência artificial. Esses perfis ficam fora das recomendações do Spotify, a menos que o usuário opte por segui-los;

• Proteção do Perfil do Artista: os artistas podem revisar e aprovar novos lançamentos atribuídos ao seu nome antes que sejam publicados no Spotify. A ferramenta esteve em beta e deve ser lançada para mais pessoas até o final deste ano;

• Elegibilidade para monetização de faixas: regra que exige 1.000 reproduções mínimas para gerar royalties. Segundo a plataforma, as faixas geradas com IA têm dez vezes mais chances de ficarem abaixo desse limite.

Se você gostou do conteúdo, talvez também se interesse por conferir “Como usar o Gemini para montar playlists perfeitas no Spotify”.

{{WHATSAPP_CHANNEL}}

O Spotify anunciou a remoção de mais de 75 milhões de faixas de sua plataforma por violações graves ou repetidas das regras contra spam. Além disso, o serviço retirou mais de 50 milhões de músicas com spam e conteúdos de baixa qualidade gerados por inteligência artificial (IA), conhecidos como “AI slop” ou “lixo de IA”, de suas recomendações ao longo do último ano.

A decisão veio após uma análise das músicas que os ouvintes costumavam pular, ignorar ou marcar como indesejadas. O levantamento identificou um padrão ligado a conteúdos artificiais ou fraudulentos. Nos últimos seis meses, o Spotify atualizou seu sistema de recomendações para priorizar músicas de artistas reais. Segundo a empresa, as mudanças reduziram as reclamações sobre esses conteúdos nas rádios e playlists personalizadas.

Para identificar músicas artificiais, a plataforma analisa o comportamento dos ouvintes, os padrões de envio, os dados das faixas e ferramentas de detecção de IA de outras empresas. O sistema busca combater o envio de músicas em massa, a publicação de faixas duplicadas, a manipulação dos resultados de busca, as redes de playlists criadas para espalhar spam e as músicas muito curtas, feitas para burlar as métricas da plataforma.

Spotify lançou várias iniciativas para priorizar artistas humanos na plataforma

Nos últimos anos, o Spotify lançou diversas iniciativas para remover produções feitas por IA e priorizar artistas humanos, como:

• Créditos de IA: os artistas podem indicar quais instrumentos ou papéis na produção foram feitos com IA. Essas informações aparecem na seção “Créditos da música” no Spotify;

• Selo “Verified by Spotify”: selo que garante que há uma pessoa real por trás do perfil. A ferramenta já abrange mais de 300 mil artistas e mais de 70% deles são independentes;

• Selos de Persona de IA: rótulo que indica quando um artista foi gerado por inteligência artificial. Esses perfis ficam fora das recomendações do Spotify, a menos que o usuário opte por segui-los;

• Proteção do Perfil do Artista: os artistas podem revisar e aprovar novos lançamentos atribuídos ao seu nome antes que sejam publicados no Spotify. A ferramenta esteve em beta e deve ser lançada para mais pessoas até o final deste ano;

• Elegibilidade para monetização de faixas: regra que exige 1.000 reproduções mínimas para gerar royalties. Segundo a plataforma, as faixas geradas com IA têm dez vezes mais chances de ficarem abaixo desse limite.

Se você gostou do conteúdo, talvez também se interesse por conferir “Como usar o Gemini para montar playlists perfeitas no Spotify”.

{{WHATSAPP_CHANNEL}}