A Apple e o Google foram intimados por um procurador de San Francisco a remover aplicativos que gerem imagens de nudez não consensuais.

As notificações extrajudiciais foram enviadas pelo procurador David Chiu, que exigiu a remoção de 13 aplicativos de troca de rostos (face swap) os quais permitem que usuários criem imagens de nudez sem o consentimento das pessoas envolvidas, com o auxílio da inteligência artificial (IA). Ele solicitou ainda o rompimento das relações comerciais com os desenvolvedores desses apps.

Chiu comentou o conflito com esse segmento de apps e a problemática da relação desses aplicativos com grandes empresas de tecnologia:

Gerar imagens íntimas não consensuais é ilegal, prejudicial e completamente inaceitável. […] Essas empresas têm a responsabilidade de garantir que os aplicativos em suas plataformas não facilitem abuso sexual. […] O fato de algumas das maiores e mais consolidadas empresas de tecnologia do mundo estarem facilitando isso precisa acabar.

Pesquisadores das universidades de Cornell e Georgetown descobriram que, de 155 apps de criação de deepfakes, 70% deles permitiam gerar conteúdos com nudez sem quaisquer restrições — demonstrando que mesmo os apps que não são promovidos como tal não impedem práticas criminosas. Uma investigação da Tech Transparency Project (TTP) revelou números parecidos.

A Apple possui um histórico delicado com o tema: embora esses estudos apontem leniência com a existência desse tipo de ferramenta na App Store, a Maçã possui um rastro de combate a esse tipo de prática — ainda que sob pressão governamental —, a exemplo da ameaça de remoção do X em meio à polêmica com a geração de imagens de nudez com o auxílio do Grok.

Ao longo dos últimos meses, a empresa foi criticada por autoridades como o governo do Reino Unido e o estado americano da Virgínia Ocidental para combater a proliferação de apps com conteúdo adulto em meio a crianças e adolescentes.

Representando o Google, Dan Jackson afirmou que centenas desses aplicativos foram excluídos da loja do Android:

O Google Play não permite aplicativos que contenham conteúdo sexual, e tomamos continuamente medidas proativas para detectar e remover apps com conteúdo prejudicial. […] Quando recebemos denúncias, investigamos e agimos rapidamente, o que, nesses casos, incluiu suspender centenas de aplicativos que violavam nossas políticas e restringir termos de busca relacionados, como “nudify”, em nossa loja.

A Apple, por sua vez, optou por não comentar o caso.

via WIRED

Já há pouco mais de dois anos, a Apple e o Departamento de Justiça dos Estados Unidos (Department of Justice, ou DOJ) estão brigando na Justiça devido à suposta conduta anticompetitiva da empresa no país.

Nesta semana, inclusive, a Maçã obteve uma pequena vitória ao conseguir a aprovação para solicitar arquivos de órgãos federais que poderiam ajudá-la nessa batalha — mas, conforme novas informações do jornalista Mark Gurman (da Bloomberg), pode ser que ambas as partes cheguem a um acordo antes mesmo de um julgamento acontecer.

Ele afirma que as discussões “estão em andamento”, mas que não há garantia de que as duas partes chegarão a um acordo. Segundo a reportagem, a Apple fez várias ofertas ao DOJ neste ano para encerrar o processo.

Vale lembrar que o órgão moveu a ação em conjunto com um grupo bipartidário de 19 estados e o Distrito de Columbia. Ainda não se sabe, porém, se os procuradores-gerais estaduais estão participando das negociações de acordo — fato é que as negociações entre a Apple e o DOJ podem terminar sem que um entendimento seja alcançado.

Isso porque, sob a gestão de Donald Trump, o DOJ tem buscado acordos em diversos processos antitruste iniciados pela administração anterior. O procurador-geral adjunto dos EUA, Stanley Woodward, responsável pela supervisão das atividades antitruste do órgão, tem defendido acordos, considerando-os uma “forma de economizar o dinheiro dos contribuintes e proporcionar benefícios mais imediatos aos consumidores do que litígios que podem durar anos”.

O que a Apple já fez

As principais alegações do DOJ giram em torno do bloqueio, pela Apple, de “superaplicativos” (apps que incluem miniaplicativos, como o WeChat na China), além de desfavorecer apps de mensagens, de streaming na nuvem e carteiras digitais rivais, bem como dificultar a concorrência no mercado de smartwatches.

A Apple já abordou grande parte das queixas, passando a oferecer um programa de miniaplicativos para desenvolvedores, abrindo seu aplicativo Mensagens (Messages) para o sistema RCS ¹Rich communications service, ou serviço de comunicação rico., bem como permitindo aplicativos de streaming na nuvem e liberando o chip NFC ²Near field communication, ou comunicação por campo de proximidade. de pagamento do iPhone para aplicativos de terceiros.

Resta-nos, agora, continuar acompanhando os próximos capítulos dessa saga.

Notas de rodapé

• 1
  Rich communications service, ou serviço de comunicação rico.
• 2
  Near field communication, ou comunicação por campo de proximidade.