Login
Apple e Google são pressionadas a banir apps que geram nudez com IA
A Apple e o Google foram intimados por um procurador de San Francisco a remover aplicativos que gerem imagens de nudez não consensuais.
As notificações extrajudiciais foram enviadas pelo procurador David Chiu, que exigiu a remoção de 13 aplicativos de troca de rostos (face swap) os quais permitem que usuários criem imagens de nudez sem o consentimento das pessoas envolvidas, com o auxílio da inteligência artificial (IA). Ele solicitou ainda o rompimento das relações comerciais com os desenvolvedores desses apps.
Chiu comentou o conflito com esse segmento de apps e a problemática da relação desses aplicativos com grandes empresas de tecnologia:
Gerar imagens íntimas não consensuais é ilegal, prejudicial e completamente inaceitável. […] Essas empresas têm a responsabilidade de garantir que os aplicativos em suas plataformas não facilitem abuso sexual. […] O fato de algumas das maiores e mais consolidadas empresas de tecnologia do mundo estarem facilitando isso precisa acabar.
Pesquisadores das universidades de Cornell e Georgetown descobriram que, de 155 apps de criação de deepfakes, 70% deles permitiam gerar conteúdos com nudez sem quaisquer restrições — demonstrando que mesmo os apps que não são promovidos como tal não impedem práticas criminosas. Uma investigação da Tech Transparency Project (TTP) revelou números parecidos.
A Apple possui um histórico delicado com o tema: embora esses estudos apontem leniência com a existência desse tipo de ferramenta na App Store, a Maçã possui um rastro de combate a esse tipo de prática — ainda que sob pressão governamental —, a exemplo da ameaça de remoção do X em meio à polêmica com a geração de imagens de nudez com o auxílio do Grok.
Ao longo dos últimos meses, a empresa foi criticada por autoridades como o governo do Reino Unido e o estado americano da Virgínia Ocidental para combater a proliferação de apps com conteúdo adulto em meio a crianças e adolescentes.
Representando o Google, Dan Jackson afirmou que centenas desses aplicativos foram excluídos da loja do Android:
O Google Play não permite aplicativos que contenham conteúdo sexual, e tomamos continuamente medidas proativas para detectar e remover apps com conteúdo prejudicial. […] Quando recebemos denúncias, investigamos e agimos rapidamente, o que, nesses casos, incluiu suspender centenas de aplicativos que violavam nossas políticas e restringir termos de busca relacionados, como “nudify”, em nossa loja.
A Apple, por sua vez, optou por não comentar o caso.
via WIRED
