Apple has begun removing AI-powered “nudify” apps from its App Store after San Francisco City Attorney David Chiu issued cease-and-desist letters to both Apple and Google, accusing the platforms of facilitating harmful non-consensual intimate imagery.

The letters targeted approximately 13 face-swapping and image-altering apps that use artificial intelligence to digitally remove clothing from photos, creating fake nude or explicit images without the subject’s consent. Chiu argued that the apps violate consumer-protection laws and enable the spread of deepfake pornography, often targeting women and minors.

In response, Apple in a statement reiterated its longstanding policy prohibiting apps that generate or promote explicit non-consensual content. “Nudification apps are against our App Review Guidelines and we have proactively rejected many of these apps and removed many others,” the company said. It confirmed the removal of three apps identified in the letter, the termination of their developers’ accounts, and ongoing outreach to four additional developers who must address violations or face removal.

This action follows earlier reports highlighting the persistence of such apps despite Apple’s rules. In 2024 and earlier in 2026, investigations revealed that “nudify” tools continued to appear or be advertised in the App Store, prompting criticism over enforcement gaps. Apple has since taken down batches of violating apps after external reports and user flags.

The San Francisco order gives Apple and Google 28 days to respond and fully address the issue, with potential civil penalties for non-compliance. Advocates have praised the move as a step toward curbing AI-enabled abuse, while noting that similar tools can still proliferate on the open web or through sideloaded software.

Apple’s latest enforcement underscores growing pressure on tech platforms to prevent their stores from becoming distribution channels for tools that weaponize AI against privacy and consent.
‎
MacDailyNews Take: Users are encouraged to report suspected violating apps directly through the App Store via Apple’s “Report a Problem” page: https://reportaproblem.apple.com

---

‎
Please help support MacDailyNews — and enjoy subscriber-only articles, comments, chat, and more — by subscribing to our Substack: macdailynews.substack.com. Thank you!

Support MacDailyNews at no extra cost to you by using this link to shop at Amazon.

The post Apple purges AI ‘nudify’ apps from App Store after San Francisco demands crackdown on non-consensual deepfakes appeared first on MacDailyNews.

A Apple e o Google foram intimados por um procurador de San Francisco a remover aplicativos que gerem imagens de nudez não consensuais.

As notificações extrajudiciais foram enviadas pelo procurador David Chiu, que exigiu a remoção de 13 aplicativos de troca de rostos (face swap) os quais permitem que usuários criem imagens de nudez sem o consentimento das pessoas envolvidas, com o auxílio da inteligência artificial (IA). Ele solicitou ainda o rompimento das relações comerciais com os desenvolvedores desses apps.

Chiu comentou o conflito com esse segmento de apps e a problemática da relação desses aplicativos com grandes empresas de tecnologia:

Gerar imagens íntimas não consensuais é ilegal, prejudicial e completamente inaceitável. […] Essas empresas têm a responsabilidade de garantir que os aplicativos em suas plataformas não facilitem abuso sexual. […] O fato de algumas das maiores e mais consolidadas empresas de tecnologia do mundo estarem facilitando isso precisa acabar.

Pesquisadores das universidades de Cornell e Georgetown descobriram que, de 155 apps de criação de deepfakes, 70% deles permitiam gerar conteúdos com nudez sem quaisquer restrições — demonstrando que mesmo os apps que não são promovidos como tal não impedem práticas criminosas. Uma investigação da Tech Transparency Project (TTP) revelou números parecidos.

A Apple possui um histórico delicado com o tema: embora esses estudos apontem leniência com a existência desse tipo de ferramenta na App Store, a Maçã possui um rastro de combate a esse tipo de prática — ainda que sob pressão governamental —, a exemplo da ameaça de remoção do X em meio à polêmica com a geração de imagens de nudez com o auxílio do Grok.

Ao longo dos últimos meses, a empresa foi criticada por autoridades como o governo do Reino Unido e o estado americano da Virgínia Ocidental para combater a proliferação de apps com conteúdo adulto em meio a crianças e adolescentes.

Representando o Google, Dan Jackson afirmou que centenas desses aplicativos foram excluídos da loja do Android:

O Google Play não permite aplicativos que contenham conteúdo sexual, e tomamos continuamente medidas proativas para detectar e remover apps com conteúdo prejudicial. […] Quando recebemos denúncias, investigamos e agimos rapidamente, o que, nesses casos, incluiu suspender centenas de aplicativos que violavam nossas políticas e restringir termos de busca relacionados, como “nudify”, em nossa loja.

A Apple, por sua vez, optou por não comentar o caso.

via WIRED