A San Francisco City Attorney has sent cease-and-desist letters to Apple and Google demanding the removal of 13 AI "face-swap" apps that can generate nonconsensual nude images, according to WIRED.


The letters, sent on Thursday, target eight apps on the App Store and five on the Play Store that market themselves as face-swapping tools but are used to "undress" photos of real people. The attorney's office wants both companies to cut ties with the developers and stop taking a cut of in-app payments, arguing they are effectively "aiding and abetting" the sale of explicit deepfake images. The attorney called the practice "illegal, harmful, and completely unacceptable" and believes Apple and Google have collected millions in fees from the apps.

Both companies have developer rules against pornography and have removed batches of nudify apps in the past after being flagged by researchers. A Google spokesperson told WIRED that the company has deleted "hundreds" of apps with nudifying features for policy violations, including the five named in the letters. In June, it emerged that Apple had already tightened its ‌App Store‌ guideline language on developer responsibility for pornographic content.

Update: Apple told MacRumors that it takes reports of apps against its guidelines seriously. Apple applies App Review Guidelines to all developers, which include specific provisions to prohibit overtly sexual or pornographic content. As such, "nudificiation" apps are against its guidelines and the company has proactively rejected and removed many such apps, including when they have been flagged by users.

The App Store was designed to be a safe and trusted place for users, and we have always strictly prohibited apps designed to generate, distribute, or consume pornography. "Nudification" apps are against our App Review Guidelines and we have proactively rejected many of these apps and removed many others, including when users have flagged them via our reporting tools. We have removed three of the apps in question and are in the process of terminating their developer accounts from our program. We are in contact with four others that need to address policy violations or risk being removed as well.

Users can go to reportaproblem.apple.com to report illegal, offensive, or abusive content, as well as scam or fraud on the ‌App Store‌.
This article, "Apple and Google Hit With Demand to Pull AI 'Nudify' Apps [Updated]" first appeared on MacRumors.com

Discuss this article in our forums

Le Dell 14 modèle DC14250 mise sur une équation simple : proposer une configuration Copilot+ pertinente dans un format compact et à un prix agressif. Avec son processeur Intel Core Ultra 5 avec NPU intégré, son écran 14 pouces au format 16:10 en résolution FHD+, ses 16 Go de RAM et son châssis...

Le sèche-linge pompe à chaleur Candy GD 8N2B-S Pro Dry 300 de 8 kg simplifie le séchage du linge tout en limitant la consommation d'énergie. Grâce à sa promotion du moment, il affiche un excellent rapport qualité-prix pour équiper votre buanderie à moindre coût.

Les anticorps thérapeutiques ont déjà transformé la prise en charge de nombreux cancers et de maladies auto-immunes ou inflammatoires. Leur force : reconnaître avec une grande précision une cible biologique impliquée dans une maladie.

Envie de passer à un smartphone haut de gamme sans payer le prix fort ? C'est le moment d'en profiter. Le Samsung Galaxy S25 Ultra AI, l'un des modèles les plus populaires de la marque, bénéficie actuellement d'une remise spectaculaire qui fait tomber son prix à seulement 684 € au lieu de 1...

Impossible de bricoler efficacement sans un équipement digne de ce nom. Si vous cherchez une mallette à outils complète à prix réduit, Cdiscount a peut-être le bon plan qu'il vous faut. Le coffret Makita E-08713, qui réunit 120 outils indispensables dans une mallette robuste et facile à...

Piscine, plage, jardin ou vacances : les enceintes Bluetooth étanches sont devenues les meilleures alliées des écoutes en plein air. Notre sélection rassemble des modèles Waterproof fiables, performants et adaptés à toutes les envies.

Profitez des soldes d'été pour vous offrir le Samsung Galaxy Z Fold6 à un tarif exceptionnel. Ce smartphone pliable haut de gamme, capable de se transformer en tablette de 7,6 pouces, bénéficie actuellement d'une remise de 54 % chez Rakuten, pour une durée limitée.

À quelques kilomètres de Saint-Malo, les rochers de Rothéneuf abritent plus de 300 visages, monstres et corsaires figés dans le granit. Œuvre monumentale de l’abbé Fouéré, ce site sculpté à même la falaise intrigue autant qu’il fascine, entre légende locale et énigme artistique. Un lieu unique...

Profitez pleinement de votre piscine tout l'été sans perdre de temps à nettoyer le fond du bassin. Grâce au robot de piscine sans fil Redroad S2, l'entretien devient plus simple et plus rapide, pour une eau propre et des baignades en toute sérénité.

Les soldes d'été sont le moment idéal pour équiper votre extérieur. Avec son format 3 x 4 m et son prix inférieur à 375 € chez Cdiscount, la tonnelle de jardin HOMALL offre un grand espace ombragé pour profiter des repas en terrasse, des réceptions en plein air ou des journées en famille.

Les soldes battent leur plein chez Cdiscount, avec de nombreux bons plans à la clé. Parmi eux, le robot aspirateur laveur Proscenic Q20 Plus profite d'une offre intéressante pour automatiser le nettoyage de vos sols et alléger votre quotidien.

Profitez des soldes d'été pour vous équiper de la trottinette électrique iScooter DX5. Avec sa remise de 30 %, son autonomie généreuse, son siège et ses nombreux équipements, elle s'impose comme un excellent choix pour vos déplacements du quotidien. Son prix passe ainsi de 819,99 € à seulement...

Norton, Avast, Surfshark, Bitdefender : ce que les applications de sécurité iOS font vraiment, ce qu'elles ne peuvent pas faire, et pourquoi la question mérite d'être posée sérieusement

Le lave-vaisselle Whirlpool WH3FB14BN71X subit une réduction immédiate de 26 % chez Rakuten pendant les soldes d'été. Grande capacité, technologie 6e Sens, séchage NaturalDry et fonctionnement silencieux : un bon plan à saisir avant la fin de l'opération.

Les soirées canapé méritent mieux qu’un écran fatigué. Pendant les soldes d’été, Cdiscount fait passer la Smart TV LED Toshiba 43UA2363DG sous la barre des 200 €, avec un prix qui chute de 249,99 € à seulement 199,90 €, soit 20 % de réduction. Une belle occasion de profiter de la 4K, de Google...

RED by SFR propose un forfait 100 Go à 9,99 €/mois sans engagement, avec assez de data pour le streaming, la navigation GPS et le partage de connexion.

Avant un voyage, les appareils connectés deviennent des compagnons essentiels. ExpressVPN aide à protéger les données personnelles, sécuriser les connexions et profiter d’Internet plus sereinement depuis l’étranger.

La trottinette électrique Ladped LP60 profite des soldes d'été chez Cdiscount avec une réduction de 20 %. Plébiscitée avec une note de 4/5 par les utilisateurs, elle combine moteur de 350 W, siège amovible et format pliable pour faciliter les déplacements du quotidien.

Entre les appareils utilisés par toute la famille, les comptes en ligne et les achats sur Internet, les besoins en sécurité évoluent. Norton 360 Deluxe rassemble plusieurs outils pour accompagner ces usages au quotidien.