Apple est sommé de retirer 8 applications sur 13 visées, contre 5 chez Google, après des mises en demeure envoyées par David Chiu, procureur de San Francisco. En cause : des apps de “nudify” accusées de générer des deepfakes sexuels et d’avoir rapporté des millions de dollars en commissions.
San Francisco met Apple et Google face à leurs propres règles
David Chiu, city attorney de San Francisco, a adressé des lettres de mise en demeure à Apple et Google pour exiger le retrait de 13 applications capables de générer des faux nus non consentis à partir de photos. D’après Wired, huit de ces apps étaient présentes sur l’App Store et cinq sur le Play Store. Le point central est simple : ces services se présentent souvent comme de banals outils de face swap, puis débloquent ensuite des fonctions de nudification ou de génération de contenus sexuels synthétiques.
Le dossier fragilise surtout le discours de modération des deux plateformes. Apple affirme dans son App Store Transparency Report qu’elle examine chaque application pour vérifier sa conformité aux règles de sécurité, de confidentialité et de contenu. En parallèle, son règlement App Review interdit les apps à caractère pornographique ou celles qui facilitent l’exploitation. Chez Google, la politique officielle sur les contenus générés par IA interdit explicitement les deepfakes sexuels non consentis et les applications d’IA principalement destinées à la gratification sexuelle. Sur le papier, la ligne est nette. Dans la pratique, elle fuit.
Le vrai sujet n’est pas 13 apps, mais un modèle de contournement
La nouveauté du dossier ne tient pas seulement au nombre d’applications visées. Elle tient au mode opératoire. Selon Wired, les apps ciblées se vendent d’abord comme des outils de retouche ou de permutation de visages. La promesse problématique apparaît ensuite dans l’usage, parfois sur le site web, parfois derrière un paywall, parfois dans des styles prédéfinis qui sexualisent directement les images. Une application visée aurait dépassé 1 million de téléchargements. Une autre promettrait des vidéos « free and uncensored » selon le reportage.
Ce décalage entre vitrine neutre et usage réel explique pourquoi les boutiques mobiles peinent à bloquer ces services. Les développeurs n’écrivent pas forcément “nudify” dans le nom ni dans la fiche produit. Ils exploitent un angle mort : des outils à double usage qui ressemblent à des éditeurs photo grand public, mais qui peuvent produire des images sexuelles sans consentement.
C’est précisément ce que montre une étude publiée en mai 2026 sur arXiv par des chercheurs liés à Cornell et Georgetown. Les auteurs ont identifié 420 applications de face swap et en ont testé manuellement 155. Résultat : 70 % des apps dotées d’une fonction de face swap ne mettaient en place aucun garde-fou technique contre la génération d’images nues. C’est le chiffre le plus dur du dossier, car il montre que le problème dépasse largement les seules apps ouvertement marketées comme “undress”.
Les chiffres que la source d’origine ne donne pas
Le papier initial résume l’offensive juridique, mais il ne mesure pas l’ampleur économique du marché. Or c’est là que le sujet devient plus embarrassant pour les plateformes. Un livre blanc du programme ASML de Harvard, qui cite les travaux du Tech Transparency Project, indique que les applications de nudification repérées dans les recherches sur les stores ont cumulé 483 millions de téléchargements et plus de 122 millions de dollars de revenus à vie. Converti au taux de référence de la BCE du 17 juillet 2026, où 1 euro vaut 1,1435 dollar, cela représente environ 106 690 000 € (taux utilisé : 1 USD = 0,8745 EUR).
Deux métriques dérivées éclairent mieux la mécanique :
- Le revenu moyen par téléchargement ressort à environ 0,25 dollar, soit près de 0,22 € par installation si l’on applique le taux de la BCE.
- Les huit applications visées sur l’App Store représentent 61,5 % des 13 services ciblés par San Francisco, contre 38,5 % pour les cinq apps du Play Store.
Ces deux indicateurs changent la lecture. D’un côté, le revenu unitaire moyen paraît faible, ce qui suggère un marché tiré par le volume massif, la récurrence des microtransactions et la conversion d’une minorité d’utilisateurs. De l’autre, la majorité des apps mentionnées dans cette action spécifique se trouvait chez Apple, alors même que la marque défend depuis des années une ligne plus fermée et plus stricte sur la sécurité de sa boutique.
Le cadre légal californien devient plus concret
La pression ne vient plus seulement des associations, des médias ou des chercheurs. Elle repose désormais sur un socle juridique plus solide. Le code civil californien définit un « deepfake pornography service » comme un site, une application mobile ou un autre service dont l’objectif principal est de créer des contenus sexuellement explicites numérisés. Le même texte prévoit qu’un acteur qui fournit des services permettant l’exploitation continue d’un tel service doit prendre toutes les mesures nécessaires pour cesser de le soutenir dans un délai de 30 jours après réception des éléments probants.
Autre point décisif : le droit californien précise qu’un simple avertissement ou une clause interdisant à l’utilisateur de produire du contenu sans consentement ne constitue pas une défense suffisante. En clair, afficher “usage interdit sans consentement” dans des conditions générales ne blanchit pas un service dont le produit permet concrètement ce type d’abus.
Le contexte politique renforce cette lecture. En août 2025, le procureur général de Californie, Rob Bonta, a rejoint 47 autres procureurs généraux pour demander à des entreprises de recherche et de paiement de limiter la diffusion de la pornographie deepfake non consentie. Son bureau parlait déjà d’un problème en croissance et appelait les entreprises de l’écosystème à ne pas rester des intermédiaires passifs.
Apple et Google sont déjà couverts par leurs propres politiques
Le point faible des deux groupes n’est pas l’absence de règles. C’est l’écart entre leurs politiques publiques et ce qui remonte encore dans leurs catalogues.
Chez Apple, les App Review Guidelines interdisent les contenus pornographiques ainsi que les usages qui facilitent l’exploitation. La société rappelle aussi dans son rapport de transparence qu’elle vérifie chaque application avant publication. La ligne officielle est donc cohérente avec la demande de retrait.
Chez Google, le texte est encore plus explicite sur l’IA générative. La documentation destinée aux développeurs cite parmi les contenus interdits les deepfakes sexuels non consentis, le harcèlement facilité par l’IA et les applications génératives principalement conçues pour une gratification sexuelle. Google a d’ailleurs indiqué à Wired avoir supprimé « des centaines » d’applications comportant des fonctions de nudification, y compris les cinq apps Android signalées par le bureau de David Chiu.
La conséquence est simple : si ces applications existent encore ou réapparaissent vite après suppression, le problème n’est plus doctrinal. Il devient industriel. Les processus de détection, de revue et de surveillance post-publication restent insuffisants face à des apps qui masquent leur fonction réelle.
Le précédent TTP a déjà montré une défaillance plus large
L’affaire ne sort pas de nulle part. Le Tech Transparency Project avait déjà publié fin 2025 un rapport pointant la présence de dizaines d’apps de nudification dans l’App Store. Puis une enquête d’avril 2026 a aggravé le diagnostic : les systèmes de suggestion de recherche et les annonces des boutiques d’apps pouvaient eux-mêmes orienter des utilisateurs vers ce type de services. Le livre blanc de Harvard reprend ce constat et insiste sur un point plus gênant encore : même quand les plateformes interdisent ces applications dans leurs conditions, leurs systèmes de recommandation et de promotion ne bloquent pas toujours efficacement la découverte commerciale de ces produits.
Autrement dit, les plateformes ne font pas face à un simple problème d’hébergement. Elles font face à un problème de distribution. Et c’est plus grave, parce qu’un store ne se contente pas d’exister comme un répertoire neutre. Il trie, suggère, promeut et monétise.
Le cas d’usage concret est connu : harcèlement scolaire, extorsion, humiliation
Le débat serait déjà sérieux s’il ne concernait que des violations abstraites des règles d’un store. Mais les usages sont documentés et très concrets. Les autorités californiennes, les chercheurs et plusieurs enquêtes de presse décrivent des scénarios récurrents : détournement de photos publiques, faux nus de camarades de classe, cyberharcèlement, menaces, humiliation ciblée de femmes et de mineures, parfois avec demande de rançon ou diffusion virale sur messageries et réseaux sociaux.
C’est là que les applications de face swap “grand public” posent un problème spécifique. Elles abaissent radicalement la barrière d’entrée. Pas besoin de modèle local, pas besoin de GPU, pas besoin de compétence technique. Un smartphone, une photo, quelques taps, un paiement in-app. Le risque n’est donc pas marginal. Il est prêt à l’emploi.
Pourquoi la défense du “simple outil” ne tient plus
Les boutiques d’applications pourraient être tentées d’expliquer qu’un outil de face swap n’est pas illégal par nature. C’est vrai en théorie. C’est faible en pratique. L’étude de mai 2026 montre justement qu’une grande partie de ces apps ne met en place aucune barrière technique contre la génération de contenus sexuels non consentis. Quand 70 % des apps testées n’intègrent aucun garde-fou, le “double usage” cesse d’être un alibi crédible. Il devient une excuse de conception.
Le droit californien pousse dans le même sens : la qualification ne dépend pas uniquement du texte marketing affiché en page d’accueil, mais aussi de la finalité réelle du service et du soutien apporté à son exploitation. Si une application, un site ou un intermédiaire tire des revenus de cette mécanique, la question de la responsabilité devient frontale.
Ce que cette affaire dit du contrôle qualité dans les stores
Mon avis est net : cette séquence abîme davantage Apple que Google en matière d’image. Pas parce que le groupe serait plus exposé juridiquement à ce stade, mais parce qu’il vend depuis toujours la promesse d’un contrôle éditorial plus strict que ses concurrents. Quand huit des 13 apps visées sont signalées sur l’App Store, la promesse de curation premium perd de sa force.
Google, lui, traîne un historique plus permissif sur l’ouverture de son écosystème. Cela ne l’excuse pas. Mais le décalage entre discours et réalité surprend moins. En revanche, sa réponse à Wired suggère au moins une politique de purge en cours, avec la suppression annoncée de centaines d’apps en infraction. Apple, de son côté, n’avait pas commenté avant publication selon le média américain.
Le fond du problème reste commun : les stores savent bloquer un mot-clé, mais ils peinent encore à évaluer l’usage réel d’une IA embarquée, les styles débloqués après achat, les traitements côté serveur et les détournements permis par des interfaces apparemment neutres.
Ce que les plateformes devront changer maintenant
Si cette action de San Francisco produit un effet, il ne se limitera pas au retrait de 13 applications. Les plateformes devront relever au moins cinq points concrets.
1. Auditer les apps à double usage
Les applications de face swap, d’édition photo IA et de génération image-à-image doivent être testées en conditions réelles, pas seulement lues à travers leur fiche store. L’étude arXiv montre que la fonction problématique peut apparaître sans être revendiquée publiquement.
2. Contrôler les flux post-installation
Une partie des fonctions sensibles peut être activée après téléchargement, via achat intégré, contenu distant ou site associé. Un contrôle sérieux doit couvrir l’onboarding, les achats in-app et les styles générés.
3. Bloquer la recommandation commerciale
Les systèmes de recherche, d’auto-complétion et d’annonces ne peuvent plus rediriger vers ces services. Le précédent relevé par le TTP a montré que la distribution algorithmique est un maillon central.
4. Exiger des garde-fous techniques minimaux
Refus de prompts explicites, détection des visages réels, filtres de sécurité sur les sorties, limitation des uploads : aucun de ces éléments n’est “non communiqué” au niveau sectoriel, mais leur déploiement app par app reste opaque. Ce niveau d’opacité n’est plus défendable.
5. Rendre la modération mesurable
Apple publie un rapport de transparence annuel. C’est utile, mais trop général pour ce type d’abus. Il faudra des données plus fines : nombre d’apps IA retirées pour deepfakes sexuels, délais de retrait, récurrence par développeur, et volume de signalements traités.
Un seul fait résume le dossier
Les plateformes ont déjà les règles. La recherche académique montre déjà l’ampleur du contournement. Le droit californien prévoit déjà des obligations de retrait et de cessation de service. Et le marché a déjà prouvé qu’il savait monétiser massivement ces outils, avec plus de 122 millions de dollars de revenus cumulés selon les travaux cités par Harvard. À ce stade, le maintien de telles apps dans un store n’a plus grand-chose d’un accident. Il ressemble surtout à un retard de contrôle devenu trop visible.
Source d’autorité : https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/
Mon avis :
Cette affaire confirme une faille nette du contrôle d’Apple et Google : malgré leurs règles, 13 apps de deepfake sexuel restaient actives et monétisées. Leur force, c’est la capacité à retirer vite une app signalée ; leur limite, bien plus grave, c’est l’échec du filtrage proactif sur des usages manifestement abusifs.
