La diffusion de contenus pornographiques générés ou modifiés par intelligence artificielle soulève une question sensible: que se passe-t-il quand le corps d’une personne réelle est utilisé sans son accord, notamment via des deepfakes ? Au-delà du choc visuel, acteurs et créateurs décrivent des atteintes à la réputation, des risques financiers et une atteinte au consentement, difficile à encadrer juridiquement.

Un débat juridique encore flou

Aux États-Unis, la qualification d’une telle pratique au regard de la notion de « fair use » reste incertaine. Plusieurs procédures en justice sont en cours, et la question est discutée au même titre que d’autres litiges liés au droit d’auteur et à l’usage de contenus pour entraîner des modèles d’IA.

Dans ce contexte, des créateurs estiment que l’argument de l’usage « éthique » ou légal ne suffit pas à dissiper le malaise. Ils soutiennent que des personnes ayant créé du contenu dans un cadre donné n’auraient pas pu anticiper une réutilisation permettant de générer de nouvelles images et de remplacer, en partie ou totalement, leur travail.

Le consentement « rétrospectif »

Le cœur du problème, selon plusieurs acteurs du secteur, tient au consentement. Les contrats signés avant l’essor de l’IA ne pouvaient pas prévoir les usages liés aux deepfakes, estiment-ils. Certains décrivent même des accords interprétables comme une autorisation large à exploiter les images via des technologies futures.

Le parallèle avec l’évolution des supports (par exemple du VHS au DVD) est régulièrement évoqué, mais il est jugé insuffisant: l’entraînement d’un modèle pour produire un contenu nouveau, potentiellement concurrent, ne modifie pas seulement la « diffusion », il change la nature de l’usage.

Un impact économique et une forme de piratage

Les pertes financières sont également au centre des préoccupations. Des créateurs comparent parfois ces pratiques à d’autres effets observés dans l’écosystème numérique lorsque des outils d’IA réduisent l’incitation à cliquer ou à consommer directement un contenu original. Dans le cas des contenus adultes, la crainte exprimée est de voir le public se tourner vers des productions synthétiques plutôt que vers les sites payants des créateurs.

Certains acteurs résument la situation comme une manière de « pirater » et de déformer leur travail, tout en profitant potentiellement de leur notoriété.

Escroqueries et usurpation d’identité

Au-delà des enjeux de consentement et de revenus, des témoignages font état d’utilisations frauduleuses de deepfakes. Une créatrice évoque un scénario particulièrement préoccupant: une discussion avec un fan sur une application de sexting aurait mené à la découverte que l’homme avait été victime d’une arnaque. Dans ce cas, un imposteur aurait utilisé un deepfake généré à partir de son image pour tromper la personne et obtenir de l’argent.

D’autres victimes auraient subi des pertes similaires, avant que des campagnes de désinformation ne ciblent la créatrice, parfois avec des accusations mensongères. Ces histoires soulignent une réalité: même lorsqu’il s’agit d’un contenu « fabriqué », les conséquences peuvent être très concrètes pour les personnes reproduites.

Des risques sur la réputation et sur les attentes du public

Des créateurs disent aussi craindre l’usage de leur image pour produire des scènes qu’ils ne tournent pas. Le préjudice ne serait pas seulement financier: il pourrait aussi altérer la relation de confiance avec le public, en créant de fausses attentes sur le type de contenus qu’ils seraient prêts à produire.

Certains mentionnent enfin la crainte que des modèles soient entraînés sur des personnes réelles afin de générer des contenus qui ne reflètent pas leurs limites. Une fois diffusé en ligne, le contenu modifié peut rester disponible, ce qui complique ensuite toute tentative de correction ou de retrait.

Quelles réponses possibles ?

Pour réduire le risque d’atteinte au consentement, plusieurs pistes se dessinent, sans qu’elles soient encore unanimement efficaces. Elles passent notamment par des mécanismes de traçabilité, des procédures renforcées de retrait lorsque l’usurpation est démontrée, et une meilleure compréhension des clauses contractuelles préexistantes. Sur le plan de la prévention, les plateformes et les acteurs pourraient aussi développer des dispositifs de détection et de signalement plus rapides.

À titre pratique, certaines personnes s’intéressent à des outils de protection numérique pour sécuriser leurs comptes et limiter l’abus. Par exemple, un dispositif de sécurité comme une clé de sécurité matérielle peut renforcer l’accès aux comptes contre des prises de contrôle non autorisées. Pour la surveillance, un service de recherche d’images inversée peut aider à repérer plus vite des réutilisations suspectes de visuels.