La Fondation Internet Watch (IWF) a signalé que ce matériel manipulé pourrait être utilisé pour faire chanter les enfants afin qu'ils envoient encore plus de contenu graphique. Les outils logiciels suggérés dans le manuel sont conçus pour retirer les vêtements des photos de sous-vêtements envoyées par les enfants. L'Internet Watch Foundation (IWF), une organisation caritative qui supprime du contenu sur les abus sexuels sur les enfants sur Internet, a rapporté les premières preuves de l'utilisation par les auteurs de la technologie de l'IA pour créer et distribuer de tels contenus. L'année dernière, l'IWF a mis en garde contre une augmentation des cas d'extorsion où les victimes sont manipulées pour envoyer des images explicites et sont ensuite menacées de libération. Le nouveau développement implique un manuel en ligne anonyme, qui compte près de 200 pages, détaillant le chantage réussi de filles de 13 ans pour envoyer des images nues en ligne. C'est le premier cas connu d'IA utilisée pour créer un matériel d'abus sexuel sur des enfants "incroyablement réaliste". L'Internet Watch Foundation (IWF) a rapporté avoir découvert plus de 275 000 pages Web contenant des abus sexuels sur des enfants en 2023, ce qui est le nombre le plus élevé jamais enregistré par l'organisation. Il s'agit notamment d'une quantité record de contenus de " catégorie A ", qui peuvent impliquer des actes graves tels que le viol, le sadisme et la bestialité. L'IWF a remis le document à l'Agence nationale britannique de lutte contre la criminalité. Auparavant, le parti travailliste avait envisagé d'interdire les outils de nudité qui permettent aux utilisateurs de créer des images de personnes sans leur consentement. L'IWF a déclaré 2023 comme l'année la plus extrême jamais enregistrée pour les abus sexuels sur les enfants en ligne.