Die Internet Watch Foundation (IWF) berichtete, dass diese manipulierten Inhalte dazu benutzt werden könnten, Kinder zu erpressen, um noch mehr pornografische Inhalte zu senden. Die im Handbuch vorgeschlagenen Software-Tools sind dazu gedacht, Kleidung aus Unterwäsche-Aufnahmen zu entfernen, die von Kindern gesendet wurden. Die Internet Watch Foundation (IWF), eine Wohltätigkeitsorganisation, die Material über sexuellen Missbrauch von Kindern aus dem Internet entfernt, hat die ersten Beweise für Täter gemeldet, die KI-Technologie verwenden, um solche Inhalte zu erstellen und zu verbreiten. Letztes Jahr warnte der IWF vor einem Anstieg von Erpressungsfällen, bei denen Opfer manipuliert werden, um explizite Bilder zu senden und dann mit ihrer Freilassung bedroht werden. Die neue Entwicklung beinhaltet ein anonymes Online-Handbuch, das fast 200 Seiten umfasst und detailliert die erfolgreiche Erpressung von 13-jährigen Mädchen beschreibt, um Nacktbilder online zu senden. Dies ist der erste bekannte Fall, in dem KI verwendet wird, um "erstaunlich realistisches" Material über sexuellen Missbrauch von Kindern zu erstellen. Die Internet Watch Foundation (IWF) berichtete, dass sie im Jahr 2023 über 275.000 Webseiten mit sexuellen Missbrauchs-Inhalten entdeckt haben, was die höchste Zahl ist, die jemals von der Organisation erfasst wurde. Dazu gehört eine Rekordmenge an Material der "Kategorie A", das zu schweren Handlungen wie Vergewaltigung, Sadismus und Bestialitäts führen kann. Die IWF übergab das Dokument an die britische National Crime Agency. Zuvor hatte die Labour-Partei ein Verbot von Nudisierungstools in Betracht gezogen, die es Nutzern ermöglichen, Bilder von Menschen ohne deren Zustimmung zu erstellen. Die IWF erklärte das Jahr 2023 zum extremsten Jahr für sexuellen Missbrauch von Kindern im Internet.