Avec l'essor de l'intelligence artificielle générative (GenAI), de nouvelles dimensions de l'exploitation des enfants ont vu le jour, avec une capacité accrue à nuire et une complexité croissante en matière d'application de la loi. Tout comme les outils GenAI agissent comme des multiplicateurs de ressources pour les entreprises légitimes, ils peuvent également multiplier la portée de ceux qui commettent des abus numériques sur des enfants. Des chatbots sont déployés pour automatiser les interactions de grooming avec les victimes, exposant ainsi davantage d'enfants à des risques. Une autre tendance alarmante est l'utilisation de la GenAI pour générer du matériel pédopornographique (CSAM), inondant Internet d'images et de médias deepfake explicites à une échelle extraordinaire.
L'ampleur de ces crimes et les dommages qu'ils causent aux enfants augmentent à un rythme sans précédent. Le Centre national pour les enfants disparus et exploités (NCMEC) fait état d'une multiplication par plus de 64 des infractions liées à l'IA générative entre 2024 et 2025 aux États-Unis. Outre les traumatismes psychologiques, les victimes peuvent être soumises à des extorsions financières, contraintes à s'automutiler, voire devenir la cible de trafics d'êtres humains. L'intensité et l'expansion de ce vecteur exigent une réponse ferme de la part des forces de l'ordre, notamment le recours à des moyens de renseignement légaux pour détecter et supprimer les contenus CSAM, puis poursuivre les responsables en justice.
Mécanismes de détection des contenus pédopornographiques créés par l'IA générative
Les auteurs utilisent des outils GenAI sophistiqués pour générer d'énormes quantités de CSAM sans grand effort. Ils exploitent souvent leurs victimes sans jamais les contacter directement, ce qui complique les enquêtes et prive les forces de l'ordre d'indices cruciaux. Étant donné que la détection de CSAM basé sur GenAI conduit souvent à la découverte d'une multitude d'images, ainsi qu'à des entreprises criminelles plus vastes, des contre-mesures légales en matière de renseignement apparaissent rapidement. La plateforme SS8 englobe tout l'éventail des techniques potentielles, s'appuyant à la fois sur des capacités conventionnelles et propriétaires, notamment des approches novatrices basées sur l'IA et l'apprentissage automatique.
Un nombre croissant de solutions spécialisées, telles que wasitAI, analysent directement les images — y compris les images pédopornographiques — afin de mettre en évidence les artefacts visuels et les incohérences qui suggèrent l’intervention d’une IA générative. Ces images comportent souvent des signes révélateurs, tels que des textures artificielles ou répétitives, des imperfections dans les détails (comme les mains ou les dents) et des asymétries inattendues. Les ajouts ou modifications apportés à des images naturelles, comme les versions pornographiques de photos anodines, ne s’intègrent souvent pas harmonieusement à l’original, notamment en raison d’un éclairage, d’ombres ou de reflets qui ne correspondent pas à la scène. L’intégration de ces informations dans des cadres de renseignement légal via des API permet d’identifier une part importante des deepfakes de CSAM, en particulier lorsque plusieurs images associées sont disponibles à des fins de comparaison. La recherche d’images inversée permet souvent de faire correspondre des contenus CSAM créés par l’IA générative à des images originales trouvées en ligne qui ont été modifiées à l’aide de l’IA générative, ce qui rend l’analyse médico-légale plus efficace.
La plateforme de renseignement légale elle-même dispose de capacités supplémentaires pour révéler l'utilisation de GenAI dans les photos, notamment en analysant les métadonnées au format EXIF (Exchangeable Image File Format) qui y sont intégrées. Les informations EXIF sont automatiquement jointes aux images, telles que les détails sur l'appareil photo et le logiciel d'édition utilisés, ainsi que la date, l'heure et le lieu où la photo a été prise. Lorsque les auteurs ne parviennent pas à insérer manuellement de fausses informations, ils peuvent être démasqués si le générateur d'images GenAI ne parvient pas à intégrer les profils EXIF, génère des anomalies et des incohérences EXIF ou fournit des profils suspects par leur caractère succinct. Dans certains cas, les outils GenAI s'identifient même explicitement dans les métadonnées.
Technologie et politique visant à mettre fin à l'exploitation fondée sur l'IA
Une fois que GenAI CSAM a été détecté, des mesures de renseignement légales plus larges aident les enquêteurs à déterminer l'étendue du crime, son lien avec d'autres infractions et, finalement, l'identité des criminels. La plateforme SS8 Intellego XT sur site et la plateforme SS8 Insight basée sur le cloud, qui sera bientôt disponible, fournissent toutes deux une détection et une analyse approfondies et automatisées de ces contenus, faisant de leur analyse médico-légale un élément essentiel des enquêtes. Les forces de l'ordre analysent les images et les informations sous-jacentes dans le contexte d'autres données d'enquête, telles que les communications légalement interceptées, les services de localisation et les renseignements provenant de sources ouvertes. Une compréhension approfondie de la provenance des contenus peut également permettre d'identifier les enfants en danger qui ont besoin d'une protection immédiate et de clarifier si les accusations portent sur la production et l'abus ou sur la distribution de contenus synthétiques interdits.
Aujourd'hui, le contexte juridique reste complexe. Certaines juridictions traitent les images synthétiques de pédopornographie différemment des images « réelles » sur le plan juridique et, dans certains cas, les poursuites peuvent se limiter à des lois sur l'obscénité, voire à la protection de ces contenus au titre de la liberté d'expression. La tendance mondiale est clairement à la criminalisation explicite, mais l'évolution rapide de ces lois laisse subsister une ambiguïté qui peut compliquer les poursuites, en particulier dans les affaires internationales. Il existe un besoin évident d'harmonisation des définitions juridiques et des lois à l'échelle mondiale.
De plus, les systèmes GenAI doivent être conçus de manière à ne pas pouvoir produire de représentations sexualisées de mineurs, grâce à des mesures telles que des données d'entraînement propres, des filtres stricts pour les invites et les sorties, des modèles de détection de l'âge et une gouvernance rigoureuse. Ils doivent également surveiller les schémas d'abus à signaler et appliquer des politiques strictes en matière de sécurité des enfants tout au long du cycle de vie du produit. Les progrès technologiques futurs et les stratégies d'application transfrontalières sont opportuns et essentiels pour les entités gouvernementales et commerciales afin de protéger les plus vulnérables de la société contre l'utilisation malveillante de la GenAI.
À propos de Syed Hussain
Syed possède plus de 20 ans d’expérience dans les domaines de la cybersécurité, de l’interception et de l’intelligence des données, et a occupé des postes de direction tant dans l’ingénierie que dans la gestion de produits. En tant que vice-président chargé de la gestion des produits de renseignement légal chez SS8, il apporte une expertise technique approfondie dans les domaines de la sécurité nationale, de l’application de la loi et des fournisseurs de services. Il a dirigé l’architecture et la conception d’une solution d’interception basée sur le cloud pour la signalisation, les métadonnées et le contenu dans les environnements 5G et Mobile Edge Computing. Syed représente SS8 au sein des organismes de normalisation ETSI et 3GPP, où il contribue à l'élaboration de diverses normes et spécifications d'interface. Il est titulaire d'une licence en informatique et ingénierie. Pour en savoir plus sur Syed, consultez sonprofil LinkedIn.
À propos de SS8 Networks
En tant que leader dans le domaine de l'intelligence légale et de la localisation, SS8 s'engage à rendre les sociétés plus sûres. Notre mission est d'extraire, d'analyser et de visualiser les informations critiques, en fournissant des informations en temps réel qui aident à sauver des vies. Avec 25 ans d'expertise, SS8 est un partenaire de confiance des plus grandes agences gouvernementales et des plus grands fournisseurs de communication, restant constamment à la pointe de l'innovation.
Discovery est la dernière solution de SS8. Proposée sous forme d'abonnement, elle permet de multiplier la force d'investigation des polices locales et nationales en fusionnant, filtrant et analysant des volumes massifs de données d'investigation - en temps réel.
Le portefeuille de surveillance et d'analyse de données Intellego® XT est optimisé pour les organismes d'application de la loi afin de capturer, d'analyser et de visualiser des ensembles de données complexes pour obtenir des renseignements d'enquête en temps réel.
LocationWise offre la plus grande précision de localisation de réseau vérifiée au monde, fournissant des informations de localisation actives et passives aux services d'urgence, aux forces de l'ordre et aux opérateurs de réseaux mobiles.
La plateforme de médiation Xcipio® répond aux exigences de l'interception légale dans n'importe quel type de réseau et offre la possibilité de transcoder (convertir) entre les versions de transfert d'interception légale et les familles standard.
Pour en savoir plus, contactez-nous à l'adresse suivante [email protected].
