Con el auge de la inteligencia artificial generativa (GenAI), han surgido nuevas dimensiones de explotación infantil, con mayor capacidad para causar daño y una mayor complejidad en la aplicación de la ley. Del mismo modo que las herramientas GenAI actúan como multiplicadores de recursos para las empresas legítimas, también pueden multiplicar el alcance de quienes cometen abusos digitales contra menores. Se están utilizando chatbots para automatizar las interacciones de captación con las víctimas, lo que pone en peligro a más niños. Otra tendencia alarmante es el uso de la GenAI para generar materiales de abuso sexual infantil (CSAM), inundando Internet con imágenes y medios deepfake explícitos a una escala extraordinaria.
El alcance de estos delitos y el daño que causan a los niños están aumentando a un ritmo sin precedentes. El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) informa de un aumento de más de 64 veces en los delitos relacionados con la IA generativa entre 2024 y 2025 en los Estados Unidos. Además del trauma psicológico, las víctimas pueden ser objeto de extorsión económica, coaccionadas para autolesionarse o incluso convertirse en blanco de la trata de personas. La intensidad y la expansión de este vector exigen una respuesta contundente por parte de las fuerzas del orden, incluido el uso de inteligencia legal para detectar y eliminar el contenido CSAM, y luego procesar a los responsables.
Mecanismos de detección de CSAM creados por GenAI
Los autores utilizan sofisticadas herramientas de GenAI para generar grandes cantidades de CSAM con poco esfuerzo. A menudo explotan a sus víctimas sin llegar a contactar con ellas directamente, lo que complica la investigación y priva a las fuerzas del orden de pruebas cruciales. Dado que la detección de CSAM basado en GenAI suele conducir al hallazgo de grandes cantidades de imágenes, así como a empresas criminales más amplias, están surgiendo rápidamente contramedidas de inteligencia legales. La plataforma SS8 abarca todo el espectro de técnicas potenciales, aprovechando tanto las capacidades convencionales como las propias, que incluyen enfoques novedosos basados en la IA y el aprendizaje automático.
Cada vez son más las soluciones específicas, como wasitAI, que analizan directamente las imágenes —incluidas las de material pornográfico infantil (CSAM)— para detectar artefactos visuales e incoherencias que sugieren la intervención de la IA generativa. Estas imágenes suelen presentar signos reveladores, como texturas poco naturales o repetidas, imperfecciones en detalles como las manos o los dientes, y asimetrías inesperadas. Las adiciones o modificaciones a imágenes naturales —como las versiones pornográficas de fotos inocuas— a menudo no se integran con naturalidad en el original, por ejemplo, debido a que la iluminación, las sombras y los reflejos no coinciden con la escena. La incorporación de esta información a los marcos de inteligencia legal mediante API permite identificar una proporción considerable de deepfakes de CSAM, especialmente cuando se dispone de varias imágenes relacionadas para compararlas. La búsqueda inversa de imágenes suele permitir relacionar el CSAM creado con GenAI con las imágenes originales en línea que fueron modificadas mediante GenAI, lo que hace que el análisis forense sea más eficaz.
La propia plataforma de inteligencia legal tiene la capacidad adicional de revelar el uso de GenAI en las fotos, incluso mediante el análisis de los metadatos del formato de archivo de imagen intercambiable (EXIF) incrustados en ellas. La información EXIF se adjunta automáticamente a las imágenes, como los detalles sobre la cámara y el software de edición utilizados, así como la fecha, la hora y la ubicación en la que se creó la imagen. Cuando los autores no insertan información falsa manualmente, pueden quedar al descubierto si el generador de imágenes GenAI no incrusta los perfiles EXIF, genera anomalías e inconsistencias en los EXIF o proporciona perfiles sospechosamente escasos. En algunos casos, las herramientas GenAI incluso se identifican explícitamente en los metadatos.
Tecnología y políticas para acabar con la explotación impulsada por la inteligencia artificial
Una vez detectado el GenAI CSAM, las medidas de inteligencia legales más amplias ayudan a los investigadores a conocer el alcance del delito, su conexión con otros delitos y, en última instancia, la identidad de los delincuentes. Tanto SS8 Intellego XT, instalado en las propias instalaciones, como la próxima plataforma basada en la nube SS8 Insight proporcionan una detección y un análisis profundos y automatizados de estos materiales, lo que convierte el análisis forense de los mismos en un factor de primer orden para las investigaciones. El personal encargado de hacer cumplir la ley analiza las imágenes y la información subyacente en el contexto de otros datos de la investigación, como las comunicaciones interceptadas legalmente, los servicios de localización y la inteligencia de fuentes abiertas. Comprender a fondo la procedencia de los materiales también puede permitir identificar a los niños en situación de riesgo que necesitan protección inmediata y aclarar si los cargos se refieren a la producción y el abuso o a la distribución de material sintético prohibido.
Hoy en día, el entorno de aplicación de la ley sigue siendo complejo. Algunas jurisdicciones tratan el material sintético de abuso sexual infantil con un significado jurídico diferente al de las imágenes «reales» y, en algunos casos, el enjuiciamiento puede limitarse a las leyes sobre obscenidad, o incluso los materiales ofensivos pueden estar protegidos como libertad de expresión. La tendencia mundial abrumadora es hacia la criminalización explícita, aunque la rápida evolución de estas leyes deja una ambigüedad que puede complicar el enjuiciamiento, especialmente en los casos internacionales. Existe una clara necesidad de armonizar las definiciones legales y las leyes a nivel mundial.
Además, los sistemas de IA generativa deben diseñarse de manera que no puedan producir representaciones sexualizadas de menores, utilizando medidas como datos de entrenamiento limpios, filtros estrictos de entrada y salida, modelos de detección de edad y una gobernanza sólida. También deben supervisar los patrones de abuso denunciables y aplicar políticas estrictas de seguridad infantil a lo largo de todo el ciclo de vida del producto. Los futuros avances tecnológicos y las estrategias de aplicación transfronteriza son oportunos y fundamentales en todas las entidades gubernamentales y comerciales para proteger a los más vulnerables de la sociedad del uso malintencionado de GenAI.
Sobre Syed Hussain
Syed cuenta con más de 20 años de experiencia en ciberseguridad, interceptación e inteligencia de datos, y ha desempeñado puestos de liderazgo tanto en ingeniería como en gestión de productos. Como vicepresidente de gestión de productos para los productos de inteligencia legal de SS8, aporta una profunda experiencia técnica en materia de seguridad a nivel nacional, fuerzas del orden y proveedores de servicios. Ha dirigido la arquitectura y el diseño de la interceptación basada en la nube para señalización, metadatos y contenido en 5G y computación periférica móvil (Mobile Edge Computing). Syed representa a SS8 en los organismos de normalización ETSI y 3GPP, donde contribuye a la elaboración de diversas normas y especificaciones de interfaz. Es licenciado en Informática e Ingeniería. Puedes obtener más información sobre Syed en superfil de LinkedIn.
Acerca de SS8 Networks
Como líder en inteligencia legal y de localización, SS8 se compromete a hacer que las sociedades sean más seguras. Nuestra misión es extraer, analizar y visualizar inteligencia crítica, proporcionando información en tiempo real que ayuda a salvar vidas. Con 25 años de experiencia, SS8 es un socio de confianza de las mayores agencias gubernamentales y proveedores de comunicaciones del mundo, manteniéndose constantemente a la vanguardia de la innovación.
Discovery es la última solución de SS8. Se ofrece en forma de suscripción y es un multiplicador de la fuerza de investigación para que la policía local y estatal pueda fusionar, filtrar y analizar volúmenes masivos de datos de investigación en tiempo real.
La cartera de productos de supervisión y análisis de datos Intellego® XT está optimizada para que las fuerzas de seguridad capturen, analicen y visualicen conjuntos de datos complejos para obtener inteligencia de investigación en tiempo real.
LocationWise ofrece la mayor precisión auditada de localización de redes en todo el mundo, proporcionando inteligencia de localización activa y pasiva para servicios de emergencia, fuerzas de seguridad y operadores de redes móviles.
La plataforma de mediación Xcipio® satisface las exigencias de la interceptación legal en cualquier tipo de red y ofrece la posibilidad de transcodificar (convertir) entre versiones de traspaso de interceptación legal y familias estándar.
Para más información, Contacto en [email protected].
