Además de sus numerosas ventajas sociales y económicas, Internet ofrece también un enorme campo de acción para cometer delitos en línea o ser víctima de ellos. Desde el fraude financiero al acoso, muchas de estas transgresiones son mucho más antiguas que la tecnología utilizada para perpetrarlas, pero la digitalización ayuda a los delincuentes a delinquir de forma más eficiente, como ocurre con los correos electrónicos fraudulentos o el reclutamiento de grupos ad hoc de personas para atacar a otras en línea.
El rápido crecimiento de la IA se suma a esa realidad, alimentando tanto los propios delitos como la respuesta de las fuerzas de seguridad ante ellos. La IA generativa, con su capacidad para crear espontáneamente lenguaje, fotos y vídeos realistas, lleva esta tendencia a un nuevo y peligroso nivel. Como suele ser el caso, los más vulnerables de la sociedad -en particular los niños- sufren una parte alarmantemente grande del daño y recientemente el FBI emitió una advertencia específicamente relacionada con esta amenaza.
Grooming de menores con una violación sistemática de la confianza
Los delitos en línea contra menores suelen comenzar cuando el autor engaña a las víctimas para establecer una relación y ganarse su confianza, haciéndose pasar, por ejemplo, por otro menor con el que comparte intereses. Este "grooming" suele convencer al niño víctima para que publique fotos o vídeos indecentes de sí mismo que, finalmente, se intercambian o venden en línea. Esa distribución puede tener lugar en la web oscura o estar apenas disimulada bajo la superficie de lugares legítimos como las redes sociales.
Lamentablemente, las tecnologías y técnicas creadas para funciones legítimas de marketing pueden adaptarse para este fin. Por ejemplo, los chatbots de inteligencia artificial pueden mantener conversaciones realistas con víctimas potenciales, y estas herramientas son cada vez más sofisticadas. Destinado a usos como la llamada en frío automatizada o la atención al cliente, este software puede proporcionar conversaciones escritas realistas y convincentes e incluso hablar directamente con las víctimas utilizando una gama de voces y personalidades seleccionables.
La automatización de esta parte del proceso de captación hace que los delincuentes sean mucho más peligrosos, ya que aumenta la escala de su alcance. Tradicionalmente, estos delincuentes se veían limitados por la necesidad de interactuar directamente con los niños a los que se dirigían, lo que podía requerir muchas conversaciones y un esfuerzo considerable. La IA y las tecnologías relacionadas pueden reducir ese esfuerzo de forma significativa, desde el aprendizaje automático que identifica a las víctimas potenciales de la captación basándose en su presencia en línea hasta los robots generativos de IA que mantienen conversaciones ilícitas con ellas.
La terrible nueva frontera del CSAM "Deepfake
La IA generativa puede crear una nueva generación de materiales de abuso sexual infantil generados por ordenador. Estas imágenes y medios podrían suponer una amenaza aún mayor para la sociedad que los materiales "auténticos", ya que pueden generarse a gran escala y solo están limitados por una imaginación perversa. Deepfake CSAM no requiere grooming y se crea utilizando imágenes legítimas de las redes sociales u otros lugares legales en línea - una práctica extremadamente común.
Las campañas Deepfake CSAM protagonizadas por famosos y otras personalidades públicamente reconocibles -que probablemente serían imposibles de generar de otro modo- también podrían ser especialmente deseables y/o lucrativas para los delincuentes. La posibilidad de que tales materiales reciban una mayor atención pública podría hacerlos más traumáticos para las víctimas.
Tanto si deepfake CSAM representa a personas reales como si no, tiene el potencial de ampliar el número de víctimas que estos delitos causan en las personas y en la sociedad. Además, reduce la necesidad de que los infractores interactúen con sus víctimas, lo que dificulta la detección de sus acciones. En lugar de pasar meses estableciendo contacto con una víctima y manipulándola, los agresores pueden actuar de forma rápida e independiente. Esto deja menos pistas y menos posibilidades de detección por parte de las fuerzas de seguridad y otras personas comprometidas con la protección de los niños.
La complejidad y la esperanza de dar una respuesta
Como ocurre con demasiada frecuencia, las fuerzas y cuerpos de seguridad (fuerzas y cuerpos de seguridad) se encuentran en una lucha con los delincuentes por el dominio tecnológico. Identificar a los posibles infractores (así como a sus posibles víctimas) es un reto debido al alcance y la complejidad tecnológicos, y construir un caso para detener el daño y procesar a los autores es aún más difícil. A medida que estos delitos evolucionan por medio de la IA y más, las fuerzas de seguridad deben estar a la altura del desafío con tecnologías similares y las tácticas correspondientes.
Por ejemplo, una LEA podría crear un sitio señuelo que parezca dirigido por un niño o hacerse pasar por una víctima potencial de grooming. Estas medidas se adaptan bien al uso de IA para aumentar el alcance, pero los conocimientos necesarios para ejecutar una operación de este tipo escasean en la comunidad de LEA, al igual que en otros lugares. Las consideraciones presupuestarias se suman a la dificultad. La facilidad de uso de estas herramientas aumentará, pero en una escalada cara a cara de habilidades y tácticas, los delincuentes pueden tener a veces las de ganar.
En respuesta, la lucha para prevenir los delitos contra menores asistidos por IA continuará en muchos frentes, incluso por parte de docenas de organizaciones sin ánimo de lucro. Por ejemplo, la Internet Watch Foundation (IWF) ha desarrollado mecanismos para identificar digital y automáticamente los CSAM mediante el hash MD5. SS8 se basa en este trabajo, incorporando la lista hash CSAM de IWF en su centro de supervisión legal Intellego XT de próxima generación para ayudar a las LEA a contrarrestar el daño potencial a los niños, a los investigadores que deben revisar el material CSAM y a la sociedad en general.
Acerca de Kevin McTiernan
Kevin cuenta con más de 20 años de amplia experiencia en los sectores de las telecomunicaciones y la seguridad de redes. En SS8, Kevin es el vicepresidente de Soluciones Gubernamentales y es responsable de liderar la visión, el diseño y la entrega de las soluciones gubernamentales de SS8, incluida la cartera de cumplimiento de Xcipio®. Puede obtener más información sobre Kevin en su perfil de LinkedIn haciendo clic aquí.
Acerca de SS8 Networks
Como líder en Inteligencia Legal y de Localización, SS8 ayuda a que las sociedades sean más seguras. Nuestro compromiso es extraer, analizar y visualizar la inteligencia crítica que proporciona a los cuerpos de seguridad, agencias de inteligencia y servicios de emergencia la información en tiempo real que ayuda a salvar vidas. Nuestras soluciones de alto rendimiento, flexibles y preparadas para el futuro también permiten a los operadores de redes móviles cumplir la normativa con un mínimo de interrupciones, tiempo y costes. Las mayores agencias gubernamentales, proveedores de comunicaciones e integradores de sistemas de todo el mundo confían en SS8.
La cartera de productos de supervisión y análisis de datos Intellego® XT está optimizada para que las fuerzas de seguridad capturen, analicen y visualicen conjuntos de datos complejos para obtener inteligencia de investigación en tiempo real.
LocationWise ofrece la mayor precisión auditada de localización de redes en todo el mundo, proporcionando inteligencia de localización activa y pasiva para servicios de emergencia, fuerzas de seguridad y operadores de redes móviles.
La plataforma de mediación Xcipio® satisface las exigencias de la interceptación legal en cualquier tipo de red y ofrece la posibilidad de transcodificar (convertir) entre versiones de traspaso de interceptación legal y familias estándar.
Para más información, Contacto en info@ss8.com.
