La proposition de valeur fondamentale de l'IA est la possibilité d'aider les gens à mieux utiliser les données, y compris à partir d'informations qui sont beaucoup trop volumineuses pour être analysées par les humains, en générant des informations beaucoup plus rapidement qu'il ne serait possible de le faire autrement. La puissance de ces capacités entraîne inévitablement le risque de résultats indésirables. De mauvais acteurs peuvent utiliser l'IA de manière trompeuse, pour manipuler la manière dont l'information crée l'opinion publique et oriente les comportements.
Les enjeux politiques et économiques des élections en font une cible privilégiée pour les ingérences utilisant la manipulation par l'IA. Aux États-Unis, par exemple, une évaluation des menaces réalisée par le bureau du directeur du renseignement national (ODNI) révèle que des acteurs étatiques continuent d'exercer une influence malveillante sur les élections américaines. Le développement rapide de l'IA générative depuis les élections de mi-mandat de 2022 laisse présager que ces activités seront plus sophistiquées et plus dommageables en 2024.
La Chine aurait utilisé des comptes TikTok pour cibler des candidats avec de la propagande en 2022, et le rapport suggère que l'activité secrète pourrait persister et s'intensifier en 2024. La Russie influence secrètement les élections américaines depuis des décennies, et le souhait de perturber le soutien occidental à la guerre en Ukraine pourrait intensifier ces efforts. L'Iran et d'autres pays ont également mené des opérations d'influence lors d'élections américaines antérieures et pourraient le faire à nouveau, avec des techniques raffinées qui pourraient potentiellement être améliorées grâce à l'IA.
Aspects clés de l'influence de l'IA sur les élections
L'influence que l'IA peut exercer sur les élections va des effets légitimes ou même involontaires aux programmes de désinformation malveillants. Par exemple, en établissant des profils d'électeurs ciblés, les campagnes politiques peuvent identifier les sujets qui intéressent le plus ces personnes, afin de personnaliser les messages publicitaires sur leur candidat. L'IA étend clairement la valeur de ce cas d'utilisation apparemment inoffensif, tandis que son potentiel de criminalité est attesté par le scandale des données de Cambridge Analytica pendant l'élection de 2016.
De nombreux utilisateurs se servent de plus en plus d'outils d'IA générative tels que ChatGPT comme moteurs de recherche pour recueillir des informations, ce qui risque de les désinformer. Par exemple, les modèles d'IA basés sur des ensembles statiques d'informations obsolètes sont incapables de générer des idées nouvelles, et ils peuvent déformer les actions et les positions des candidats. Les données spécifiques sur lesquelles ces modèles s'appuient (et ce qu'ils laissent de côté) sont essentielles à la précision, et les gens peuvent être mal informés simplement à cause de cette limitation technologique.
La désinformation intentionnelle est également un sujet de préoccupation, ajoutant de nouvelles dimensions à la longue histoire des campagnes de dénigrement. Par exemple, l'IA deepfake images, audio ou vidéo pourrait prétendre faussement représenter un candidat ou ses alliés, afin de les rabaisser, de semer le doute parmi leurs partisans ou de réduire le taux de participation aux élections. Les robots automatisés peuvent identifier des opportunités dans les médias sociaux et autres contenus Internet pour amplifier certains messages et en contrer d'autres avec des commentaires ou d'autres contenus.
La complexité de l'interprétation de ces actions tient au fait que, même si elles sont répréhensibles, elles n'enfreignent pas nécessairement la loi. Dans de nombreux cas, les enquêteurs peuvent être limités à des mesures telles qu'implorer les entreprises de médias sociaux de suspendre ou de supprimer les comptes incriminés. Nombre d'entre elles refuseront de le faire, que ce soit pour protéger la liberté d'expression, préserver la bonne volonté des abonnés ou promouvoir leurs propres intérêts politiques. Il peut en résulter une influence illicite sur les élections, des atteintes à la réputation et des violences potentielles.
Mesures visant à protéger l'intégrité des élections
L'implication de l'IA dans l'ingérence électorale est en grande partie une question d'échelle, imitant ce que les opérateurs humains pourraient faire, mais à un volume beaucoup plus important. C'est notamment le cas des opérations de propagande menées par des acteurs étatiques, qui ont tendance à être de grande envergure. En raison de cette influence considérable, il est souhaitable que les autorités chargées de l'application de la loi élaborent des stratégies et des techniques permettant de détecter et d'évaluer l'ingérence de l'IA dans les élections.
La recherche contribue à faire la lumière sur la désinformation générée par l'IA, en révélant des moyens de la détecter. L'une de ces méthodes consiste à repérer les cas où des messages d'erreur générés par l'IA, tels que "Je suis désolé, je ne peux pas générer...", sont publiés avec le contenu principal. Bien que cette approche ne puisse révéler qu'une petite partie des messages générés par l'IA et qu'elle puisse être contournée par des acteurs sophistiqués, elle peut parfois révéler des campagnes de désinformation automatisées et fournir un point d'entrée pour enquêter sur ces dernières.
La plateforme SS8 permet d'identifier les indices qui suggèrent une implication illicite de l'IA, en se basant sur la surveillance du trafic pour identifier les contenus intéressants, les responsables, les modèles et les connexions avec d'autres contenus et d'autres personnes. En s'appuyant sur le contexte numérique tel que les sources ouvertes et les renseignements de localisation, le logiciel SS8 peut aider les forces de l'ordre et les agences de renseignement à discerner les interférences électorales et à y répondre de manière appropriée.
L'accélération du développement de l'IA jusqu'aux frontières du possible est inévitable (et même souhaitable) ; une mise en garde importante concernant l'effort de contrôle est que la réglementation ne doit pas diluer le leadership des États-Unis. Les intérêts stratégiques à long terme requièrent les avantages économiques et technologiques que l'IA apporte de plus en plus, tout en protégeant la société de ses effets néfastes potentiels. Le SS8 contribue à cet équilibre en aidant les autorités à comprendre comment et où l'IA est utilisée.
À propos de Kevin McTiernan
Kevin McTiernan est un professionnel chevronné avec plus de 20 ans d'expérience dans l'industrie de la sécurité. Son expertise couvre le big data, la cybersécurité, l'analyse de la sécurité des réseaux et la conformité réglementaire. En tant que vice-président des solutions gouvernementales chez SS8, Kevin est spécialisé dans la mise en œuvre de solutions de renseignement avancées pour le gouvernement américain, les forces de l'ordre et l'alliance Five Eyes. Il est un orateur accompli et un fervent partisan et bénévole de la National Child Protection Task Force (groupe de travail national pour la protection de l'enfance). Pour en savoir plus sur Kevin, consultez son profil LinkedIn.
À propos de SS8 Networks
En tant que leader dans le domaine de l'intelligence légale et de la localisation, SS8 contribue à rendre les sociétés plus sûres. Notre engagement est d'extraire, d'analyser et de visualiser les informations critiques qui permettent aux forces de l'ordre, aux agences de renseignement et aux services d'urgence d'obtenir des informations en temps réel qui contribuent à sauver des vies. Nos solutions performantes, flexibles et évolutives permettent également aux opérateurs de réseaux mobiles de se conformer à la réglementation avec un minimum de perturbations, de temps et de coûts. SS8 bénéficie de la confiance des plus grandes agences gouvernementales, des fournisseurs de communications et des intégrateurs de systèmes du monde entier.
Le portefeuille de surveillance et d'analyse de données Intellego® XT est optimisé pour les organismes d'application de la loi afin de capturer, d'analyser et de visualiser des ensembles de données complexes pour obtenir des renseignements d'enquête en temps réel.
LocationWise offre la plus grande précision de localisation de réseau vérifiée au monde, fournissant des informations de localisation actives et passives aux services d'urgence, aux forces de l'ordre et aux opérateurs de réseaux mobiles.
La plateforme de médiation Xcipio® répond aux exigences de l'interception légale dans n'importe quel type de réseau et offre la possibilité de transcoder (convertir) entre les versions de transfert d'interception légale et les familles standard.
Pour en savoir plus, contactez-nous à l'adresse suivante info@ss8.com.
