TALOS — Apprentissage adaptatif aux menaces pour contrer les bots

Les opérations d’influence en ligne exploitent massivement des “bots” pour amplifier la portée et la vitesse de propagation de contenus malveillants, polarisant ou faux et ainsi saturer l’espace informationnel pour dégrader la perception de la société par l’opinion publique. Certains agissent aussi pour confiner des contenus d’information ou d’intérêt général. Ce phénomène est appelé à s’intensifier : les bots constituent, en 2025, plus de 20% des comptes sur les réseaux sociaux et interviennent dans la diffusion de la majorité des messages. Au-delà de la production de contenus (texte, image, vidéo, etc.) permise par l’émergence de l’IA générative, ils deviennent de plus en plus intelligents, capables d’imiter finement des comportements humains et d’agir de manière collective et coordonnée, maximisant artificiellement la visibilité de certains “seeds” narratifs au profit d’acteurs pas toujours bienveillants et minimisant des contre-narratifs éclairants. Pour pouvoir résister à ces influences, dont le plus souvent nous ne connaissons ni les auteurs, ni les origines, ni les intérêts directs et ni les algorithmes qui orchestrent leur propagation et qui évoluent rapidement, il nous paraît indispensable de passer d’une approche sémantique et de type “fact-checking” qui analyse le contenu de l’information, souvent utilisée aujourd’hui, à une approche et des modélisations centrées sur la topologie et la dynamique de la propagation. Il s’agit donc de représenter dynamiquement le segment de réseau ciblé (thématique, géographique, etc.) pour ensuite, identifier et qualifier les “bots ou proxys” ou entités inauthentiques qui perturbent, en amplification ou en confinement, les propagations de contenus. La qualification s’effectuant essentiellement sur l’analyse de “patterns” de propagation individuelle ou collective. Grâce à ces “patterns”, il devient possible de qualifier le comportement des entités inauthentiques (individuel, sur le réseau, au sein de son écosystème artificiel) afin d’adapter la riposte pour contrecarrer ou minimiser leur impact. Des actions de minimisation de la viralité de ces bots peuvent être mises en œuvre directement au sein du réseau de propagation ou indirectement par l’action induite auprès des lecteurs pour résister aux influences artificielles. Dans le champ de la défense nationale, le projet s’inscrit dans la continuité des efforts entrepris par la DGA, le SGDSN et la VIGINUM pour renforcer la résilience informationnelle et la capacité de détection et de riposte face aux ingérences numériques étrangères. Depuis la création de la VIGINUM (2021) et l’institutionnalisation de la fonction stratégique « Influence » dans la Revue nationale stratégique 2022, la France reconnaît le champ informationnel comme un espace de confrontation à part entière. Le projet prolonge cette dynamique en proposant une approche scientifique, technologique et sociotechnique visant à outiller la détection, la caractérisation et surtout la minimisation opératoire des phénomènes de manipulation. Contrairement aux dispositifs purement analytiques, le projet aborde la boucle complète de l’action – de la détection algorithmique à la mise en information des usagers, à la mesure de l’efficacité cognitive et sociale des dispositifs de signalement et à la manipulation de la topologie de diffusion inauthentique. Cette articulation entre évaluation scientifique, utilisabilité, et acceptabilité opérationnelle répond directement aux priorités fixées par le rapport parlementaire Opérationnalisation de la fonction stratégique Influence (Assemblée nationale, 2025), qui recommande de développer des outils « responsables, auditables et centrés sur la confiance publique ». Le projet TALOS - Apprentissage adaptatif aux menaces pour contrer les bots - propose ainsi de lutter contre la manipulation artificielle de l’information sur les médias sociaux à l’aide de signalement et de modération automatique de la diffusion des comptes inauthentiques.