Centre de Vision Numérique

Les opérations d’influence en ligne exploitent massivement des “bots” pour amplifier la portée et la vitesse de propagation de contenus malveillants, polarisant ou faux et ainsi saturer l’espace informationnel pour dégrader la perception de la société par l’opinion publique. Certains agissent aussi pour confiner des contenus d’information ou d’intérêt général. Ce phénomène est appelé à s’intensifier : les bots constituent, en 2025, plus de 20% des comptes sur les réseaux sociaux et interviennent dans la diffusion de la majorité des messages. Au-delà de la production de contenus (texte, image, vidéo, etc.) permise par l’émergence de l’IA générative, ils deviennent de plus en plus intelligents, capables d’imiter finement des comportements humains et d’agir de manière collective et coordonnée, maximisant artificiellement la visibilité de certains “seeds” narratifs au profit d’acteurs pas toujours bienveillants et minimisant des contre-narratifs éclairants. Pour pouvoir résister à ces influences, dont le plus souvent nous ne connaissons ni les auteurs, ni les origines, ni les intérêts directs et ni les algorithmes qui orchestrent leur propagation et qui évoluent rapidement, il nous paraît indispensable de passer d’une approche sémantique et de type “fact-checking” qui analyse le contenu de l’information, souvent utilisée aujourd’hui, à une approche et des modélisations centrées sur la topologie et la dynamique de la propagation. Il s’agit donc de représenter dynamiquement le segment de réseau ciblé (thématique, géographique, etc.) pour ensuite, identifier et qualifier les “bots ou proxys” ou entités inauthentiques qui perturbent, en amplification ou en confinement, les propagations de contenus. La qualification s’effectuant essentiellement sur l’analyse de “patterns” de propagation individuelle ou collective. Grâce à ces “patterns”, il devient possible de qualifier le comportement des entités inauthentiques (individuel, sur le réseau, au sein de son écosystème artificiel) afin d’adapter la riposte pour contrecarrer ou minimiser leur impact. Des actions de minimisation de la viralité de ces bots peuvent être mises en œuvre directement au sein du réseau de propagation ou indirectement par l’action induite auprès des lecteurs pour résister aux influences artificielles. Dans le champ de la défense nationale, le projet s’inscrit dans la continuité des efforts entrepris par la DGA, le SGDSN et la VIGINUM pour renforcer la résilience informationnelle et la capacité de détection et de riposte face aux ingérences numériques étrangères. Depuis la création de la VIGINUM (2021) et l’institutionnalisation de la fonction stratégique « Influence » dans la Revue nationale stratégique 2022, la France reconnaît le champ informationnel comme un espace de confrontation à part entière. Le projet prolonge cette dynamique en proposant une approche scientifique, technologique et sociotechnique visant à outiller la détection, la caractérisation et surtout la minimisation opératoire des phénomènes de manipulation. Contrairement aux dispositifs purement analytiques, le projet aborde la boucle complète de l’action – de la détection algorithmique à la mise en information des usagers, à la mesure de l’efficacité cognitive et sociale des dispositifs de signalement et à la manipulation de la topologie de diffusion inauthentique. Cette articulation entre évaluation scientifique, utilisabilité, et acceptabilité opérationnelle répond directement aux priorités fixées par le rapport parlementaire Opérationnalisation de la fonction stratégique Influence (Assemblée nationale, 2025), qui recommande de développer des outils « responsables, auditables et centrés sur la confiance publique ». Le projet TALOS - Apprentissage adaptatif aux menaces pour contrer les bots - propose ainsi de lutter contre la manipulation artificielle de l’information sur les médias sociaux à l’aide de signalement et de modération automatique de la diffusion des comptes inauthentiques.

Le projet se concentre sur l'avancement de l'optimisation stochastique à deux niveaux, un domaine spécialisé en optimisation avec des applications significatives en apprentissage automatique. Les algorithmes actuels reposent souvent sur des techniques d'optimisation lisses, qui sont limitées par des hypothèses irréalistes de différentiabilité continue. Ceci est problématique pour des applications réelles comme les réseaux de neurones profonds qui utilisent des fonctions non différentiables telles que l'activation ReLU. Pour aborder ce problème, le projet vise à combler le fossé entre la théorie et la pratique en tirant parti d'un développement récent en analyse non lisse connu sous le nom de champ conservatif. Cela permettra le développement de nouvelles méthodes avec des garanties mathématiques rigoureuses. Le projet est divisé en trois tâches principales: Fonctions implicites mal posées: Cette tâche étendra les théorèmes actuels pour gérer les cas où la fonction implicite à différencier n'est pas bien définie, soit en raison de solutions multiples, soit en raison de l'échec des conditions d'inversibilité. Conception d'algorithmes: Cette tâche vise à développer des algorithmes applicables avec des garanties rigoureuses de convergence. Ces algorithmes seront compatibles avec la stochasticité et seront basés sur des analyses améliorées qui sont compatibles avec la différentiation automatique telle qu'elle est utilisée en pratique. Applications à l'Apprentissage Automatique : Cette tâche se concentre sur l'implémentation pratique des méthodes développées. Elle appliquera les algorithmes pour concevoir des réseaux de neurones avec des couches définies implicitement, l'ajustement des hyperparamètres dans les problèmes inverses et l'apprentissage automatique, ainsi que l'augmentation des données utilisant l'optimisation à deux niveaux.

Les graphes apparaissent presque dans toutes les disciplines et le développement d'algorithmes d'apprentissage automatique est une tâche cruciale. Par exemple, l'apprentissage de la représentation du réseau vise à intégrer des nœuds dans un espace de faible dimension en préservant les propriétés structurelles du réseau - ce qui est un défi. En même temps, nous devons gérer des graphes à grande échelle ; les modèles devraient capturer la complexité des données impliquées. Alors, nous devons souvent affronter les sources de données peu fiables. Le projet GraphIA vise à désigner des modèles d’apprentissage expressifs, capables de tirer parti de la sémantique structurelle et de l'information - dans le but d'améliorer les performances d'apprentissage, tout en garantissant évolutivité et robustesse. Deux applications interdisciplinaires seront abordées: la détection d'épandeurs influents des réseaux complexes et l'analyse de données de réseau en bioinformatique.

Au cours de la dernière décennie, les méthodes proximales ont permis des avancées significatives en optimisation en grande dimension. Dans le même temps, les réseaux de neurones (RN) profonds ont conduit à des résultats impressionnants dans divers domaines d’applications de la science des données. Néanmoins, les raisons fondamentales de leurs excellentes performances sont encore mal comprises mathématiquement. Récemment, nous avons montré que la quasi-totalité des fonctions d’activation utilisées dans les architectures de RN (par exemple, les fonctions multivariées « aplaties » des réseaux à capsules) s’identifient à des opérateurs proximaux de fonctions convexes. Cette observation ouvre de nouvelles perspectives en apprentissage profond, permettant d’exploiter les liens étroits existant entre les structures de RN et les algorithmes proximaux itératifs. Dans ce projet, nous proposons trois axes de recherche. Tout d’abord, la fragilité bien connue des RN vis-à-vis des perturbations adverses sera étudiée. Pour ce faire, des techniques de points de fixes reposant sur les propriétés de contraction de ces opérateurs d’activation seront exploitées. Les résultats préliminaires que nous avons déjà obtenus seront étendus à des architectures plus générales que les perceptrons multi-couches (par exemple, les réseaux résiduels et les GANs). De nouvelles architectures potentiellement plus robustes seront proposées en s’inspirant de méthodes proximales existantes. Des algorithmes d’apprentissages dédiés seront également conçus permettant de contrôler la constante de Lipschitz des RN considérés et ainsi de faire un pas décisif vers leur certifiabilité. En second lieu, une nouvelle formulation des problèmes inverses sera proposée, visant à remplacer les fonctions de régularisation convexes usuelles par une approche de régularisation fondée sur des opérateurs maximaux monotones (OMM). Cette stratégie permettra de gagner non seulement en généralité, mais aussi en flexibilité. Ceci sera rendu possible grâce à l’apprentissage supervisé d’OMM à partir des données disponibles. Cette approche conduira à des algorithmes itératifs « plug and play » efficaces pour résoudre les problèmes de restauration/reconstruction d’images. Dans ces méthodes, les étapes de débruitage seront réalisées à l’aide d’un RN. Un des avantages majeurs de notre cadre sera de conduire à des résultats de convergence rigoureux des schémas itératifs obtenus. Le dernier axe de recherche portera sur l’étude des méthodes d’apprentissage profond de dictionnaires (APD). Celles-ci apparaissent actuellement comme des alternatives sérieuses aux RN. A chaque étape de ces méthodes, une fonction de coût non lisse est optimisée dans le but de construire une représentation optimale des données analysées, dans un dictionnaire adapté. Cette optimisation étant usuellement réalisée à l’aide de techniques proximales, ces méthodes peuvent être interprétées comme l’usage d’un opérateur d’activation non linéaire « intelligent ». Notre objectif sera de clarifier les relations existant entre l’APD et les RN de façon à rendre les techniques d’APD plus efficaces, tout en analysant plus précisément leurs performances. De plus, des stratégies seront élaborées afin accroître la flexibilité des approche d’APD en les rendant adaptatives aux données traitées. En termes de retombées méthodologiques, ce projet devrait conduire à des progrès significatifs dans l’interprétabilité des RN et dans la proposition de nouvelles méthodes permettant d’améliorer leur fiabilité. En termes de retombées pratiques, les méthodes développées conduiront à une nouvelle génération de techniques pour résoudre des problèmes se posant dans trois champs d’applications: l’imagerie médicale 3D (collaboration avec GE Healthcare), l’analyse de données du domaine de l’énergie et de l’environnement (collaboration avec l’IFPEN) et la modélisation non-linéaire multivariée de moteurs électriques (collaboration avec Schneider Electric).