Laboratoire en Innovation, Technologies, Economie & Management

Les opérations d’influence en ligne exploitent massivement des “bots” pour amplifier la portée et la vitesse de propagation de contenus malveillants, polarisant ou faux et ainsi saturer l’espace informationnel pour dégrader la perception de la société par l’opinion publique. Certains agissent aussi pour confiner des contenus d’information ou d’intérêt général. Ce phénomène est appelé à s’intensifier : les bots constituent, en 2025, plus de 20% des comptes sur les réseaux sociaux et interviennent dans la diffusion de la majorité des messages. Au-delà de la production de contenus (texte, image, vidéo, etc.) permise par l’émergence de l’IA générative, ils deviennent de plus en plus intelligents, capables d’imiter finement des comportements humains et d’agir de manière collective et coordonnée, maximisant artificiellement la visibilité de certains “seeds” narratifs au profit d’acteurs pas toujours bienveillants et minimisant des contre-narratifs éclairants. Pour pouvoir résister à ces influences, dont le plus souvent nous ne connaissons ni les auteurs, ni les origines, ni les intérêts directs et ni les algorithmes qui orchestrent leur propagation et qui évoluent rapidement, il nous paraît indispensable de passer d’une approche sémantique et de type “fact-checking” qui analyse le contenu de l’information, souvent utilisée aujourd’hui, à une approche et des modélisations centrées sur la topologie et la dynamique de la propagation. Il s’agit donc de représenter dynamiquement le segment de réseau ciblé (thématique, géographique, etc.) pour ensuite, identifier et qualifier les “bots ou proxys” ou entités inauthentiques qui perturbent, en amplification ou en confinement, les propagations de contenus. La qualification s’effectuant essentiellement sur l’analyse de “patterns” de propagation individuelle ou collective. Grâce à ces “patterns”, il devient possible de qualifier le comportement des entités inauthentiques (individuel, sur le réseau, au sein de son écosystème artificiel) afin d’adapter la riposte pour contrecarrer ou minimiser leur impact. Des actions de minimisation de la viralité de ces bots peuvent être mises en œuvre directement au sein du réseau de propagation ou indirectement par l’action induite auprès des lecteurs pour résister aux influences artificielles. Dans le champ de la défense nationale, le projet s’inscrit dans la continuité des efforts entrepris par la DGA, le SGDSN et la VIGINUM pour renforcer la résilience informationnelle et la capacité de détection et de riposte face aux ingérences numériques étrangères. Depuis la création de la VIGINUM (2021) et l’institutionnalisation de la fonction stratégique « Influence » dans la Revue nationale stratégique 2022, la France reconnaît le champ informationnel comme un espace de confrontation à part entière. Le projet prolonge cette dynamique en proposant une approche scientifique, technologique et sociotechnique visant à outiller la détection, la caractérisation et surtout la minimisation opératoire des phénomènes de manipulation. Contrairement aux dispositifs purement analytiques, le projet aborde la boucle complète de l’action – de la détection algorithmique à la mise en information des usagers, à la mesure de l’efficacité cognitive et sociale des dispositifs de signalement et à la manipulation de la topologie de diffusion inauthentique. Cette articulation entre évaluation scientifique, utilisabilité, et acceptabilité opérationnelle répond directement aux priorités fixées par le rapport parlementaire Opérationnalisation de la fonction stratégique Influence (Assemblée nationale, 2025), qui recommande de développer des outils « responsables, auditables et centrés sur la confiance publique ». Le projet TALOS - Apprentissage adaptatif aux menaces pour contrer les bots - propose ainsi de lutter contre la manipulation artificielle de l’information sur les médias sociaux à l’aide de signalement et de modération automatique de la diffusion des comptes inauthentiques.

La montée de l'IA et des algorithmes de tarification automatisée soulève des questions quant à leur impact sur le marché. Il est soupçonné que ces algorithmes pourraient faciliter la collusion. Ce potentiel a été exploré dans des contextes tels que l'Acte sur les marchés numériques de l'Union européenne, et étudié par la CMA du Royaume-Uni et la FTC des États-Unis. Cette proposition vise à éclairer les déterminants de la collusion algorithmique grâce à des simulations détaillées et une analyse empirique, en se concentrant sur deux axes de recherche : "Quand les algorithmes colludent-ils ?" et "Les algorithmes dans la nature". L'axe "Quand les algorithmes colludent-ils ?" combine l'économie et l'informatique pour explorer le comportement algorithmique. Bien que les algorithmes soient souvent supposés agir comme des agents rationnels, leur nature auto-optimisante et les influences externes remettent en question cette notion. La recherche se concentre sur l'analyse du potentiel de collusion des algorithmes, en particulier dans le contexte du dilemme du prisonnier, en explorant l'équilibre entre coopération et non-coopération. La collaboration avec le mathématicien appliqué Janucz Meylahn de l'Université de Twente offre une orientation théorique rigoureuse pour concevoir et mettre en œuvre des simulations. Par rapport à la proposition précédente, l'accent est désormais mis uniquement sur le comportement algorithmique, sans comparaison avec les actions humaines, en tirant parti de nouvelles collaborations et en optimisant les ressources pour la recherche postdoctorale. L'axe "Les algorithmes dans la nature" examine les implications réelles des logiciels de tarification dans le commerce électronique. En créant des comptes vendeurs et en utilisant des logiciels de tarification automatique, il teste l'intelligence de ces logiciels et leur potentiel de comportement collusif. En s'appuyant sur un travail précédent substantiel, le projet est prêt à lancer sa première phase en utilisant des algorithmes simples. Le financement demandé facilitera la mise en œuvre d'algorithmes plus sophistiqués. Les deux axes de recherche se complètent, les simulations renforçant la compréhension théorique et les études réelles fournissant des données empiriques. Cette interaction assure une approche complète fondée à la fois sur la théorie et la pratique. Depuis la proposition de l'année dernière, les avancées permettent une progression synchronisée vers des algorithmes plus complexes dans les deux projets. Un financement pour un chercheur postdoctoral soutiendra l'intégration d'algorithmes avancés, augmentant l'impact du projet. Cette synergie positionne la proposition pour contribuer de manière significative au développement de cadres réglementaires informés et de pratiques de gestion efficaces face aux défis du marché numérique.

La plupart des plateformes en ligne implémentent un modèle économique dans lequel l’accès aux services est gratuit en échange de l’exploitation des données utilisateur. Les profils utilisateurs, créés à partir des données partagées, sont exploités pour personnaliser les services proposés et en améliorer l’efficacité. Ce modèle présente le désavantage d’être dépendent de la centralisation de profils détaillés. Cela génère des risques pour la vie privée et laisse peu de contrôle à l’utilisateur sur ses données partagées. PROPEOS proposera des algorithmes de personnalisation innovants qui donnent un rôle central à la vie privée, la transparence et la confiance. Le projet exploite une forte expertise en économie du numérique, apprentissage automatique, protection de la vie privée, analyse des médias sociaux et applications de recherche d’information et recommandation. Les résultats scientifiques seront validés dans deux scénarios applicatifs liés au tourisme et à l’e-commerce durable.