CLearDeep — Une méthode d'apprentissage profond structuré orientée vers l'explication causale adaptable aux données temporelles pour la fiabilité et la robustesse

Les méthodes d'IA alimentées par les réseaux de neurones profonds (DNN) connaissent un tel succès que certaines études affirment qu'elles ont dépassé les performances humaines. Leur nature complexe de boîte noire, le manque de généralisation hors distribution (OOD) et la considération erronée de la corrélation au lieu de la causalité, peuvent avoir des conséquences graves pour la prise de décision basée sur les données, limitent leur fiabilité et leur acceptation sociale. D’où la quête de robustesse et d'explicabilité des modèles d'IA. L'IA explicable (XAI) est un sujet brûlant, qui est devenu une préoccupation politique et juridique. Avec l'utilisation croissante de l'IA dans les systèmes régissant notre société, des décisions importantes basées sur les prédictions des DNN peuvent être prises avec un grand impact sur la vie humaine. Pour s'assurer que ces systèmes restent en phase avec les intérêts sociaux, il est crucial de rendre fiables les prédictions en apportant au modèle d'IA plus de robustesse, transparence et d’explicabilité. XAI a un panel d'objectifs ; la fiabilité est le principal et, un autre est la causalité. La causalité offre un complément au ML, lui permettant d'aller au-delà des associations. L'apprentissage d'un modèle causal fournit les mécanismes à l'origine des dépendances statistiques observées et permet de modéliser les changements de distribution via les interventions et de lever le voile sur le processus du modèle conduisant à une prédiction. Ainsi, la généralisation OOD ne se limite pas à la performance prédictive ou à la robustesse, mais également à l'explicabilité et à la fiabilité du processus du modèle à travers les changements de distributions. Ainsi, la causalité pour XAI et la généralisation est une préoccupation clé. Ce projet vise à développer une approche qui bénéficie des avancées récentes de causalité pour s'attaquer aux problèmes modernes de ML tels que XAI et la généralisation pour un processus décisionnel fiable et éclairé.