Post by Télécom Paris

Retour sur le premier séminaire de recherche consacré à l’IA de confiance, organisé dans le cadre du Fin AI Lab, laboratoire commun entre BNP Paribas et Télécom Paris, codirigé par Albert Bifet, Lea Deleris, Mariam BARRY, et Thomas Le Goff, PhD. Organisé le 28 mai dernier, cet événement a réuni chercheurs et experts autour d’un sujet au cœur des enjeux actuels : les systèmes d’IA agentiques. Les présentations ont donné lieu à des échanges riches et constructifs sur les défis technologiques, juridiques et sociétaux associés à ces nouveaux systèmes. Governing Agentic AI under EU Law Thomas Le Goff, maître de conférences en droit et régulation du numérique à Télécom Paris, et Nina Lasbleiz, ingénieure de recherche à Télécom Paris, ont présenté : → Les récentes évolutions technologiques dans le domaine de l’IA agentique ; → Les enjeux juridiques soulevés par le développement de ces systèmes ; → Les défis liés à la conformité au RGPD et à l’AI Act. « L’IA agentique pose des questions de mise en œuvre de certaines obligations réglementaires, notamment en matière de contrôle humain, de responsabilité et de protection des données. » — Thomas Le Goff « Déployer des systèmes d’IA agentique sans garde-fous conduit inévitablement à des comportements préjudiciables et à des violations du cadre juridique. » — Nina Lasbleiz Trust, Trustworthiness and Game Theory in LLM-Based Multi-Agent Systems Azzedine Idir Aitsaid, ingénieur de recherche à Télécom Paris, a exploré les mécanismes de confiance dans les systèmes multi-agents fondés sur les grands modèles de langage (LLM) : → La théorie des jeux comme cadre d’analyse des stratégies, des incitations et des mécanismes de coopération ; → La confiance comme propriété émergente des interactions entre agents ; → Les approches permettant d’évaluer, d’auditer et de concevoir des systèmes plus fiables, interprétables et contrôlables. « Dans les systèmes logiciels classiques, la confiance repose largement sur des métriques explicites, des méthodes transparentes et des mécanismes déterministes de vérification. Avec l’IA générative, ces repères existent toujours, mais deviennent beaucoup plus difficiles à stabiliser. » — Azzedine Idir Ait Said Ce premier séminaire illustre l’ambition du Fin AI Lab : développer une recherche de pointe sur l’IA de confiance, en croisant expertises scientifiques, technologiques et réglementaires pour répondre aux défis de demain. 👉 Visionnez le replay : https://ow.ly/gfCm50ZgeAR