Trois projets retenus pour le premier appel à projets de l'IMC2

L’IMC² a lancé son tout premier appel à projets sur le thème de la promotion et de la protection du droit à la vie privée au Québec.

Cet appel a suscité un fort intérêt, avec huit projets soumis, mobilisant 22 professeures et professeurs membres de notre assemblée ainsi que des partenaires internationaux, notamment du Pôle d’Excellence Cyber en France et de Cyberwal en Wallonie. Trois projets interuniversitaires ont été retenus par le Comité d’évaluation, illustrant la richesse des expertises et des collaborations au sein de l’Institut.

L’ensemble des propositions soumises a démontré un haut niveau de qualité et de pertinence. Les trois projets retenus se distinguent par leur caractère structurant et leur potentiel d’impact.

Mesurer l’invisible : un benchmark pour l’évaluation des fuites internes de données sensibles dans les systèmes multi-agents à base de LLM

Description

Les systèmes multi-agents de grands modèles de langage (MA-LLM) peuvent décomposer des tâches complexes et déléguer des sous-tâches à des agents spécialisés. De plus en plus déployés sur des données sensibles, ils soulèvent une question cruciale : traitent-ils les informations sensibles de manière sécuritaire et confidentielle ? L’audit de flux réels dans différents domaines révèle que, malgré des sorties finales conformes aux politiques de confidentialité, des données sensibles peuvent circuler dans les communications internes entre agents sans être détectées. Ces systèmes introduisent donc des risques pour la confidentialité des données que les benchmarks d’évaluation actuels ne permettent pas de mesurer car des données sensibles peuvent transiter par des canaux que les audits limités aux sorties n’inspectent jamais. Ce projet vise à concevoir un benchmark de bout en bout couvrant explicitement les canaux internes pour quantifier la fuite de données et empêcher qu’une violation de la vie privée reste indétectée.

Équipe

Ranwa Al-Mallah – Professeure agrégée, Polytechnique Montréal
Raphaël Khoury – Professeur, Université du Québec en Outaouais
Samiha Ayed – Professeure, IMT Atlantique, France
David Espès – Professeur, Université de Bretagne Occidentale, Lab -STICC, France
Solutions Flow Factor Inc.
Fomox Inc.

Impact des LLMs sur l’enseignement de la sécurité des programmes : Stratégies et Perspectives

Description

L’émergence et l’utilisation croissante des LLMs ont profondément modifié plusieurs facettes de l’informatique, plus particulièrement la programmation. Cette nouvelle technologie devient indispensable pour les développeurs, qu’ils soient débutants ou chevronnés pour la réalisation de leurs codes. Cependant, nos méthodes d’enseignement de la programmation n’ont pas suivi le rythme de cette évolution, et sont fréquemment obsolètes.

Or, plusieurs recherches ont montré que le niveau de sécurité du code généré à l’aide des LLMs est souvent faible. Ces mêmes études pointent toutefois vers des stratégies d’utilisation prometteuses, qui permettent la génération de code sécuritaire. L’objectif de ce projet de recherche est de développer des stratégies de programmation à la fine pointe de l’évolution de cette technologie ainsi que des méthodes d’enseignement appropriées afin d’initier nos étudiants aux bonnes pratiques de sécurité liées à l’utilisation des LLMs et les préparer ainsi adéquatement à répondre à la demande croissante du marché dans ce domaine.

Équipe

Raphaël Khoury – Professeur, Université du Québec en Outaouais
Omar Abdul Wahab – Professeur adjoint, Polytechnique Montréal
Alan Davoust – Professeur, Université du Québec en Outaouais

Modèles de graphes pour l’analyse différentiellement confidentielle des données et la protection des systèmes informationnels

Description

Ce projet vise à renforcer la confidentialité et la sécurité des systèmes d’information (SI) modernes, caractérisés par des échanges massifs de données et des interactions complexes. Il propose une modélisation des SI par des graphes afin de mieux analyser les dépendances, les flux d’information et les risques émergents. Deux axes complémentaires sont développés : (1) la conception de mécanismes d’analyse de données sur graphes offrant des garanties de confidentialité différentielle, notamment pour le traitement temps réel de signaux structurés ; (2) l’étude des vulnérabilités systémiques dans les architectures d’accès et des risques d’inférences, grâce à des modèles structurels et dynamiques de propagation informationnelle. Les contributions attendues comprennent de nouveaux outils algorithmiques et d’analyse, des indicateurs opérationnels de risque et des méthodes d’atténuation des risques informationnels. Le projet soutiendra la gouvernance des systèmes numériques, la protection des données personnelles, le rayonnement scientifique et la formation de PHQ.