La CAI se prononce sur l’interprétation de nouvelles exigences en matière d’intelligence artificielle
La Commission d’accès à l’information (la « CAI ») a récemment publié une décision au sujet de l’utilisation d’un système d’intelligence artificielle (« IA »). Cette décision aborde certaines nouvelles dispositions introduites par la Loi modernisant des dispositions législatives en matière de protection des renseignements personnels (la « Loi 64 »)1, qui n’entreront en vigueur que le 22 septembre 2023, et donne un aperçu du cadre d’analyse que pourrait adopter la CAI en lien avec ces dispositions.
Contexte
La décision de la CAI fait suite à son enquête concernant l’utilisation d’un système d’IA par le Centre de services scolaire du Val-des-Cerfs (l’« organisme »), dont elle a été mise au courant lors de la publication d’un article de journal.
L’organisme avait conclu un partenariat avec des spécialistes de l’analyse de données d’un cabinet comptable pour le développement d’un algorithme permettant d’identifier les élèves présentant un risque important de décrochage scolaire. Pour ce faire, l’organisme a temporairement permis à son partenaire d’accéder à une base de données contenant des renseignements personnels dépersonnalisés au sujet d’élèves de l’organisme, notamment des résultats scolaires ainsi que des statistiques relatives à l’aide financière, à l’absentéisme, aux mesures disciplinaires et aux fréquents changements d’adresse. Ce partenariat a mené au développement d’un algorithme d’apprentissage automatique capable de générer un ensemble d’indicateurs prédictifs du risque de décrochage scolaire chez les élèves de la 6e année du primaire.
La décision de la CAI analyse la conformité de l’organisme à la Loi sur l’accès aux documents des organismes publics et sur la protection des renseignements personnels (la « Loi sur l’accès ») en lien avec le développement et l’utilisation de ce système d’IA.
This content has been updated on May 2, 2024 at 12 h 47 min.