La CAI se prononce sur l’interprétation de nouvelles exigences en matière d’intelligence artificielle
La Commission d’accès à l’information (la « CAI ») a récemment publié une décision au sujet de l’utilisation d’un système d’intelligence artificielle (« IA »). Cette décision aborde certaines nouvelles dispositions introduites par la Loi modernisant des dispositions législatives en matière de protection des renseignements personnels (la « Loi 64 »)1, qui n’entreront en vigueur que le 22 septembre 2023, et donne un aperçu du cadre d’analyse que pourrait adopter la CAI en lien avec ces dispositions.
Contexte
La décision de la CAI fait suite à son enquête concernant l’utilisation d’un système d’IA par le Centre de services scolaire du Val-des-Cerfs (l’« organisme »), dont elle a été mise au courant lors de la publication d’un article de journal.
L’organisme avait conclu un partenariat avec des spécialistes de l’analyse de données d’un cabinet comptable pour le développement d’un algorithme permettant d’identifier les élèves présentant un risque important de décrochage scolaire. Pour ce faire, l’organisme a temporairement permis à son partenaire d’accéder à une base de données contenant des renseignements personnels dépersonnalisés au sujet d’élèves de l’organisme, notamment des résultats scolaires ainsi que des statistiques relatives à l’aide financière, à l’absentéisme, aux mesures disciplinaires et aux fréquents changements d’adresse. Ce partenariat a mené au développement d’un algorithme d’apprentissage automatique capable de générer un ensemble d’indicateurs prédictifs du risque de décrochage scolaire chez les élèves de la 6e année du primaire.
La décision de la CAI analyse la conformité de l’organisme à la Loi sur l’accès aux documents des organismes publics et sur la protection des renseignements personnels (la « Loi sur l’accès ») en lien avec le développement et l’utilisation de ce système d’IA.
Nous avons préparé un bulletin qui présente les principales conclusions de la CAI et leur incidence sur l’application de la législation québécoise en matière de protection des renseignements personnels aux systèmes d’IA. Étant donné que la Loi sur l’accès et la Loi sur la protection des renseignements personnels dans le secteur privé (la « Loi sur le privé ») comportent plusieurs similitudes et que la Loi 64 apporte des changements équivalents aux deux lois à plusieurs égards, cette décision est également pertinente pour le secteur privé.
Vous pouvez consulter le bulletin disponible sur le site de BLG.
This content has been updated on December 22, 2022 at 17 h 26 min.