Déterminer le régime juridique applicable

Lorsqu’elle contient des données personnelles, la constitution de bases de données pour l’apprentissage d’un système d’IA puis la phase d’apprentissage doivent respecter la réglementation en la matière. La CNIL vous aide à déterminer le régime applicable aux traitements de données en phase de développement.

Collecting personal data to train an AI system and the learning phase must comply with the relevant regulations. The CNIL can help determine the applicable requirements to data processing during development.

Définir une finalité

La constitution d’une base de données contenant des données personnelles pour l’apprentissage d’un système d’IA est  un traitement de données personnelles qui, en application du RGPD, doit poursuivre une finalité (ou objectif) qui soit « déterminée, légitime et explicite ». La CNIL vous aide à définir la ou les finalités en tenant compte des spécificités du développement de systèmes d’IA.

The establishment of a database containing personal data for the training of an AI system is a personal data processing that must, in accordance with the GDPR, pursue a « determined, legitimate and explicit » objective. The CNIL can help you to define the objectives, taking into account the specificities of developing AI systems.

Déterminer la qualification juridique des fournisseurs de systèmes d’IA

Les fournisseurs de systèmes d’IA qui souhaitent constituer leurs bases de données d’apprentissage contenant des données personnelles doivent déterminer leur qualification au sens du RGPD : ils peuvent être responsable de traitement, responsable conjoint ou sous-traitant.

Providers of AI systems who want to establish their learning databases containing personal data must determine their GDPR qualification: they can be either data controller, joint controller, or processor.

Réaliser une analyse d’impact si nécessaire

La constitution d’une base de données pour l’apprentissage d’un système d’IA peut engendrer un risque élevé pour les droits et libertés des personnes. Dans ce cas, une analyse d’impact sur la protection des données est obligatoire. La CNIL vous explique comment et dans quels cas la réaliser.

Establishing a data repository for AI system learning can present a high risk to the rights and freedoms of individuals. For this reason, a data protection impact assessment is a must. The CNIL will explain to you how and when to conduct such an assessment.

Tenir compte de la protection des données dans la conception du système

Pour assurer le développement d’un système d’IA respectueux de la protection des données, il est nécessaire de mener une réflexion préalable lors de la conception du système. Cette fiche en détaille les étapes.

To ensure the development of an AI system that respects data protection, it is necessary to consider data protection during the design phase. This checklist outlines the steps necessary to do so.