La CNIL publie ses premières recommandations sur le développement des systèmes d’intelligence artificielle

À l’issue de plusieurs rencontres avec des acteurs publics et privés du secteur ainsi que d’une consultation publique de deux mois, la Cnil a publié le 8 avril 2024 ses premières recommandations sur le développement des systèmes d’intelligence artificielle. Ces recommandations ont pour objectif d’aider les professionnels à concilier innovation et respect des droits des personnes pour un développement innovant et responsable de leurs systèmes d’IA, en les accompagnant dans leurs démarches de mise en conformité.

Ces recommandations concernent le développement de systèmes d’IA impliquant un traitement de données personnelles : systèmes fondés sur l’apprentissage automatique (machine learning), systèmes à usage général pouvant être utilisés pour plusieurs applications (general purpose AI), systèmes dont l’apprentissage est réalisé « une fois pour toutes » ou de façon continue, par exemple en utilisant des données d’utilisation…

Seule la phase de développement des systèmes d’IA (conception du système, constitution de la base de données et apprentissage) a été pour l’instant envisagée. La phase de déploiement est donc laissée de côté.

Dans une volonté de cohérence, la Cnil précise que les recommandations formulées ont été élaborées en prenant en considération le nouveau règlement européen sur l’intelligence artificielle (AI Act).

Les points abordés dans ces premières recommandations permettent en particulier de :

• déterminer le régime juridique applicable ;
• définir une finalité ;
• déterminer la qualification juridique des acteurs ;
• définir une base légale ;
• effectuer des tests et vérifications en cas de réutilisation des données ;
• réaliser une analyse d’impact si nécessaire ;
• tenir compte de la protection des données dès les choix de conception du système ;
• tenir compte de la protection des données dans la collecte et la gestion des données.

7 fiches pratiques ainsi qu’une synthèse des recommandations sont disponibles.

Dans les prochains mois, la Cnil complètera ces premières recommandations par d’autres fiches portant notamment sur la base légale de l’intérêt légitime, la gestion des droits, l’information des personnes concernées, l’annotation et la sécurité lors de la phase de développement. Ces travaux seront également soumis à consultation publique.