Les risques liés à l'utilisation de l'intelligence artificielle générative dans la pratique juridique

Article issu du Rapport sur l’innovation et les tendances dans le secteur juridique 2024 (Aranzadi LA LEY, Espagne)

Il ne fait plus aucun doute que les capacités de traitement du langage naturel de l’IA générative transformeront la façon dont les avocats travaillent.

Lorsque nous avons entendu parler pour la première fois de ChatGPT en novembre 2022, nous avons rapidement réalisé qu’il s’agissait d’une technologie véritablement perturbatrice qui a déclenché des discussions sur la façon dont l’intelligence artificielle peut transformer les secteurs économiques et la société dans son ensemble.

Nous sommes face à un véritable changement de paradigme. Un nouveau cycle s’ouvre devant nous grâce à l’intelligence artificielle générative, dont ChatGPT est l’un des représentants les plus connus. « C’est une technologie qui, comme son nom l’indique, est « générative, transformative et pré-entraînée », c’est-à-dire qu’après l’avoir entraîné avec des millions de données existantes dans l’OpenData d’Internet, ce modèle de langage basé sur le Deep Learning (LLM ou large language model) peut répondre à des requêtes qui lui sont posées par le biais de textes ou d’images, en langage naturel et même en plusieurs langues », commente Cristina Retana, directrice des contenus et de l’innovation chez Aranzadi LA LEY, dans son article « Risques et opportunités de l’intelligence artificielle générative dans le secteur juridique », inclus dans le Rapport.

Le contexte juridique

Les réponses de l’IA générative dépendent de la qualité, de la quantité et de la fiabilité des données sur lesquelles elles sont entraînées. « Le résultat de ce que fournit l’IA générative devrait toujours être un point de départ pour le travail du professionnel du droit, qui peut être plus efficace et plus rapide grâce à cette technologie, mais qui nécessite une supervision et une adaptation au cas ou à l’affaire spécifique », précise l’expert. « Vos réponses dans le domaine juridique ne seront valables et sûres que si les ensembles de données utilisés pour entraîner les algorithmes d’IA générative sont valables et sûrs », conclut-elle.

De nombreux avantages, mais aussi des risques

Une bonne utilisation de cette technologie permet non seulement d’accroître l’efficacité et la productivité, tout en réduisant les coûts d’investissement en temps et en ressources, mais aussi d’améliorer la qualité des services juridiques fournis.

« Cependant, nous ne devons pas oublier que, comme toute autre technologie, l’IA pose également une série de défis et de risques, à la fois de nature juridique et déontologique, qui doivent être soigneusement examinés avant de se lancer dans l’utilisation d’outils et de solutions de cette nature », déclare Francisco Pérez Bes, Digital Law Partner chez Ecix Tech et un autre des auteurs qui ont participé au « Rapport sur l’innovation et les tendances dans le secteur juridique » de cette année, avec l’article intitulé « Risques pour les avocats dans l’utilisation de l’Intelligence Artificielle ».

Comme l’explique cet expert dans son article : « L’un des principaux risques juridiques associés à l’utilisation de l’IA dans la pratique juridique est la question de la responsabilité. Qui est responsable si un système d’IA commet une erreur qui entraîne un conseil juridique incorrect ou un résultat préjudiciable pour le client ? Est-ce l’avocat qui a utilisé le système, le développeur du logiciel, ou l’IA elle-même ? Outre les risques juridiques, l’utilisation de l’IA dans la pratique juridique soulève également d’importantes questions éthiques et déontologiques. Par exemple, un système d’IA peut-il réellement comprendre et appliquer les principes éthiques qui régissent la pratique juridique, et comment s’assurer qu’un système d’IA respecte les devoirs de confidentialité ?

« La vie privée, talon d’Achille de l’IA générative »

C’est le titre de son article dans le rapport de Ricard Martínez Martínez, directeur de la chaire Microsoft-Universitat de Valencia sur la vie privée et la transformation numérique et directeur du magazine LA LEY Privacy, dans lequel il affirme que l’IA-Générative a déclenché toutes les sonnettes d’alarme au sein de l’Union européenne.

Ricard Martínez, après avoir passé en revue tous les défis auxquels l’IA est confrontée depuis le Règlement général sur la protection des données (LA LEY 6637/2016), termine en affirmant que « la vie privée, et par essence la garantie des droits fondamentaux, est un devoir éthiquement et juridiquement incontournable pour l’intelligence artificielle. En même temps, c’est un défi et une opportunité pour construire un marché plus juste, plus respectueux et plus sûr pour les citoyens ».

Protection des droits d’auteur

L’IA pose également de nombreux problèmes de propriété intellectuelle, dont beaucoup ne sont pas encore résolus. D’une part, en ce qui concerne l’exploration de données par le biais de laquelle les algorithmes sont formés. D’autre part, en ce qui concerne l’attribution de la paternité des résultats fournis par la technologie, qui ne sont pas générés par des personnes physiques ou, du moins, qui ne sont pas générés uniquement par des personnes physiques.

Cristina Villasante, Partner TMT ECIJA, a été chargée de traiter cette question dans le « Rapport sur l’innovation et les tendances dans le secteur juridique 2024 ». Dans son article intitulé « ChatGPT et protection des droits d’auteur », l’avocate recommande aux organisations et entités dans les environnements desquelles les technologies d’IA générative sont utilisées, « d’établir des politiques internes pour protéger leurs actifs et atténuer et gérer les risques liés à la propriété intellectuelle, à la confidentialité, à la cybersécurité ou à la protection des données ».