L’usage de l’intelligence artificielle (IA) dans le monde de la protection sociale

Nicolas Amar, rapporteur, a été mandaté pour mener ce projet, pour lequel le fondateur de Cleyrop, Stéphane Messika, ainsi qu’Annabelle Blangero et François Guérillon, respectivement Lead-IA Responsable et expert chez Ekimetrics, ont également contribué.
Plusieurs acteurs ont participé à ce projet : la DSS, l’Urssaf, la Cnam, la Cnav, la Cnaf, la MSA, l’Ucanss et la CNSA. Des personnalités qualifiées issues du Conseil d’État et de la Direction interministérielle du Numérique (Dinum) ont également été conviées.

Cartographie des usages actuels de l’IA par la Sécurité sociale

Dès le départ, un constat est fait : la sécurité sociale utilise l’IA depuis de nombreuses années. Elle est employée à la fois pour automatiser certains processus (comme les assistants digitaux), pour apporter une réponse à l’usager (voicebots, chatbots…) ou encore, en matière de lutte contre la fraude. Dans ce dernier domaine, bien que des progrès restent à faire, le principal usage concerne la programmation du contrôle et la priorisation des situations présentant les plus forts taux de probabilité de fraude. C’est notamment le cas de la Cnaf qui, par le biais d’un algorithme de datamining, croise des données massives afin de détecter les fraudes aux allocations familiales.

Le rapport signale que la récente vague de l’IA avec l’essor d’outils plus généralistes (ChatGPT…) constitue une nouveauté par rapport aux générations précédentes. Ainsi, l’automatisation des tâches cognitives, créatives ou d’interaction prend un nouveau tournant. Cette IA présente désormais toutes les caractéristiques d’une technologie à usage général, au même titre que « la machine à vapeur, l’électricité ou encore le moteur à explosion ». En effet, l’IA :

• fait partie de la famille de technologies se traduisant par une grande variété d’innovations ;
• se diffuse à l’ensemble des métiers, secteurs et organisations ;
• est une source de gains de productivité significatifs sur une longue période.

Les cas d’usages de cette nouvelle vague d’IA sont divers et varient selon les secteurs, les tailles d’entreprises et son utilisation. Par exemple, les modules de compréhension du langage naturel ou d’agents virtuels sont particulièrement utilisés dans les secteurs des hautes technologies, des banques et services financiers, des services aux entreprises et dans les services juridiques.

Le rapport met en avant le potentiel de l’IA pour la sécurité sociale, et des expérimentations sont déjà en cours. Les capacités technologiques à tester incluent le « reporting » augmenté, l’aide à la rédaction, le « knowledge management » et l’interrogation de bases de données, l’explicabilité et l’interprétabilité. La MSA, par exemple, a identifié trois axes majeurs :

• faciliter et optimiser le quotidien des agents (gains de productivité) ;
• automatiser toutes les tâches possibles pour dégager du temps sur l’accompagnement des dossiers complexes (amélioration de la relation adhérent) ;
• s’appuyer sur le big data et faciliter le « aller vers », en anticipant et valorisant le guichet unique ;
• lutter contre le non recours aux droits.

L’Ucanss a pour sa part opté pour une expérimentation d’aide à la recherche juridique augmentée par l’IA ainsi qu’une aide à la rédaction de réponses juridiques.

Concernant la programmation informatique, tous les participants aux ateliers de recherche ont reconnu que l’aide à la programmation constituait l’une des avancées les plus rapides, les plus profondes et les plus prometteuses de ces derniers mois. Cependant seule l’Urssaf Caisse nationale a déjà systématisé une démarche afin d’accompagner et encadrer le recours aux assistants virtuels par ses informaticiens et ses autres employés.

Le rapport alerte toutefois que l’IA, en dégageant du temps pour les équipes informatiques, nécessite de repenser les méthodes de management. Les développeurs risqueraient de devenir de simples relecteurs du code généré par l’IA, entraînant un relâchement par « techno-optimisme » qui pourrait être contreproductif.

L’Urssaf Caisse nationale travaille à définir une charte encadrant l’utilisation de ces assistants virtuels de programmation informatique. Le rapport souligne que les autres caisses nationales gagneraient à bénéficier du retour d’expérience quant à cette démarche.

Par ailleurs, le rapport met en avant la nécessité d’acculturer tout le personnel à l’usage de ces outils IA, et non seulement le personnel informatique. Dans ce cadre, il convient d’insister sur le fait que :

• la réponse de l’IA n’est pas forcément la plus véridique ;
• elle n’est pas forcément opposable en absence de citation de la source ;
• que l’entrainement de l’IA  a peut être été figé dans le temps (sauf option payante) ;
• que l’usage des modèles ouverts demande de faire confiance à leurs fournisseurs (Google, OpenAI, etc.) ;
• tandis que des modèles plus fermés s’avèrent parfois plus limités mais davantage sécurisés.

Les nouvelles perspectives d’usage de l’IA pour la Sécurité sociale

La relation à l’usager

L’enquête soulève que les évolutions récentes en matière d’IA ouvrent des perspectives prometteuses pour les organismes de protection sociale, notamment dans leurs relations avec les usagers. L’IA conversationnelle, par exemple, peut être un véritable atout apportant une réponse rapide et de qualité à l’usager. Pour rappel, des robots conversationnels sont déjà utilisés depuis des années par l’ensemble des caisses nationales de sécurité sociale (technologies de première génération). Le « chatbot » de l’Assurance Maladie a notamment permis de réduire de moitié le flux entrant de courriels à traiter.

Une nouvelle génération de ces robots conversationnels pourrait rendre la relation avec l’usager plus interactive. Dans le monde médical, par exemple, des réflexions sont en cours sur l’éventuelle autorisation de leur utilisation pour l’aide au diagnostic des pathologies à l’avenir.

L’IA pourrait également servir à développer davantage le « aller vers » l’usager, sans nécessairement attendre une sollicitation de sa part. Cela pourrait notamment servir à lutter contre le non-recours aux droits sociaux, dont le principal facteur identifié est le manque d’informations. La réponse pourrait ainsi devenir plus personnalisée. À cet égard, une interconnexion des « chatbots » avec les systèmes d’information existants et hébergeant les données personnelles des usagers s’avère nécessaire pour la sécurité sociale. À noter qu’il ne s’agit pas d’effectuer des opérations numériques de manière indiscriminée et sans égard aux principes protecteurs tels que le secret médical. Pour l’instant, les « chatbots » existants ne sont pas encore interconnectés avec le cœur des systèmes d’information des caisses de sécurité sociale. Des travaux informatiques ambitieux et de longue haleine sont nécessaires, compte tenu de leur complexité et de la sensibilité des données à traiter.

Par ailleurs, les risques d’erreur doivent être maitrisés, et ce, tant pour l’usager que pour l’administration dont les informations transmises sont opposables. En ce sens, la mise en place d’une boucle qualité s’avère nécessaire. La technologie réalise certes certaines tâches cognitives mieux et plus vite, mais un agent ou le manager peut et doit être en mesure de la contrôler à chaque étape clé de son fonctionnement. Ce critère de contrôle est d’ailleurs l’un des principes cardinaux définissant l’IA responsable en Europe (« AI Act »).

L’agent augmenté

Le second domaine d’utilisation de l’IA pour les organismes de sécurité sociale est celui qui pourrait assister les agents dans le cadre de leurs tâches et missions. Il s’agit d’offrir des outils complémentaires à l’agent dans l’exercice de son métier afin de lui faire gagner du temps, d’alléger ses tâches et lui faire gagner en efficacité. Les cas d’usage possibles soulignés par le rapport sont nombreux :

• l’aide au traitement de dossiers ;
• l’aide à l’instruction un peu complexe (réclamations, demandes de remboursement…) ;
• l’aide à la rédaction ;
• l’aide à la réponse, à l’explication ou à la vulgarisation d’un droit ou d’une décision.

Dans ce cadre, l’IA pourrait être utilisée dans la rédaction de certains courriers de réponse, dont la situation est complexe, qui seraient suffisamment compréhensibles et accessibles pour les usagers. L’avantage d’une telle IA est qu’elle permet d’absorber la complexité d’un système, tant pour les employés que pour les usagers. À noter qu’apporter une réponse aux usagers représente un très important volume d’activité pour les caisses de sécurité sociale. Il serait par conséquent intéressant de mener des évaluations sur l’impact d’amélioration de la qualité des réponses ainsi que sur le volume de contentieux enclenchés par les usagers. L’IA pourrait ainsi contribuer à améliorer la qualité de réponse, la productivité ainsi qu’un retour sur investissement.

Un des nombreux avantages de l’IA est sa capacité à s’adapter à différents niveaux de langages. Peuvent ainsi être développés des outils plus « restreints » en matière de possibilité de prompting (le prompt est une instruction donnée à une IA générative), mais plus performants dans un domaine très spécialisé. Un tel modèle spécialisé pourrait être déployé au niveau local avec une consommation moindre des ressources serveurs ou cloud. L’Ucanss a par exemple développé un assistant aux métiers juridiques en droit social avec un moteur recherche augmenté par l’IA.

Par ailleurs, combiner les qualités de l’IA générative et de l’IA d’extraction de données est important afin que les résultats gagnent en précision, les risques d’hallucination baissent et la qualité des réponses soit plus harmonisée. En ce sens, la qualité des résultats obtenus sera très dépendante de la qualité de la base de données initialement fournie. C’est un prérequis nécessaire pour que l’IA génère des résultats performants. L’interconnexion des IA, des bases de données et des systèmes d’information est donc nécessaire au déploiement d’assistants virtuels.

Comment passer un cap avec l’intelligence artificielle ?

Privilégier une vision globale de la création de valeur

Il ressort du rapport qu’il est à ce jour compliqué d’évaluer ab initio la création de valeur induite par chaque projet de manière chiffrée. Le retour sur investissement est difficile à estimer en raison notamment d’un manque de recul et de maturité sur l’utilisation des IA, d’un manque d’analyses fines et précises sur l’apport des IA utilisées en complément du travail humain et d’un manque de travaux de quantification des impacts de l’IA.

Plusieurs critères permettront d’apprécier l’apport des technologies : la qualité de service, les gains de productivité, les gains financiers éventuels et l’impact apprécié par le nombre d’utilisateurs ou de professionnels concernés.

Concernant la qualité de service rendu par l’IA, elle peut notamment être appréciée en se basant sur :

• l’amélioration de la qualité et l’accélération de la réponse à l’usager ;
• les mails, courriers et autres rapports à la rédaction améliorés et plus compréhensibles ;
• une plus grande personnalisation de la réponse.

Le rapport soulève que la qualité de service est « sans doute aujourd’hui le principal critère d’évaluation du retour sur investissement (ROI – return on investment) d’un projet IA ».

Conditions de succès pour un déploiement efficace de la dernière génération d’IA

Le rapport suggère d’abord de mutualiser les développements liées à l’IA entre les différents acteurs de la sécurité sociale. Ainsi, un financement conjoint suivi d’un déploiement chez plusieurs caisses de sécurité sociale augmentera la rentabilité de ces projets.

Il convient également de se pencher sur la donnée qui est la matière brute sans laquelle aucune intelligence artificielle n’est possible. Le rapport souligne l’importance de rendre cette donnée exploitable en améliorant sa qualité, en éliminant les erreurs et en harmonisant les standards. La donnée doit être qualifiée (c’est-à-dire être recensée et répertoriée) et être rendue interopérable entre les différents organismes de sécurité sociale. « La Sécurité sociale dispose parmi les plus volumineuses bases de données du pays, mais celles-ci sont encore trop insuffisamment exploitées en commun » souligne le rapport.

Ensuite, il est important que le déploiement soit progressif, que les métiers soient repensés dans leur manière de s’organiser et qu’un accompagnement est nécessaire pour la prise en main des nouveaux outils (notamment par le levier de la formation).

Enfin, le rapport recommande de redéfinir la ligne managériale : les processus métiers et les responsabilités managériales doivent être repensés. Un des enjeux sera de « maintenir le cerveau en éveil et prêt à l’effort » en matière de contrôle humain, tout en évitant de tomber dans les travers de la relecture systématique des documents générés par l’IA. De plus, le management devra être formé et sensibilisé aux enjeux éthiques et juridiques du recours à ces nouvelles technologies.

Propositions pour une amélioration de la prise en compte des possibilités offertes par l’IA

Plusieurs pistes d’amélioration sont formulées afin que les organismes de protection sociale puissent bénéficier pleinement des opportunités offertes par l’IA.
On retrouve notamment :

• la création d’un centre d’excellence pour l’IA entre caisses nationales (au niveau interbranche) qui permettrait de mutualiser les ressources et créer un « vivier de compétences » pour le développement des solutions d’IA métiers propres à la sécurité sociale ;
• l’amélioration de la circulation des données entre caisses par une politique de la donnée efficace ;
• l’expérimentation des solutions IA sur des sujets majeurs et visibles du grand public (comme la prévention grand âge ou la lutte contre le non-recours) ;
• la communication sur les apports positifs de l’IA pour les usagers ;
• l’implication des collaborateurs sur la base du volontariat ;
• la proposition de formations accompagnantes aux personnels ;
• l’accompagnement du déploiement de l’IA à des fins de codage au sein des services informatiques.

Source commentée : Rapport de recherche – EN3S, mai 2024, « Les usages présents et futurs de l’intelligence artificelle au service de la sécurité sociale »