Intelligence artificielle
Maîtrise de l'IA : que demande l'article 4 aux collectivités ?
Depuis le 2 février 2025, les organisations qui fournissent ou déploient des systèmes d'IA doivent prendre des mesures pour assurer un niveau suffisant de maîtrise de l'IA chez les personnes concernées.
Une obligation adaptée aux usages réels
L'article 4 du règlement européen sur l'intelligence artificielle ne définit pas une formation unique. Il demande de tenir compte des connaissances techniques, de l'expérience, de l'éducation et de la formation des personnes, ainsi que du contexte dans lequel le système d'IA est utilisé et des personnes susceptibles d'être affectées.
Pour une collectivité, la démarche doit donc partir des usages : rédaction de courriers, préparation de documents, synthèse, recherche, commande publique ou traitement d'informations administratives.
Les risques à traiter en priorité
- La communication de données personnelles, confidentielles ou couvertes par le secret des affaires.
- Les réponses plausibles mais fausses, les références inventées et les raisonnements juridiquement erronés.
- La reprise d'un résultat sans vérification humaine ni identification de la source.
- L'utilisation d'un outil non autorisé ou mal paramétré par la collectivité.
Une démarche opérationnelle en quatre étapes
- Recenser les usages : quels agents utilisent quels outils, pour quelles tâches et avec quelles données ?
- Fixer des règles : préciser les données interdites, les usages autorisés et les contrôles attendus.
- Former selon les fonctions : un acheteur public, un agent d'accueil et un responsable de service ne rencontrent pas les mêmes risques.
- Conserver des traces : documenter les actions de sensibilisation, les supports diffusés et les règles internes adoptées.
Le bon réflexe
Ne pas demander seulement « quel outil utiliser ? », mais « pour quelle tâche, avec quelles données, quel contrôle humain et quelle responsabilité ? ».