Intelligence artificielle: votre organisation cadre-t-elle son usage de manière adéquate ?
Aujourd’hui, l’intelligence artificielle (IA) s’invite dans toutes les sphères professionnelles : rédaction de contenu, automatisation des tâches, prédiction, détection de risques, traitement d’images… Qu’il s’agisse d’un chatbot interne, d’un algorithme de décision complexe ou simplement de l’utilisation d’outils d’IA générative comme ChatGPT ou Copilot, l’IA transforme les pratiques des employés et cadres au sein des entreprises et des organisations publiques.
Cette évolution soulève des enjeux majeurs : conformité juridique, éthique, sécurité, protection des données, explicabilité, et fiabilité. Pour y répondre, de nouvelles mesures s’imposent progressivement aux organisations.
Ce qui relevait hier encore de la « bonne pratique » devient aujourd’hui une nécessité, à l’aube de la récente entrée en application du Règlement européen sur l’IA (AI Act). En effet, le Règlement impose notamment aux fournisseurs et utilisateurs de systèmes d’IA1 de prendre des mesures pour garantir un niveau suffisant de connaissances en matière d’IA chez leur personnel, ainsi que chez toute entité amenée à utiliser ou superviser un système d’IA pour leur compte2.
L’IA Office3 et les législateurs encouragent notamment à la rédaction de codes de conduite et de mécanismes de gouvernance applicables à l’ensemble des systèmes d’IA, indépendamment de leur classification de risques4.
La politique IA ou charte IA, est aujourd’hui l’un des moyens les plus efficaces pour intégrer une bonne gouvernance de l’IA et répondre aux attentes en matière d’encadrement de l’intelligence artificielle.
Pourquoi mettre en place une politique IA ?
Une politique IA bien conçue poursuit plusieurs finalités essentielles, tant sur le plan juridique qu’opérationnel :
- Responsabiliser l’organisation
- Encadrer les usages
- Aligner l’usage des IA sur les valeurs et règles de l’organisation
- Prévenir les risques juridiques, éthiques, financier, réputationnels ou organisationnels
- Optimiser l’efficacité interne grâce à une IA bien gouvernée, des outils mieux choisis, mieux intégrés et mieux utilisés.
- Renforcer la confiance des utilisateurs, clients, citoyens ou collaborateurs.
En somme, cette politique constitue un cadre de référence. Elle permet de clarifier la position de l’organisation sur l’IA, d’éviter les usages non maîtrisés, d’atténué le risque d’incidents et d’anticiper les exigences croissantes des régulateurs.
Que doit inclure une politique IA ?
Le contenu varie selon les organisations, chacune doit choisir ses propres standards mais voici un exemple d’informations qui pourraient y figurer :
Principes et lignes directrices
La politique a pour but d’instaurer une gouvernance de l’IA. Pour ce faire, elle doit formuler des engagements clairs en matière d’IA : respect des droits fondamentaux, transparence, supervision humaine, explicabilité, fiabilité et équité des systèmes, formation du personnel, sécurité et protection des données.
Ces principes servent de boussole pour toutes les décisions relatives à l’IA. Ce sont des engagements auxquels l’organisation se soumet lorsqu’elle choisit, utilise ou développe des systèmes d’IA.
Ces principes directeurs doivent notamment transparaitre dans le choix de nouveaux outils d’IA au sein de l’organisation (exemple : clauses contractuelles spécifiques dans le contrat avec le fournisseurs de systèmess d’IA sélectionné).
Registre des systèmes d’IA
Un inventaire à jour permet de faire le point en interne et de savoir quelles IA sont utilisées, pour quelle finalité, avec quelles données, et sous quelle responsabilité.
Cela facilite l’analyse des risques, la conformité, mais aussi la transparence en interne et vis-à-vis de l’extérieur.
Règles pour les collaborateurs
La politique doit également poser un cadre d’usage précis. Pour chaque système d’IA, il faut préciser ce qui peut être fait, dans quel but et sous quelles conditions.
Elle doit notamment préciser les règles que les collaborateurs sont tenus de respecter en matière de protection des données personnelles, de vérification des résultats générés par l’IA et de respect de la propriété intellectuelle.
Si des actions sont interdites ou soumises à autorisation préalable, elles doivent également se retrouver dans le document.
Un point de contact interne doit être clairement identifié en cas de questions ou d’incident à remonter relatif à l’utilisation du système d’IA.
Rôles et responsabilités
Il est important de répartir clairement les rôles et responsabilités tout au long du cycle de vie du système d’IA : de son implémentation à sa surveillance, en passant par la gestion des incidents.
Selon les besoins et le type de systèmes d’IA utilisé5, la politique peut intégrer des processus d’analyse de risques, un plan de formation du personnel ou tout autre élément adapté à l’organisation qui contribue à une gouvernance structurée et évolutive.
En conclusion, se doter d’une politique IA c’est :
- Créer une culture interne de l’IA responsable
- Anticiper les exigences règlementaires évolutives
- Structurer les pratiques pour mieux maitriser les risques
- Renforcer la confiance des collaborateurs, partenaires, clients ou citoyens
Pour éviter de laisser des mauvaises pratiques d’IA s’imposer au fil des usages, il est urgent de la gouverner avec méthode, cohérence et transparence.
1 Déployeurs au sens de l’IA Act : Article 3 (4) IA Act
2 Article 4 IA Act
3 L’IA Office (ou bureau européen de l’intelligence artificielle) est le centre d’expertise en matière d’IA dans l’UE : IA Office
4 Article 95 IA Act
5IA Act distingue 4 catégories de systèmes d’IA : Systèmes d’IA à risque inacceptable, Systèmes d’IA à haut risque, Systèmes d’IA à risque limité, Systèmes d’IA à risque minimal.
Autres sources consultées :
Explorateur de la loi sur l’IA : https://artificialintelligenceact.eu/fr/
IBM: https://www.ibm.com/fr-fr/think/topics/ai-governance
CNIL : fiches pratiques IA : https://www.cnil.fr/fr/les-fiches-pratiques-ia
Autorité belge de protection des données : https://www.autoriteprotectiondonnees.be/publications/brochure-d-information-sur-les-systemes-d-intelligence-artificielle-et-le-rgpd.pdf
Vous n’avez pas encore de politique interne pour cadrer les usages de l’IA ?
Faites-vous accompagner par nos consultants pour profiter des avantages de l’IA en toute sérénité.
Découvrez nos autres articles
À propos de CTI
CTI CONSULTING est un cabinet de conseil qui aide les organisations à faire usage du digital à bon escient.
Notre équipe pluridisciplinaire de consultants vous propose ses services pour définir, acquérir, intégrer et utiliser des outils numériques de manière efficace et responsable, en tenant compte des règlementations qui s’appliquent.
Envie d’en savoir plus ?
Vous n’avez pas encore de politique interne pour cadrer les usages de l’IA ?
Faites-vous accompagner par nos consultants pour avancer en toute sérénité.