IA, automatisation & responsabilité

01

État actuel

Aucune IA générative dans le parcours public

La version actuelle de MyProID ne nécessite pas de modèle génératif pour afficher une fiche, produire une vCard, générer le QR local, traiter un formulaire public ou incrémenter les métriques agrégées. Ces fonctions reposent sur du code applicatif classique.

Le terme “IA” ne doit donc pas être utilisé pour rendre artificiellement le produit plus impressionnant. Lorsqu’une fonction repose sur une règle, un formulaire, un calcul ou une automatisation déterministe, elle doit être décrite comme telle.

Avant l’activation d’une fonctionnalité d’IA, MyProID devra documenter ce que la fonction fait réellement, pourquoi elle est utile et quels risques ou limites elle introduit.

• Finalité précise de la fonction et bénéfice attendu pour l’utilisateur.
• Type de modèle ou de service utilisé et identité du fournisseur lorsqu’un tiers intervient.
• Données envoyées au modèle, données conservées et éventuelle réutilisation pour entraînement selon les conditions du fournisseur.
• Lieu de traitement lorsque cette information est disponible et transferts éventuels hors du périmètre d’hébergement principal.
• Limites connues : erreurs, hallucinations, biais, contenu incomplet ou mauvais classement.
• Possibilité de ne pas utiliser la fonction lorsqu’elle n’est pas indispensable au service principal.
• Modalités de recours à un humain ou de correction lorsque le résultat a un impact important.

Les données d’une fiche, d’un compte ou d’un formulaire ne doivent pas être envoyées à un modèle d’IA simplement parce qu’une fonctionnalité pourrait en tirer parti. Le principe retenu est de minimiser les données et de limiter chaque flux à une finalité explicite.

Si un fournisseur externe est utilisé, sa politique de conservation, d’entraînement, de journalisation et de localisation doit être évaluée avant intégration. Une promesse du type “zéro entraînement” ou “zéro conservation” ne doit apparaître que si elle est vérifiable contractuellement et techniquement pour le service concerné.

04

Interaction

Informer lorsqu’une personne interagit avec une IA

Le règlement européen sur l’IA prévoit des obligations de transparence pour certains systèmes, notamment lorsque des personnes interagissent directement avec un système d’IA et lorsque des contenus synthétiques sont générés ou manipulés dans certains contextes.

Si MyProID introduit un assistant, un générateur de texte, un traitement d’image ou une autre fonction concernée, l’interface devra indiquer clairement la nature de l’outil lorsque cela est requis ou utile à la compréhension.

Une suggestion générée par un modèle doit rester identifiable comme une suggestion lorsque l’utilisateur doit la valider. Les résultats ne doivent pas être transformés en faits, scores de fiabilité ou décisions automatiques sans méthodologie vérifiable.

Pour les usages susceptibles d’affecter une personne, une réputation, un accès ou une décision professionnelle, MyProID privilégiera une validation humaine, une possibilité de correction et une explication du rôle réel du modèle.

Une future fonction de génération de contenu devra éviter de faire passer un contenu synthétique pour un témoignage, une certification ou une preuve réelle. Les utilisateurs resteront responsables des contenus qu’ils choisissent de publier sur leur fiche.

Lorsque la réglementation ou le contexte l’exige, les contenus artificiellement générés ou manipulés devront être identifiables et, le cas échéant, marqués de manière appropriée.

07

Qualité

Erreurs, biais et limites de performance

Les modèles peuvent produire des réponses plausibles mais fausses, ignorer un contexte, amplifier un biais ou varier d’un appel à l’autre. Une interface responsable ne masque pas ces limites derrière un score ou un vocabulaire rassurant non démontré.

Toute fonction IA devra être testée sur son cas d’usage réel avant d’être présentée comme fiable. Les résultats de tests ou taux de réussite ne seront publiés que s’ils ont été effectivement mesurés et documentés.

Toute entrée destinée à un modèle reste une entrée non fiable. Une intégration IA future devra limiter les injections de prompt, les exfiltrations de contexte, les appels d’outils excessifs et la propagation de données qu’un utilisateur n’est pas autorisé à consulter.

Les secrets, mots de passe, clés d’API, données privées d’autres utilisateurs ou informations sensibles ne doivent jamais être injectés dans un prompt par défaut.

Aucun fournisseur IA tiers n’est nécessaire au fonctionnement public actuel de MyProID. Si cela change, le fournisseur et les flux devront être ajoutés à la politique de confidentialité ainsi qu’aux documents techniques pertinents.

Une fonction externe ne sera pas présentée comme locale, indépendante, souveraine ou sans conservation si l’architecture réelle ne permet pas de le démontrer.

10

Gouvernance

Revue, retrait et évolution

Une fonction IA doit pouvoir être désactivée ou retirée si son bénéfice ne compense plus ses risques, si un fournisseur change ses conditions ou si les résultats ne sont plus suffisamment fiables.

Les changements substantiels de fournisseur, de modèle, de données envoyées ou de finalité doivent entraîner une nouvelle revue du risque et une mise à jour de l’information utilisateur.