La plupart des chartes éthiques IA sont inutilisables : elles affirment des valeurs — « responsable », « transparente », « centrée sur l’humain » — sans jamais dire ce qu’on s’interdit de faire. Une règle éthique qui n’interdit rien ne coûte rien, et ne protège personne. Voici les nôtres, écrites de façon à pouvoir être opposées à un projet, y compris quand le projet est le nôtre.
1. La donnée qui entre a une provenance, ou elle n’entre pas
Avant d’envoyer quoi que ce soit à un modèle, une question : d’où vient cette donnée, et pour quoi les personnes concernées ont-elles donné leur accord ? Un CV envoyé pour une candidature n’a pas été confié pour entraîner un système de scoring. Des e-mails clients n’ont pas été écrits pour alimenter un modèle commercial. Le RGPD appelle ça la limitation des finalités ; en pratique c’est du bon sens contractuel : on n’utilise pas la donnée de quelqu’un pour un usage qu’il aurait refusé s’il l’avait su.
Traduction opérationnelle : un registre des sources, une mention de la finalité par flux, et un arbitrage explicite sur les données personnelles avant tout développement. Cinq lignes dans un tableur au démarrage évitent une reconstruction complète six mois plus tard.
2. Aucune décision sur une personne sans recours humain
Recrutement, promotion, crédit, résiliation, sanction, allocation de poste : dès qu’un système produit un effet sur la vie d’une personne, un humain identifiable doit pouvoir revoir la décision, et la personne doit savoir à qui s’adresser. Ce n’est pas seulement de l’éthique — c’est l’article 22 du RGPD, et c’est la logique de l’AI Act européen, qui classe précisément ces usages en « haut risque » avec des obligations de documentation, de journalisation et de supervision humaine.
Un « human in the loop » qui valide 200 dossiers par jour en cliquant Suivant n’est pas une supervision. C’est un alibi.
Le point de contrôle humain ne vaut que s’il a le temps, l’information et l’autorité de dire non. Concrètement : un volume compatible avec une vraie relecture, l’accès aux éléments qui ont fondé la proposition, et un taux de désaccord suivi. Si ce taux est de zéro pendant trois mois, la supervision est fictive et il faut le dire.
3. Les gens concernés savent
Trois transparences distinctes, souvent confondues. Vers le client : il sait qu’il parle à une machine, et comment joindre un humain. Vers le salarié : il sait qu’un outil intervient dans son travail, ce qu’il mesure, ce qu’il ne mesure pas. Vers le décideur : il sait sur quelles données le système s’appuie et quelles sont ses limites connues.
En France, l’introduction d’un outil qui modifie les conditions de travail passe par l’information et la consultation du CSE. Ce n’est pas un obstacle administratif : c’est le moment où les usages réels remontent, et où les projets qui allaient échouer à l’adoption se corrigent encore à peu de frais.
4. Le biais se mesure, il ne se promet pas
Un modèle apprend sur l’historique. Si votre historique de recrutement, de tarification ou de réclamation contient une discrimination, le système l’apprend, la lisse et la reproduit à l’échelle — avec, en prime, l’apparence de neutralité que donne une sortie chiffrée. « Nous avons choisi un fournisseur sérieux » ne mesure rien.
Ce qui se mesure : le taux d’erreur du système par sous-population, sur un jeu de test que vous contrôlez, refait après chaque changement de modèle ou de prompt. Un écart de performance entre groupes est un fait constatable, à documenter et à arbitrer. C’est plus long qu’une clause de contrat, et c’est la seule chose qui tient devant un juge ou un journaliste.
5. On dit ce que la machine a fait
Un rapport rédigé par un modèle et signé comme un travail d’expert, une réponse de support présentée comme humaine, un avis client généré : ce sont des tromperies, indépendamment de la qualité du texte. La règle interne est simple — si le lecteur changerait d’avis en apprenant qu’une machine a produit le contenu, il faut le lui dire avant.
6. Tout ce qui décide est journalisé
Version du modèle, version du prompt, données d’entrée, sortie, opérateur qui a validé, horodatage. Sans ce journal, une réclamation six mois plus tard est indéfendable : personne ne peut reconstituer ce que le système a vu ni pourquoi il a répondu ça. C’est une exigence réglementaire pour les usages à haut risque, et c’est de toute façon la seule façon de déboguer un système probabiliste.
7. La sobriété est un critère de conception
Chaque appel à un modèle consomme du calcul, donc de l’électricité et de l’eau de refroidissement. Beaucoup de tâches traitées « à l’IA » relèvent d’une règle, d’une jointure ou d’une expression régulière : moins cher, plus rapide, déterministe, auditable. Utiliser un modèle de frontière pour classer un code postal n’est pas un progrès, c’est un gaspillage facturé.
- La surveillance individuelle des salariés : scoring de productivité nominatif, analyse de sentiment sur les messageries internes, détection d’« engagement » par la webcam.
- Les décisions automatiques sans recours sur des personnes : tri de candidatures sans relecture, résiliation ou refus déclenchés par un score seul.
- Le contenu conçu pour tromper : faux avis, faux témoignages, réponses présentées comme humaines quand elles ne le sont pas.
- L’exploitation de données personnelles hors de la finalité pour laquelle elles ont été collectées.
Pourquoi c’est aussi une question de gestion des risques
L’argument moral suffit, mais il n’est pas le seul. Un système opaque, non journalisé et non mesuré est un risque juridique — RGPD et AI Act prévoient des sanctions calculées sur le chiffre d’affaires mondial. C’est aussi un risque d’adoption : un outil déployé sans en parler aux équipes est contourné dans le mois. Et c’est un risque de réputation, qui se matérialise en une capture d’écran.
L’éthique appliquée coûte quelques jours dans le plan de charge : le registre des sources, le jeu de test par sous-population, la journalisation, la consultation des équipes. Ces quelques jours sont, dans notre expérience, ceux qui décident si le système sera encore utilisé dans un an.