Coded bias : algorithmes et discrimination en 2026

1. Coded bias : définition et mécanismes discriminatoires

Le coded bias désigne l’introduction, consciente ou non, de préjugés dans un algorithme via les données d’entraînement, les pondérations ou les règles de décision. En 2026, la doctrine juridique distingue trois formes principales : le biais de données (data bias), le biais de modélisation (algorithmic bias) et le biais d’utilisation (deployment bias).

« Le coded bias n’est pas un bug, c’est une fonctionnalité du système si l’on n’audite pas les données. En 2026, la jurisprudence considère que l’absence de correction d’un biais connu constitue une faute inexcusable. » — Maître Élise Vautier, avocate associée, IAAvocat.com

Les exemples abondent : algorithmes de recrutement pénalisant les femmes ou les minorités ethniques, systèmes de crédit défavorisant les quartiers populaires, logiciels de police prédictive ciblant disproportionnellement certaines communautés. Le droit français, via la loi du 15 mars 2025, a inscrit dans le Code civil une obligation de loyauté algorithmique.

2. Le cadre normatif 2026 : AI Act, loi française et soft law

Le Règlement européen sur l’intelligence artificielle (AI Act), en application depuis août 2025, classe les systèmes de notation sociale, de recrutement et d’accès aux services essentiels comme « à haut risque ». L’article 10 impose une évaluation des biais et des mesures de correction. En France, la loi n°2025-312 pour une IA responsable renforce les sanctions : amende jusqu’à 6 % du chiffre d’affaires mondial en cas de coded bias : algorithmes et discrimination avéré.

Textes applicables essentiels

« L’AI Act 2026 impose un "audit de biais" obligatoire tous les 12 mois pour les systèmes à haut risque. Le non-respect expose à des sanctions administratives et à des actions en responsabilité civile. » — Cabinet IAAvocat, note de veille juridique 2026

3. Jurisprudence récente : les décisions qui font date

L’année 2026 a vu plusieurs décisions marquantes. La CJUE, dans l’arrêt Syndicat des libertés numériques c/ État belge (aff. C-452/25), a jugé qu’un algorithme de notation sociale basé sur des données historiques de police constituait une discrimination indirecte prohibée par la directive 2000/43. Le Conseil d’État français, dans l’arrêt Association StopBias du 12 février 2026, a annulé un décret autorisant un système de tri des demandes d’asile par IA, faute de garanties suffisantes contre le coded bias.

Décision emblématique : Cour d’appel de Paris, 3 mars 2026

Dans l’affaire Dupont c/ FintechIA, la cour a condamné une société de crédit à verser 150 000 € de dommages-intérêts pour discrimination raciale indirecte. L’algorithme utilisait le code postal comme proxy, pénalisant les demandeurs issus de quartiers à forte proportion immigrée. La cour a retenu que la société n’avait pas réalisé d’audit de biais préalable, violant l’article 10 de l’AI Act.

4. Responsabilité des acteurs : éditeurs, déployeurs et utilisateurs

La chaîne de responsabilité en matière de coded bias : algorithmes et discrimination est désormais claire : le fournisseur (éditeur) répond du défaut de conception, le déployeur (entreprise utilisatrice) de l’absence de contrôle et d’adaptation au contexte, et l’utilisateur final peut voir sa responsabilité engagée en cas d’utilisation contraire aux instructions. La directive 2024/1028 instaure une présomption de lien de causalité entre le dommage et le défaut d’audit.

« En 2026, un déployeur ne peut plus se retrancher derrière l’éditeur. L’obligation de supervision humaine et de test de biais est personnelle et incessible. » — Maître Karim Leblanc, avocat en droit du numérique, IAAvocat.com

Les plateformes de mise à disposition d’IA (marketplaces) sont également soumises à un devoir de vérification. Le non-respect expose à des actions en concurrence déloyale et à des sanctions de la CNIL.

5. Preuve du biais et accès à la boîte noire

L’un des obstacles majeurs dans les litiges liés au coded bias : algorithmes et discrimination est l’accès aux données et aux métriques. Le droit à l’explication (art. 22 RGPD et art. 13 AI Act) permet à la victime de demander une explication individualisée. En 2026, la jurisprudence admet la production de tests de disparité (disparate impact) comme commencement de preuve. Les juges peuvent ordonner une expertise technique, y compris l’audit du code source et des jeux de données.