Ethique : Qui est responsable des algorithmes de crédit dans les banques marocaines ?

Le secteur bancaire marocain traverse une transformation digitale sans précédent, marquant la fin de l’époque où le “banquier de famille” évaluait votre solvabilité à la poignée de main. Aujourd’hui, derrière les interfaces fluides des applications de Attijariwafa Bank, de la BCP ou de Bank of Africa, se cachent des lignes de code complexes. Ces algorithmes de credit scoring décident, en quelques fractions de seconde, si un projet de vie mérite d’être financé ou si un dossier doit être classé sans suite. Mais alors que l’intelligence artificielle prend le relais, une question fondamentale émerge dans le débat public national : en cas d’erreur ou de discrimination, qui doit rendre des comptes ?

L’enjeu n’est pas seulement technologique, il est profondément sociétal. Au Maroc, où l’inclusion financière reste un cheval de bataille pour Bank Al-Maghrib, l’automatisation du crédit soulève des craintes légitimes. Si un algorithme refuse systématiquement un prêt à un auto-entrepreneur de Casablanca ou à un agriculteur du Souss sur la base de critères opaques, les conséquences humaines sont réelles. L’éthique de ces systèmes devient alors le rempart nécessaire contre une finance déshumanisée. Il est crucial de comprendre que ces outils ne sont pas de simples calculatrices améliorées, mais des systèmes apprenants dont la responsabilité juridique et morale doit être clairement identifiée.

Aborder la responsabilité des algorithmes au Maroc demande de plonger dans un écosystème où s’entremêlent régulations bancaires, protection des données personnelles et stratégies de transformation numérique. Entre le développeur qui code la logique, la banque qui déploie la solution et le régulateur qui surveille le marché, les frontières de la responsabilité sont parfois floues. Cet article explore les mécanismes de décision automatisée dans le Royaume et tente de lever le voile sur les acteurs qui portent, in fine, la charge de ces décisions numériques.

L’essor du scoring algorithmique dans le royaume

L’adoption massive du credit scoring par les banques marocaines s’explique par une volonté de productivité et de gestion des risques. Traditionnellement, l’analyse d’un dossier de crédit reposait sur des ratios financiers classiques et une part de subjectivité humaine. Désormais, les banques utilisent des modèles de machine learning pour traiter des milliers de points de données. Ces modèles ne se contentent plus de regarder vos revenus ; ils analysent vos comportements de paiement, votre historique de consommation et parfois même des données alternatives issues de votre empreinte numérique, bien que cette pratique soit strictement encadrée au Maroc.

L’avantage pour le consommateur marocain est indéniable : une réponse quasi immédiate pour un crédit à la consommation ou un prêt automobile. Cependant, cette efficacité a un coût caché. Les algorithmes sont alimentés par des données historiques qui peuvent contenir des biais cognitifs. Si, historiquement, certaines catégories de la population ont eu plus de mal à rembourser leurs crédits pour des raisons structurelles, l’algorithme risque de reproduire et d’amplifier cette exclusion, créant un cercle vicieux. C’est ici que la notion d’éthique entre en jeu : peut-on laisser une machine perpétuer des inégalités sociales sous couvert d’optimisation mathématique ?

Les banques marocaines investissent massivement dans la Data Science pour affiner ces modèles. Mais la sophistication technologique ne doit pas occulter la transparence. Un client dont le crédit est refusé par une application mobile a le droit de comprendre pourquoi. Pourtant, la complexité des modèles de “boîte noire” (black box) rend parfois cette explication difficile, même pour les conseillers bancaires eux-mêmes. Cette perte de contrôle sur la logique décisionnelle est le premier défi majeur auquel se heurtent les directions des risques dans les établissements de la place casablancaise.

L’impact de l’intelligence artificielle sur l’inclusion financière

Le passage à l’algorithme est souvent présenté comme un outil au service de la Stratégie Nationale d’Inclusion Financière. En théorie, l’IA permet de prêter à des profils auparavant ignorés faute de garanties classiques. Par exemple, une petite entreprise artisanale à Fès pourrait obtenir un financement grâce à l’analyse de ses flux de trésorerie réels plutôt que sur la base de bilans comptables souvent incomplets. C’est la promesse d’une banque plus agile et plus proche des réalités économiques du terrain marocain.

Toutefois, le risque est de voir se créer une fracture entre ceux qui sont “compris” par l’algorithme et les “invisibles statistiques”. Si les critères de scoring ne sont pas régulièrement audités pour vérifier leur équité, des pans entiers de l’économie informelle pourraient se retrouver définitivement exclus du système bancaire formel. La responsabilité éthique de la banque est donc de s’assurer que ses outils ne deviennent pas des barrières infranchissables pour les citoyens les plus fragiles économiquement.

Le cadre réglementaire imposé par Bank Al-Maghrib

Au Maroc, le secteur bancaire ne navigue pas en eaux troubles. Bank Al-Maghrib (BAM), sous l’impulsion de son Wali, Abdellatif Jouahri, a toujours maintenu une surveillance stricte sur l’innovation technologique. Le régulateur est conscient que la stabilité du système financier dépend de la qualité des modèles de risque. Les banques sont tenues de justifier la robustesse de leurs algorithmes de scoring auprès de la banque centrale. Cela signifie que la responsabilité première de la conformité de l’outil repose sur l’institution financière elle-même.

Les circulaires de BAM imposent des normes rigoureuses en matière de gouvernance des risques. Une banque ne peut pas simplement acheter une solution “clé en main” à une fintech étrangère sans en comprendre les rouages. Elle doit être capable de démontrer que le modèle a été testé sur le marché local et qu’il respecte les principes de prudence. En cas de défaillance systémique liée à un algorithme mal calibré, c’est la banque qui s’expose aux sanctions du régulateur, soulignant une responsabilité institutionnelle claire et non délégable.

Le régulateur marocain insiste également sur la cybersécurité et la résilience opérationnelle. Un algorithme de crédit est une cible potentielle pour des attaques ou des manipulations. La responsabilité de la banque s’étend donc à la sécurisation du processus décisionnel. Si une faille technique permettait de biaiser les scores de crédit, l’établissement serait jugé responsable de ne pas avoir mis en place les barrières de sécurité adéquates. La régulation marocaine agit ainsi comme un garde-fou éthique, forçant les banques à garder l’humain dans la boucle de contrôle.

La convergence avec les standards internationaux de Bâle

Les banques marocaines, très actives sur le continent africain, s’alignent progressivement sur les standards de Bâle III et bientôt Bâle IV. Ces accords internationaux exigent une transparence totale sur les méthodes de calcul des risques. L’utilisation d’algorithmes ne dispense pas les banques de constituer des fonds propres en fonction du risque réel. La responsabilité éthique rejoint ici la responsabilité financière : un mauvais algorithme n’est pas seulement injuste, il est dangereux pour la solvabilité de la banque.

Cette pression internationale pousse les banques du Royaume à recruter des experts en éthique des données. Il ne s’agit plus seulement de vérifier si l’algorithme fonctionne, mais s’il est “juste” au sens réglementaire et moral du terme. Cette mutation interne montre que la responsabilité n’est plus uniquement juridique, elle devient une composante de la réputation de la marque bancaire sur le marché global.

La responsabilité juridique des établissements bancaires

D’un point de vue purement légal, le contrat de crédit lie le client à la banque. Peu importe que la décision ait été prise par un logiciel sophistiqué ou par un comité de crédit humain, la personne morale responsable reste l’institution bancaire. Si un client estime avoir été victime d’une discrimination injustifiée par un algorithme, son recours se fera contre la banque. Les tribunaux marocains, bien que peu familiers encore avec les litiges liés à l’IA, s’appuient sur le droit commun des obligations pour trancher.

La banque porte la responsabilité du “fait de la chose” ou, par extension, du fait de l’outil informatique qu’elle utilise. Cette responsabilité est totale. Elle ne peut pas se défausser sur le prestataire technologique en cas de litige avec un client final. C’est pourquoi la phase de validation des modèles est devenue critique. Chaque mise à jour d’un algorithme de scoring doit passer par un processus interne de validation (Model Risk Management) où des équipes indépendantes testent les limites et les biais du système.

En outre, la loi sur la protection du consommateur au Maroc renforce cette obligation de transparence. Le client doit être informé qu’un traitement automatisé est utilisé pour évaluer sa demande. La responsabilité de la banque est donc aussi une responsabilité d’information. Le manque de clarté sur les raisons d’un refus de crédit peut être interprété comme une pratique abusive, ouvrant la voie à des recours indemnitaires. La banque est le garant de l’équité de traitement entre tous ses clients, algorithme ou non.

L’importance de la documentation technique et éthique

Pour se protéger juridiquement, les banques marocaines doivent désormais produire une documentation exhaustive sur leurs algorithmes. Cela inclut les variables utilisées, les méthodes de pondération et les résultats des tests de stress. Cette “piste d’audit” est essentielle en cas de contrôle de Bank Al-Maghrib ou de plainte d’un usager. La responsabilité se matérialise ici par la capacité de la banque à prouver que son intelligence artificielle est sous contrôle et qu’elle n’agit pas de manière erratique ou discriminatoire.

Le rôle crucial des fournisseurs de solutions technologiques

Si la banque est responsable devant le client et le régulateur, qu’en est-il des éditeurs de logiciels ? De nombreuses banques marocaines font appel à des géants mondiaux comme Experian, FICO ou des fintechs spécialisées pour leurs moteurs de décision. Ces prestataires fournissent le code et les modèles mathématiques. La question de la responsabilité se déplace alors vers le contrat de prestation de services. Si le fournisseur livre un algorithme contenant un bug ou un biais de conception majeur, sa responsabilité contractuelle peut être engagée par la banque.

Cependant, dans la pratique, il est très difficile de prouver la faute du fournisseur, surtout lorsque l’algorithme “apprend” à partir des données propres à la banque marocaine. Le modèle peut être sain au départ, mais devenir biaisé en absorbant des données locales mal nettoyées. La responsabilité est donc souvent partagée ou hybride. Les banques exigent désormais des clauses de garantie éthique et des audits réguliers de la part de leurs fournisseurs technologiques pour minimiser ces risques de dérive.

Le transfert de responsabilité reste complexe. Dans l’écosystème marocain, on observe une montée en puissance des solutions de SaaS (Software as a Service) pour le crédit. Dans ce modèle, la banque loue l’accès à un algorithme hébergé sur le cloud. Cela soulève des questions supplémentaires sur la souveraineté des données et la responsabilité en cas de panne ou d’erreur de calcul. La vigilance des directions informatiques (DSI) et juridiques des banques est donc la première ligne de défense pour assurer une éthique technologique sans faille.

Vers une certification des algorithmes de crédit ?

Certains experts au Maroc plaident pour la mise en place d’un label ou d’une certification pour les algorithmes financiers. À l’instar des normes ISO, une telle certification garantirait que le fournisseur respecte des principes éthiques fondamentaux : non-discrimination, explicabilité et robustesse. Une telle initiative permettrait de clarifier la chaîne de responsabilité et de rassurer les banques lors du choix de leurs partenaires technologiques. Cela positionnerait également le Maroc comme un leader régional de l’IA responsable en Afrique.

Les enjeux éthiques de l’automatisation du crédit

L’éthique dans les algorithmes de crédit ne se limite pas à la conformité légale ; elle touche à la justice sociale. Le principal risque est celui de la discrimination indirecte. Par exemple, un algorithme pourrait pénaliser les résidents de certains quartiers périphériques de Casablanca ou Tanger, non pas parce qu’il a été programmé pour être discriminatoire, mais parce qu’il corrèle le lieu de résidence avec un risque de défaut plus élevé. C’est ce qu’on appelle le “redlining” numérique, une pratique éthiquement condamnable car elle punit l’individu pour les caractéristiques de son groupe social.

Voici les principaux points de vigilance éthique identifiés par les observateurs du marché marocain :

• La transparence des critères : Le client doit savoir quels types de données influencent son score de crédit.
• Le droit au recours humain : Toute décision automatisée négative devrait pouvoir être contestée auprès d’un conseiller humain capable de réviser le dossier.
• L’équité de traitement : S’assurer que les modèles ne créent pas de barrières artificielles pour les femmes entrepreneures ou les jeunes diplômés.
• La protection de la vie privée : Limiter l’usage de données non financières (réseaux sociaux, géolocalisation) qui pourraient être intrusives.

La question du “droit à l’explication” est centrale. Au Maroc, le cadre juridique commence à intégrer l’idée que le citoyen ne peut être soumis à une décision produisant des effets juridiques sur lui sans en comprendre les motifs. Pour les banques, cela signifie passer de modèles opaques à une IA explicable (XAI). Cette technologie permet de retracer le cheminement logique de l’algorithme et de pointer précisément les facteurs qui ont conduit au refus. C’est une étape indispensable pour instaurer la confiance entre les Marocains et leurs institutions bancaires numériques.

Enfin, l’éthique algorithmique interroge la mission même de la banque. Si l’algorithme ne cherche qu’à maximiser le profit en minimisant le risque, il délaisse son rôle de moteur du développement économique. Une banque éthique au Maroc est celle qui sait paramétrer ses algorithmes pour qu’ils servent l’économie réelle, en acceptant une part de risque calculée pour soutenir les projets innovants qui ne rentrent pas forcément dans les cases pré-établies de la donnée historique.

La protection des données personnelles avec la CNDP

On ne peut parler de responsabilité des algorithmes sans évoquer la Commission Nationale de contrôle de la protection des Données à caractère Personnel (CNDP). Présidée par Omar Seghrouchni, la CNDP veille à l’application de la loi 09-08. Tout algorithme de crédit manipule des données sensibles. La responsabilité de la banque est engagée si ces données sont utilisées à des fins autres que celles pour lesquelles elles ont été collectées, ou si elles sont conservées au-delà de la durée nécessaire.

La CNDP a un rôle de régulateur “horizontal” qui complète celui de Bank Al-Maghrib. Elle s’assure que les algorithmes ne deviennent pas des outils de surveillance généralisée. Par exemple, l’utilisation de données de navigation web pour évaluer un crédit est un terrain glissant sur lequel la CNDP exerce une surveillance accrue. Les banques marocaines doivent déclarer leurs traitements automatisés et garantir la sécurité des informations stockées. La responsabilité pénale des dirigeants peut être engagée en cas de violation grave de la confidentialité des données.

Le consentement du client est la pierre angulaire de ce système. Une banque marocaine ne peut pas légalement passer votre profil au crible d’un algorithme sans votre accord explicite. Cependant, le consentement est souvent noyé dans des conditions générales d’utilisation illisibles. La responsabilité éthique des banques consiste donc à rendre ce consentement éclairé et spécifique. C’est un défi de design et de communication que les banques doivent relever pour être en phase avec les exigences de la CNDP et les attentes de protection des citoyens.

Le transfert de données à l’étranger : un point de friction

Beaucoup de solutions algorithmiques utilisent des serveurs situés en dehors du Maroc (Cloud public). La responsabilité de la banque est de s’assurer que ce transfert de données respecte les standards de protection marocains, souvent jugés équivalents au RGPD européen. Si les données de crédit des Marocains sont traitées par un algorithme aux États-Unis ou en Europe, la banque marocaine reste l’unique responsable devant la loi nationale pour toute fuite ou usage abusif. Cette “responsabilité territoriale” est un enjeu majeur de souveraineté numérique pour le Royaume.

Vers une intelligence artificielle explicable et responsable

L’avenir de la banque au Maroc passera par une IA qui ne se contente pas d’être performante, mais qui est redevable. Les banques commencent à comprendre que la méfiance envers les algorithmes peut freiner l’adoption des services digitaux. Pour pallier cela, l’investissement dans des interfaces pédagogiques est essentiel. Imaginez une application qui, après un refus de crédit, vous donne des conseils personnalisés : “Votre score est bas car votre taux d’endettement actuel dépasse 35%, essayez de solder votre petit crédit conso pour améliorer vos chances”. C’est cela, une responsabilité algorithmique positive.

Les universités marocaines et les centres de recherche, comme l’UM6P, jouent également un rôle dans la formation de cette nouvelle génération de data scientists éthiques. La responsabilité ne doit pas seulement venir d’en haut (régulateurs), mais aussi de la base (développeurs). En intégrant des modules d’éthique dans les cursus d’ingénierie, le Maroc se dote d’un capital humain capable de concevoir des systèmes qui respectent les valeurs sociales et culturelles du pays. L’algorithme de demain sera le reflet des choix de société que nous faisons aujourd’hui.

En conclusion, la responsabilité des algorithmes de crédit au Maroc est une responsabilité partagée, mais dont le pivot central reste la banque. C’est l’établissement financier qui choisit l’outil, le nourrit avec ses données et signe le contrat avec le client. Si la technologie offre des perspectives fantastiques pour dynamiser l’économie marocaine, elle ne doit jamais s’affranchir du contrôle humain et de la vigilance citoyenne. Le chemin vers une banque 100% digitale et 100% éthique est encore long, mais les fondations réglementaires et techniques sont déjà en train de se solidifier sous l’égide des autorités nationales.

FAQ — Algorithmes de crédit et scoring bancaire au Maroc : Le point en 2026