La BSP établit des principes de gouvernance pour une utilisation responsable et éthique de l'IA par les banques

Les institutions financières PHILIPPINES doivent développer des cadres de gouvernance de l'intelligence artificielle (IA) qui reflètent l'étendue et la complexité de leur utilisation de ces technologies émergentes dans leurs opérations afin de gérer les risques potentiels et d'établir des garanties pour une utilisation éthique, a déclaré la Bangko Sentral ng Pilipinas (BSP).

La BSP, par le biais du Mémorandum n° M-2026-031 daté du 24 juin, a publié un document d'orientation intitulé « Principes de gouvernance pour l'intelligence artificielle dans les services financiers » que ses institutions financières supervisées par la BSP (BSFIs) peuvent utiliser pour élaborer leurs propres politiques en matière d'IA.

« Alors que l'intelligence artificielle continue de progresser et de s'intégrer dans le secteur financier, les institutions financières doivent mettre en place des contrôles et des garanties efficaces contre les risques inhérents à l'adoption de l'IA, tels que les préoccupations relatives à la confidentialité des données, les biais menant à des pratiques injustes et discriminatoires, et l'utilisation abusive de la technologie, entre autres », a déclaré Lyn I. Javier, gouverneure adjointe de la BSP.

« Il est recommandé que les institutions financières développent formellement leur propre cadre de gouvernance de l'IA, proportionnel à la nature, à l'étendue, à l'échelle, à la complexité et à la matérialité de leurs systèmes d'IA, ainsi qu'à la complexité opérationnelle globale et au profil de risque de l'institution, en suivant les principes énoncés dans le document d'orientation. »

Mme Javier a déclaré que la mise en place de ces contrôles permettra de garantir que les institutions peuvent utiliser l'IA en toute sécurité et en récolter les bénéfices. « En fin de compte, l'utilisation éthique et responsable de l'IA peut favoriser la confiance, renforcer la résilience et promouvoir une innovation durable au sein de l'écosystème financier. »

« Bien que la BSP reconnaisse le potentiel significatif de ces technologies, elle souligne l'importance de maintenir les normes les plus élevées en matière d'éthique, de transparence et de responsabilité tout au long du cycle de vie des systèmes d'IA, en particulier lorsque l'IA est intégrée dans les opérations stratégiques des institutions financières », a ajouté la BSP.

Le document d'orientation décrit les attentes minimales en matière de supervision pour l'adoption de l'IA, mais la BSP a précisé que ces principes ne sont pas contraignants et que la conformité est volontaire, le régulateur ayant indiqué qu'il appartient aux BSFIs de formuler leurs propres politiques de gouvernance de l'IA et cadres de gestion des risques.

Cela s'explique par le fait qu'elle reconnaît que les institutions financières se trouvent à différents stades de maturité en matière d'IA, ce qui signifie que leurs expositions aux risques varient. Elle a ajouté que les cadres de gouvernance de l'IA peuvent aider à gérer les risques opérationnels, informatiques (IT), liés aux modèles, à la conduite du marché, à la réputation, à la stratégie et aux aspects juridiques associés à l'utilisation de l'IA.

Outre les BSFIs, les principes couvrent également les fournisseurs ou prestataires de services externalisés qui soutiennent les activités liées à l'IA de ces institutions dans le cadre d'un modèle de responsabilité partagée.

Pour sa part, le cadre existant de gestion des risques informatiques de la BSP couvre les technologies émergentes, car il se concentre sur la sécurité de l'information, l'externalisation et la gestion de projets. Elle publiera également un cadre de gestion des risques liés aux modèles qui se concentrera sur l'équité algorithmique et les risques liés aux modèles tout au long du cycle de vie complet du modèle, en utilisant une approche proportionnelle et fondée sur les risques.

La BSP a déclaré que la gouvernance de l'IA dans l'ensemble du secteur financier devrait être régie par les principes STARS, qui représentent la durabilité, la transparence, la responsabilité, la responsabilisation et la sécurité.

Ces principes doivent être pris en compte à chaque étape du cycle de vie du système d'IA : planification, développement, validation, déploiement et surveillance.

En ce qui concerne la durabilité, les BSFIs doivent s'assurer que leurs solutions d'IA sont « substantiellement » bénéfiques pour l'ensemble de l'écosystème financier, environnemental et sociétal, a indiqué la banque centrale. Le développement de ces systèmes d'IA doit viser à minimiser les empreintes carbone, à privilégier l'efficacité énergétique et doit être « centré sur l'humain ».

La BSP a ajouté que pour la transparence, les informations pertinentes et nécessaires doivent être disponibles et adaptées aux connaissances et à l'expertise des utilisateurs ou parties prenantes concernés. Ces principes de transparence doivent également s'appliquer aux fournisseurs tiers.

« Pour éviter une dépendance aveugle aux recommandations des systèmes d'IA, les utilisateurs doivent être en mesure de répondre à des questions telles que "comment" le résultat a été obtenu et "pourquoi" une recommandation a été formulée. »

La banque centrale a déclaré que les BSFIs doivent disposer d'un inventaire centralisé des systèmes d'IA, et que les utilisateurs doivent  être informés lorsque la sortie de l'IA est utilisée dans le produit ou est incluse dans le processus.

Ils doivent également disposer d'une documentation sur le processus de conception, le processus de prise de décision, le suivi et la résolution des erreurs, ainsi que les options de construction d'algorithmes et de sources de données pour garantir l'auditabilité de ces systèmes. Les BSFIs doivent également veiller à ce que les risques, erreurs et incertitudes identifiés aient des procédures d'atténuation clairement définies.

« Un examen régulier de tous les systèmes d'IA doit être effectué pour assurer un suivi et une évaluation appropriés des parties prenantes. »

En matière de responsabilité, la BSP a indiqué que les institutions doivent définir clairement les responsabilités entre la direction, les développeurs et toutes les parties prenantes concernées, en soulignant l'importance de maintenir une supervision humaine dans la boucle.

« Bien que les systèmes d'IA fournissent des recommandations, les humains sont en fin de compte responsables des décisions prises. Le résultat des systèmes d'IA ne doit pas remplacer ou diminuer la responsabilité humaine », a-t-elle déclaré.

La supervision humaine et la séparation appropriée des rôles et des responsabilités doivent être intégrées tout au long du cycle de vie du système d'IA, et ceux qui sont responsables du développement et du déploiement de l'IA doivent disposer d'une expérience et d'une compétence suffisantes, a indiqué la banque centrale.

La BSP doit également être en mesure de surveiller, superviser et examiner le développement et le déploiement de l'algorithme et de la technologie d'IA.

En ce qui concerne la responsabilité et l'équité sociale ou l'utilisation éthique de l'IA, la banque centrale a déclaré que le système d'IA doit éviter les pratiques injustes ou les préjudices potentiels pour les utilisateurs, l'institution et l'écosystème financier au sens large. Cela couvre les préoccupations relatives à la confidentialité des données et l'évitement des biais potentiels contre tout groupe démographique, en particulier les groupes minoritaires ou vulnérables, grâce à des données d'entraînement appropriées.

Elle a ajouté que les BSFIs doivent « s'assurer que l'objectif principal du système d'IA est de contribuer positivement au bien-être des individus et de soutenir le bien commun du système financier ».

Enfin, en matière de sécurité, les BSFIs doivent disposer de contrôles rigoureux en matière de cybersécurité et de qualité des données, a indiqué la banque centrale. Ils doivent procéder à des évaluations régulières fondées sur les risques pour détecter les vulnérabilités potentielles dans les systèmes d'IA et disposer de contrôles d'atténuation des risques, de tests des systèmes et de procédures de réponse aux incidents couvrant également leurs modèles et systèmes d'IA.

Elle a ajouté qu'ils devraient « surveiller et évaluer régulièrement la qualité des données et les performances des modèles pour détecter rapidement les anomalies (telles que les biais et les hallucinations) ».

« La précision, la fiabilité et l'efficacité globales d'un système d'IA dépendent de la qualité de ses ensembles de données. »

Les directives poussent les banques vers une gouvernance formelle de l'IA avec des normes claires en matière de transparence, de responsabilité, d'équité, de sécurité et de supervision humaine, plutôt qu'une simple gestion improvisée de l'IA, a déclaré John Paolo R. Rivera, chercheur principal de l'Institut philippin des études sur le développement, dans un message Viber.

« Le mémorandum est opportun car les banques utilisent déjà l'IA pour la notation du crédit, la détection des fraudes, le service client, la conformité et la gestion des risques », a-t-il déclaré.

Les grandes banques disposent déjà de mesures contre les risques liés aux modèles, la cybersécurité, la confidentialité des données et les systèmes de conformité, tandis que les petits prêteurs pourraient avoir besoin d'améliorer certains aspects de leur gouvernance, tels que l'inventaire de l'IA, la documentation, la validation indépendante, la supervision des fournisseurs et les tests de biais. — Aaron Michael C. Sy