Considérations éthiques dans le déploiement de DeepSeek AI dans la fintech

Devin Partida est rédactrice en chef de ReHack. En tant qu’écrivaine, ses travaux ont été publiés dans Inc., VentureBeat, Entrepreneur, Lifewire, The Muse, MakeUseOf, et d’autres.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des dirigeants de JP Morgan, Coinbase, Blackrock, Klarna et d’autres

L’intelligence artificielle (IA) est l’une des technologies les plus prometteuses mais aussi les plus préoccupantes dans le domaine de la fintech aujourd’hui. Maintenant que DeepSeek a secoué le secteur de l’IA, ses possibilités et ses pièges spécifiques exigent une attention particulière.

Alors que ChatGPT a popularisé l’IA générative en 2022, DeepSeek l’a portée à de nouveaux sommets avec le lancement de son modèle DeepSeek-R1 en 2025.

L’algorithme est open-source et gratuit, mais il a atteint un niveau de performance comparable à celui d’alternatives propriétaires payantes. En conséquence, c’est une opportunité commerciale séduisante pour les fintech souhaitant capitaliser sur l’IA, mais cela soulève aussi des questions éthiques.

Lectures recommandées :

*   **Le modèle R1 de DeepSeek suscite un débat sur l’avenir du développement de l’IA**
*   **Le modèle d’IA de DeepSeek : opportunité et risque pour les petites entreprises technologiques**

Protection des données

Comme pour de nombreuses applications d’IA, la protection des données est une préoccupation. Les grands modèles de langage (LLMs) comme DeepSeek nécessitent une quantité importante d’informations, et dans un secteur comme la fintech, une grande partie de ces données peut être sensible.

DeepSeek présente en outre la complication d’être une entreprise chinoise. Le gouvernement chinois peut accéder à toutes les informations des centres de données détenus en Chine ou demander des données aux entreprises du pays. Par conséquent, le modèle peut présenter des risques liés à l’espionnage étranger et à la propagande.

Les violations de données par des tiers sont une autre préoccupation. DeepSeek a déjà subi une fuite exposant plus d’un million de dossiers, ce qui peut remettre en question la sécurité des outils d’IA.

Biais de l’IA

Les modèles d’apprentissage automatique comme DeepSeek sont sujets aux biais. Parce que les modèles d’IA sont très habiles à repérer et apprendre des motifs subtils que les humains pourraient manquer, ils peuvent adopter des préjugés inconscients issus de leurs données d’entraînement. En apprenant à partir de ces informations biaisées, ils peuvent perpétuer et aggraver des problèmes d’inégalité.

Ces craintes sont particulièrement vives dans le secteur financier. Parce que les institutions financières ont historiquement réservé des opportunités aux minorités, une grande partie de leurs données historiques montre des biais importants. En entraînant DeepSeek sur ces ensembles de données, cela pourrait conduire à des actions biaisées supplémentaires, comme un IA refusant des prêts ou des hypothèques en fonction de l’origine ethnique plutôt que de la solvabilité.

Confiance des consommateurs

Alors que les problématiques liées à l’IA ont envahi les gros titres, le public devient de plus en plus méfiant à leur égard. Cela pourrait entraîner une perte de confiance entre une fintech et ses clients si elle ne gère pas ces préoccupations en toute transparence.

DeepSeek pourrait ici faire face à un obstacle particulier. La société aurait construit son modèle pour seulement 6 millions de dollars et, en tant qu’entreprise chinoise en forte croissance, elle pourrait rappeler aux gens les préoccupations de confidentialité qui ont affecté TikTok. Le public pourrait ne pas être enthousiaste à l’idée de faire confiance à un modèle d’IA à petit budget, développé rapidement, avec leurs données, surtout si le gouvernement chinois peut exercer une certaine influence.

Comment assurer un déploiement sûr et éthique de DeepSeek

Ces considérations éthiques ne signifient pas que les fintech ne peuvent pas utiliser DeepSeek en toute sécurité, mais elles soulignent l’importance d’une mise en œuvre prudente. Les organisations peuvent déployer DeepSeek de manière éthique et sécurisée en suivant ces bonnes pratiques.

Exécuter DeepSeek sur des serveurs locaux

L’une des étapes les plus importantes consiste à faire fonctionner l’outil d’IA sur des centres de données nationaux. Bien que DeepSeek soit une entreprise chinoise, ses poids de modèle sont open-source, ce qui permet de l’exécuter sur des serveurs américains et de réduire les préoccupations concernant les violations de la vie privée par le gouvernement chinois.

Cependant, tous les centres de données ne sont pas également fiables. Idéalement, les fintech devraient héberger DeepSeek sur leur propre matériel. Lorsqu’il n’est pas possible, la direction doit choisir un hébergeur avec soin, en ne collaborant qu’avec ceux garantissant une haute disponibilité et des standards de sécurité tels que ISO 27001 et NIST 800-53.

Réduire l’accès aux données sensibles

Lors de la création d’une application basée sur DeepSeek, les fintech doivent réfléchir aux types de données auxquelles le modèle peut accéder. L’IA ne doit accéder qu’aux données nécessaires à sa fonction. Il est également idéal de nettoyer les données accessibles de toute information personnellement identifiable (PII) non essentielle.

En limitant les détails sensibles accessibles, toute violation sera moins impactante. La réduction de la collecte de PII est aussi essentielle pour rester conforme à des lois comme le Règlement général sur la protection des données (RGPD) et la loi Gramm-Leach-Bliley (GLBA).

Mettre en œuvre des contrôles de cybersécurité

Les réglementations comme le RGPD et la GLBA imposent également des mesures de protection pour prévenir les violations dès le départ. Même en dehors de ces lois, l’historique de DeepSeek en matière de fuites souligne la nécessité de renforcer la sécurité.

Au minimum, les fintech doivent chiffrer toutes les données accessibles à l’IA, qu’elles soient au repos ou en transit. La réalisation régulière de tests de pénétration pour détecter et corriger les vulnérabilités est également recommandée.

Les organisations fintech devraient aussi envisager une surveillance automatisée de leurs applications DeepSeek, car cette automatisation permet d’économiser en moyenne 2,2 millions de dollars en coûts liés aux violations, grâce à des réponses plus rapides et efficaces.

Auditer et surveiller toutes les applications d’IA

Même après avoir suivi ces étapes, il est crucial de rester vigilant. Auditez l’application basée sur DeepSeek avant son déploiement pour repérer tout signe de biais ou de vulnérabilités de sécurité. Souvenez-vous que certains problèmes peuvent ne pas être visibles au début, d’où la nécessité d’une revue continue.

Créez une équipe dédiée pour surveiller les résultats de l’IA et garantir qu’elle reste éthique et conforme aux réglementations. Il est également préférable d’être transparent avec les clients à ce sujet. Cette transparence peut renforcer la confiance dans un domaine autrement douteux.

Les entreprises fintech doivent prendre en compte l’éthique de l’IA

Les données fintech étant particulièrement sensibles, toutes les organisations de ce secteur doivent prendre au sérieux les outils dépendants des données comme l’IA. DeepSeek peut être une ressource commerciale prometteuse, mais uniquement si son utilisation respecte des règles strictes d’éthique et de sécurité.

Une fois que les leaders fintech auront compris l’importance de cette prudence, ils pourront garantir que leurs investissements dans DeepSeek et autres projets d’IA restent sûrs et équitables.