الذكاء الاصطناعي في الامتثال ليس صندوقًا أسودًا — إنه اختبار للمساءلة: مقابلة مع رومان إلوشفيلي

رومان إلوشفيلي هو مؤسس شركة ComplyControl، شركة ناشئة تعتمد على الذكاء الاصطناعي للكشف عن الامتثال والاحتيال للمؤسسات المالية.

اكتشف أهم أخبار وفعاليات التكنولوجيا المالية!

اشترك في النشرة الإخبارية لـ FinTech Weekly

قراءة من قبل التنفيذيين في جي بي مورغان، كوين بيس، بلاك روك، كلارنا وغيرهم

ما الذي يختبره الذكاء الاصطناعي في الامتثال فعلاً: التكنولوجيا، أم نحن؟

في الخدمات المالية، لم يعد الامتثال مجرد وظيفة. إنه نقطة ضغط نشطة—حيث تتصادم اللوائح والمخاطر والعمليات. مع إدخال تقنيات الذكاء الاصطناعي إلى هذا المجال، يظل سؤال واحد يتكرر: إلى أي مدى يمكننا حقًا الأتمتة، ومن يظل مسؤولًا عندما تسوء الأمور؟

جاذبية الذكاء الاصطناعي في كشف الاحتيال والامتثال سهلة الفهم. تواجه المؤسسات المالية توقعات متزايدة لمعالجة كميات هائلة من البيانات، والاستجابة للتهديدات المتطورة، والامتثال للتشريعات المتغيرة—كل ذلك دون التضحية بالسرعة أو الدقة. توفر الأتمتة، خاصة عند قيادتها بواسطة التعلم الآلي، وسيلة لتقليل العبء التشغيلي. لكنها تثير أيضًا مخاوف أعمق بشأن الحوكمة، والشرح، والسيطرة.

هذه التوترات ليست نظرية. فهي تتكشف في الوقت الحقيقي، حيث تنشر الشركات المالية نماذج الذكاء الاصطناعي في أدوار كانت تُشغل سابقًا بواسطة محللين بشريين. وراء الكواليس، تظهر مخاطر جديدة: الإيجابيات الكاذبة، النقاط العمياء في التدقيق، والقرارات الخوارزمية التي تظل غامضة للمستخدمين والمنظمين على حد سواء.

وفي الوقت نفسه، يُطلب من محترفي الامتثال تغيير أدوارهم. بدلاً من فحص كل معاملة يدويًا، أصبحوا الآن يشرفون على الأدوات التي تقوم بذلك. هذا إعادة صياغة—from المنفذ إلى المقيم—تتطلب ليس فقط مهارات تقنية جديدة، بل أيضًا إحساسًا أقوى بالمسؤولية الأخلاقية والإجرائية. يمكن للذكاء الاصطناعي توسيع نطاق تحليل البيانات. يمكنه تمييز التناقضات. لكنه لا يستطيع شرح النية بالكامل، أو تفسير السياق، أو تحمل اللوم.

فهم هذه الحدود أمر حاسم. وقليلون هم من هم في وضع أفضل لاستكشافها من رومان إلوشفيلي، مؤسس شركة ComplyControl البريطانية لتقنيات الامتثال. عمله يقف تمامًا عند تقاطع المخاطر، والأتمتة، والرقابة—حيث تلتقي الكفاءة الخوارزمية مع التدقيق التنظيمي.

مع أكثر من عقد من الخبرة في المجال، رأى رومان عن كثب كيف تتطور فرق الامتثال وكيف يعيد الذكاء الاصطناعي تشكيل سير العمل ومسؤولياتهم. يجادل بأن وعد الذكاء الاصطناعي لا يكمن في القضاء على الأدوار البشرية، بل في إعادة تشكيلها—وإضفاء وضوح جديد على ما يجب أن تتولاه الآلات، وما يجب أن يظل البشر مسؤولين عنه.

هذا التحول يتطلب أكثر من ترقية تقنية. إنه يتطلب إعادة تنظيم ثقافية حول المساءلة. الأنظمة الشفافة، والعمليات القابلة للتدقيق، والمسؤولية البشرية المحددة بوضوح لم تعد مجرد ميزات—بل هي الحد الأدنى من المعايير. عندما يُدخل الذكاء الاصطناعي في البنى التحتية الحيوية، فإنه لا يحل المشكلات فقط. بل يُدخل فئة جديدة من القرارات التي تتطلب إدارة نشطة واستراتيجية.

في هذا الحوار مع FinTech Weekly، يقدم رومان رؤية واقعية لما يتطلبه دمج الذكاء الاصطناعي بمسؤولية في الامتثال ومنع الاحتيال. لا يرى أن الأتمتة حتمية، بل خيار—يتطلب حكمًا بشريًا مستمرًا، ووضوحًا تشغيليًا، واستعدادًا لطرح أسئلة صعبة حول مكان الثقة الحقيقي.

يسعدنا أن نشارك رؤاه في وقت يتساءل فيه الكثيرون في مجال التكنولوجيا المالية ليس عما إذا كان ينبغي اعتماد الذكاء الاصطناعي—بل كيف نفعل ذلك دون أن نغفل عن المعايير التي جعلت الأنظمة المالية تعمل في المقام الأول.

1. لقد بنيت مسيرتك المهنية عند تقاطع الامتثال والتكنولوجيا. هل تتذكر اللحظة التي أدركت فيها أن الذكاء الاصطناعي يمكن أن يغير بشكل جوهري طريقة إدارة المخاطر؟

لا أقول إنه كان لحظة واحدة محددة غيرت كل شيء. بل كان عملية متفرقة. قضيت جزءًا كبيرًا من مسيرتي في العمل مع بنوك أوروبية راسخة، وكنت ألاحظ أن العديد منها متأخرة جدًا عندما يتعلق الأمر بالحلول المصرفية الرقمية. وكان الفرق واضحًا بشكل خاص مقارنة بمراكز التكنولوجيا المالية الأكثر تقدمًا.

قبل عدة سنوات، عندما بدأ موضوع تطوير الذكاء الاصطناعي يشتد من جديد، أصبحت فضوليًا بطبيعة الحال وبدأت أبحث فيه. ومع دراستي للتقنية وكيفية عملها، أدركت أن الذكاء الاصطناعي لديه القدرة على تغيير جذري في طريقة تعامل البنوك مع الامتثال، مما يجعلها أكثر توازيًا مع لاعبي التكنولوجيا المالية الحديثين والأكثر مرونة.

هذا ما دفعني لإطلاق شركتي في 2023. فتعقيد إدارة الامتثال والمخاطر لا يتوقف عن النمو سنة بعد أخرى. في مواجهة هذه الحقيقة، مهمتنا بسيطة: تقديم حلول تعتمد على الذكاء الاصطناعي للشركات المالية ومساعدتها على التعامل مع هذه التحديات المتزايدة بشكل أكثر فاعلية.

2. من وجهة نظرك المهنية، كيف تطور دور الخبراء البشريين مع تقدم أدوات الذكاء الاصطناعي في الامتثال والكشف عن الاحتيال؟

قبل أن أقول أي شيء آخر، دعني أتناول أمرًا مباشرًا. هناك قلق شائع عبر العديد من المجالات حول ما إذا كان الذكاء الاصطناعي سيحل محل العاملين البشريين. وبالنسبة لمحترفي الامتثال والمخاطر، إجابتي لا—على الأقل، ليس في الوقت القريب.

بينما يغير الذكاء الاصطناعي صناعتنا بالفعل، فهو لا يزال بعيدًا عن أن يكون خاليًا من الأخطاء. لذلك، يظل التدخل البشري عنصرًا أساسيًا. تتغير لوائح الامتثال باستمرار، ويجب أن يكون هناك من يتحمل المسؤولية عندما تفشل الأنظمة أو ترتكب أخطاء. في مستواها الحالي، لا تزال الذكاء الاصطناعي تكافح لشرح قراراتها بوضوح، لذلك فهي ليست جاهزة لتولي المهمة بمفردها. خاصة في مجال حيث الثقة والشفافية أمران حاسمان.

ومع ذلك، فإن الذكاء الاصطناعي يجعل عمليات الامتثال أسهل بشكل نشط. على سبيل المثال، وفقًا للتكوين، يمكن لأنظمة الذكاء الاصطناعي الآن تمييز المعاملات المشبوهة أو حتى حظرها مؤقتًا مع طلب التحقق الإضافي. لا حاجة لوجود بشر حقيقيين لفحص كل تفصيل يدويًا، إلا إذا برز شيء غريب حقًا. ومع تطور هذه الأنظمة، ستستمر في تقليل الحاجة للعمل اليدوي، مما يسمح للفرق بالتركيز على مهام أكثر تعقيدًا تتطلب لمسة بشرية.

أعتقد أننا سنشهد ظهور نموذج هجين، حيث سيصبح خبراء الامتثال أكثر كفاءة في استخدام أدوات الذكاء الاصطناعي. سيكونون هم من يطبقون ويصونون أنظمة الذكاء الاصطناعي، بينما ستبسط الذكاء الاصطناعي عملهم من خلال فهم البيانات المعقدة وتقديم التوصيات. ومع ذلك، يبقى الحكم النهائي للبشر.

3. عند العمل مع الذكاء الاصطناعي في مجالات حساسة مثل الامتثال المالي، كيف تعاملت شخصيًا مع تحدي الحفاظ على الثقة والمساءلة في اتخاذ القرارات؟

بالطبع. كما ذكرت سابقًا، عندما تستخدم الذكاء الاصطناعي في الامتثال، الثقة أمر حاسم.

لهذا السبب بنينا أنظمتنا على الشفافية الكاملة. فهي لا تعمل كـ"صندوق أسود"—كل توصية تقدمها النظام تستند إلى قواعد وبيانات قابلة للتتبع. نحفظ سجل تدقيق كامل لكيفية اتخاذ كل قرار، بحيث يكون قابلًا للتفسير تمامًا. أثبتت هذه الممارسة قيمتها بشكل كبير عند التعامل مع المنظمين.

القرار النهائي دائمًا يعود إلى مسؤول الامتثال. يوفر الذكاء الاصطناعي ببساطة اقتراحًا مبررًا جيدًا يمكن للبشر فحصه بسهولة واتخاذ قرار بالموافقة أو الرفض.

4. خبرتك تمتد لأكثر من 10 سنوات. كيف تغيرت نظرتك حول الأتمتة والإشراف البشري خلال مسيرتك، خاصة الآن مع تزايد استقلالية الذكاء الاصطناعي؟

بالتأكيد. بشكل أوسع، مع تقدم تقنية الذكاء الاصطناعي، كلما زادت استقلاليتها، سمحنا لها تدريجيًا بذلك—طالما أنها خضعت للاختبار بشكل شامل واستمرت في إثبات موثوقيتها.

لكن ما يتغير أكثر هو الدور الذي يلعبه المختص البشري في هذا المعادلة. بدلًا من إدارة كل حالة بشكل دقيق، أصبح مسؤولو الامتثال يلعبون الآن دور المشرفين الاستراتيجيين. يمكنهم مراجعة دفعات كاملة من الحالات المماثلة بسرعة، والتحقق من أداء النظام، وضبط النماذج بناءً على النتائج.

بعبارة أخرى، يتغير الدور الفعلي لمسؤولي الامتثال من أداء العمل يدويًا إلى إدارة أنظمة الذكاء الاصطناعي التي تقوم بذلك نيابة عنهم.

5. العمل في إدارة المخاطر المدفوعة بالذكاء الاصطناعي يتطلب التنقل بين أسئلة أخلاقية معقدة. كيف طورت شخصيًا إطار عمل لاتخاذ قرارات مسؤولة عند تصميم أو تنفيذ حلول تعتمد على الذكاء الاصطناعي؟

بنيت منهجنا حول فكرتين رئيسيتين: الرقابة الواضحة ومبادئ الذكاء الاصطناعي المسؤول. كل نموذج نستخدمه لديه شخص معين مسؤول عنه. يتم إجراء تقييمات المخاطر، ومراجعات الأداء، وفحوصات الامتثال بشكل منتظم.

كما نحرص على أن تكون أنظمتنا قابلة للتدقيق. إذا اتخذ الخوارزمية قرارًا، يمكن مراجعة تلك العملية والتحقق منها. هذا الشفافية جزء أساسي من التزامنا بتطوير ذكاء اصطناعي مسؤول.

6. في مسيرتك، ما هو الدرس المهني الأصعب الذي تعلمته حول حدود—أو مخاطر—الاعتماد المفرط على الأتمتة في مجالات حاسمة مثل منع الاحتيال؟

درس واحد بالتأكيد يجب أن نضعه في الاعتبار هو أن النماذج المدربة جيدًا يمكن أن “تتوهم”—وترتكب أخطاءً بطريقة دقيقة وخطيرة.

يمكن للذكاء الاصطناعي أن يفشل في اكتشاف مخططات احتيال معقدة، أو قد يطلق الكثير من التنبيهات الكاذبة. لهذا السبب، من المهم جدًا الجمع بين الذكاء الاصطناعي والخبرة البشرية—البشر يجلبون حكمًا مرنًا ويكونون أفضل في تقييم الأخلاقيات والسياق العام بطرق لا يستطيع الذكاء الاصطناعي القيام بها.

التوازن بين الاثنين يعد بنتائج أفضل وأكثر موثوقية. يمكن للذكاء الاصطناعي أن يغطي حجم المهام الكبير ويخفف من تعقيدها، بينما يظل البشر مسؤولين عن الحفاظ على مستوى مناسب من الدقة والثقة.

7. للمحترفين الشباب الذين يدخلون مجالات الامتثال، إدارة المخاطر، أو تطوير الذكاء الاصطناعي اليوم، ما المبادئ أو العادات الشخصية التي تنصحهم بتنميتها للنجاح والتكيف في بيئة تتغير بسرعة كهذه؟

أولاً وقبل كل شيء: لا تتوقف أبدًا عن التعلم. التقدم التكنولوجي لا يوجد لديه زر إيقاف، ويجب أن تواكب أو تُترك خلف الركب. لا يوجد خيار وسط هنا.

ثانيًا، فكر بشكل واسع. مع تقدم الذكاء الاصطناعي، تتداخل الأدوار أكثر فأكثر—التكنولوجيا، والمالية، والتنظيم تصبح مزيجًا واحدًا. أنا مقتنع أن امتلاك مجموعة مهارات واسعة وعقل منفتح سيكون السمة الحاسمة للمحترفين المستقبليين في المجال.

ثالثًا—وهو امتداد طبيعي للنقطتين السابقتين—كن مرنًا. التغيير مستمر، والقدرة على التكيف بسرعة ستكون ميزة كبيرة لك.

وأخيرًا، طور مهارات تواصل قوية وتعلم كيف تكون عضو فريق فعال. كما ناقشنا سابقًا، الامتثال يقف عند تقاطع الأعمال والتكنولوجيا والقانون. لذلك، القدرة على التبديل بين الأدوار والتواصل مع أشخاص من جميع هذه المجالات ستكون مهارة قيمة تكتسبها.