حذر المنظمون الماليون في المملكة المتحدة البنوك التي تتطلع إلى استخدام الذكاء الاصطناعي للموافقة على طلبات القروض من أنهم لا يمكنهم نشر التكنولوجيا إلا إذا تمكنوا من إثبات أنها لن تؤدي إلى تفاقم التمييز ضد الأقليات التي تكافح أساساً للاقتراض.
وذكرت صحيفة فايننشال تايمز أن الجهات الرقابية تضغط بشكل متزايد على أكبر البنوك في بريطانيا بشأن الضمانات التي يخططون لتطبيقها فيما يتعلق باستخدام الذكاء الاصطناعي، وفقاً للعديد من الأشخاص المطلعين على المحادثات.
وتستكشف البنوك الكبرى طرقاً لأتمتة عمليات الإقراض عبر استخدام الذكاء الاصطناعي والخوارزميات الأكثر تقدماً، لتحديد من تقرضه استناداً إلى البيانات التاريخية الموجودة عن أنواع مختلفة من المقترضين، والذين يمكن تجميعهم حسب فئات مثل الرموز البريدية وملفات تعريف التوظيف.
تعتقد البنوك أن استخدام تقنيات التعلم الآلي لاتخاذ قرارات الإقراض يمكن أن يقلل التمييز ضد الجماعات العرقية التي كافحت تاريخياً للحصول على قروض بأسعار معقولة. إنهم يشعرون أن الذكاء الاصطناعي لن يصدر نفس الأحكام الذاتية وغير العادلة مثل البشر.
وذكر سايمون جليسون، المحامي في كليفورد تشانس: «تود البنوك تماماً التخلص من صانع القرار البشري لأنها ترى، على ما أعتقد، أنه المصدر المحتمل للانحياز».
لكن المنظمين ومجموعات الحملات يخشون من أن استخدام الذكاء الاصطناعي في نماذج الائتمان يمكن أن يكون له تأثير معاكس.
وذكر جيمس دالي، مؤسس مجموعة «تمويل عادل Fairer Finance»، أن هناك مخاوف بالفعل بشأن سبل استخدام البيانات لتسعير كل من الائتمان والتأمين لأنها «تعزل الفئات الأكثر ضعفاً» من خلال تقديم نفس الأسعار المرتفعة التي تلقاها تلك الأنواع من العملاء تقليدياً.
وهذا يؤدي إلى تحصيل معدلات فائدة أعلى لمن هم في المجموعات التي لديها عجز كبير في السداد عادةً، مما يجعلهم أكثر عرضة للتخلف عن السداد.
في العام الماضي، حث رئيسا لجنتين في الكونجرس المنظمين على ضمان قيام أكبر المقرضين في البلاد بتنفيذ الضمانات لضمان تحسين استخدام الذكاء الاصطناعي في الائتمان للعائلات ذات الدخل المنخفض والمتوسط والأشخاص الملونين، بدلاً من تضخيم التحيزات المعروفة.
وفي تقريرهم حول تنظيم التمويل الرقمي، دعا المنظمون الماليون في الاتحاد الأوروبي الأسبوع الماضي المشرعين إلى النظر في «إجراء المزيد من التحليل لاستخدام البيانات في نماذج الذكاء الاصطناعي والتعلم الآلي والتحيز المحتمل الذي يؤدي إلى التمييز والاستبعاد».
وقد جرى تطهير البنوك في المملكة المتحدة من العنصرية في قرارات القروض من خلال مراجعة حكومية منذ ما يقرب من عقد من الزمان، ولكن تبين أنها لا تزال تقرض بنسبة أقل للأقليات العرقية.
ناقشت المائدة المستديرة في أكتوبر التي عقدها بنك إنجلترا وهيئة السلوك المالي إطاراً أخلاقياً وتدريباً حول الذكاء الاصطناعي، وذكر أحد المسؤولين التنفيذيين في بنك بريطاني كبير أن كل فرد في الصناعة «يفكر ويعمل على» كيفية نشر الذكاء الاصطناعي بطريقة أخلاقية. وقال آخرون إن بنوكهم كانت في مرحلة مبكرة من استكشاف كيفية استخدامه.