الذكاء الاصطناعي التوليدي وأخلاقيات الأعمال

1. تحديد القضايا الأخلاقية الرئيسة في استخدام الذكاء الاصطناعي التوليدي في المجال المالي.
2. تقييم المسؤوليات الأخلاقية للمؤسسات المالية والمُطوِّرين.
3. توضيح دور الحكومات والجهات التنظيمية في ضمان الاستخدام الأخلاقي للذكاء الاصطناعي في القطاع المالي.
4. اقتراح إرشادات وممارسات تضمن الاستخدام الأخلاقي للذكاء الاصطناعي في الأعمال المالية.

• ما التحدِّيات الأخلاقية التي تظهر عند استخدام أنظمة الذكاء الاصطناعي في اتخاذ قرارات مالية تُؤثِّر في الأفراد؟
• كيف يُمكن التأكُّد أنَّ أنظمة الذكاء الاصطناعي تتَّسم بالعدالة، ولا تحابي مجموعات وفئات مُعيَّنة من المجتمع على حساب أخرى؟
• ما المسؤوليات المُلقاة على كاهل الشركات والمُطوِّرين لضمان الاستخدام الأخلاقي للذكاء الاصطناعي في المؤسسات المالية؟

التحيُّز.

في ظلِّ تطوُّر تقنيات الذكاء الاصطناعي وأدواته المُتعدِّدة، أخذت الأنظمة الذكية تُقدَّم نصائح استثمارية للمهتمين بالشأن المالي، وتُحلَّل سلوك الأفراد المالي، حتى إنَّها أصبحت تتَّخذ قرارات مالية نيابة عنهم. ولكن، هل يُمكن لهذا الذكاء أن يُطلق أحكامًا غير عادلة على بعض الأشخاص؟ وهل يُحتمل أن يُميِّز بين شخص وآخر؟ وهل يتجرَّأ على انتهاك خصوصيتنا من دون أن نَعلم؟ إنَّ هذه الأسئلة تقودنا إلى التفكير في الأبعاد الأخلاقية المُرتبطة باستخدام الذكاء الاصطناعي في المجال المالي. والحقيقة أنَّ استخدام الذكاء الاصطناعي التوليدي في المجال المالي يطرح تحدِّيات مُعقَّدة تتطلَّب دراسة عميقة ومعالجة مدروسة، علمًا بأنَّ هذه التحدِّيات لا تقتصر على الجوانب التقنية فحسب، بل تمتدُّ لتشمل العدالة الاجتماعية والمساواة وحقوق الإنسان. تأسيسًا على ذلك، فإنَّ الذكاء الاصطناعي المُستخدَم في الخدمات المالية قد يؤدّي إلى تفاقم إشكالية عدم المساواة، أو إيجاد أشكال جديدة من التمييز إذا لم يُجَرَّ تطويره واستخدامه على نحوٍ مسؤول. ولهذا يجب وضع إطار أخلاقي واضح لتوجيه استخدام تقنيات الذكاء الاصطناعي وتطويرها.

في هذا السياق، يؤدّي البنك المركزي الأردني دورًا رئيسًا في تنظيم استخدام الذكاء الاصطناعي في القطاع المالي؛ فهو يُمثِّل الجهة المسؤولة عن كلّ ممّا يأتي:

1. وضع إطار تنظيمي وأخلاقي يُحكم استخدام التقنيات الذكية بعدالة وشفافية.
2. حماية حقوق الأفراد في الخصوصية، ومنع التمييز في قرارات الإقراض أو التوصيات المالية.
3. مراقبة عمل البنوك والشركات التي تستخدم الذكاء الاصطناعي، والتأكّد أنها مُلتزمة بالمعايير الأخلاقية.

كذلك يعمل البنك المركزي الأردني على تشجيع الابتكار المالي المسؤول، عن طريق دعم التقنيات الحديثة؛ شرط احترامها القوانين والأنظمة، ومراعاتها حقوق المُستخدِمين.

يتعيَّن على المؤسسات المالية التي تستخدم الذكاء الاصطناعي التوليدي أن تتحمَّل مسؤوليات أخلاقية عديدة، أبرزها:

1. مسؤولية التطوير العادل:

• أ. التنوُّع في فِرَق التطوير: يكون ذلك بضمان تنوُّع الخلفيات والتجارب لِفِرَق تطوير الذكاء الاصطناعي.
• ب. اختبار التحيز: يجب إجراء اختبارات مُنتظمة للكشف عن التحيز في النماذج.

  يُعرَّف التحيز ⁦(Bias)⁩ بأنّه تحيز أنظمة الذكاء الاصطناعي لفئات مُعيَّنة أو العمل بما يضرُّها؛ ما يؤدّي إلى نتائج غير عادلة، أو نتائج يشوبها نوع من التمييز.

• ج. التصميم الشامل: يجب أن تُصمَّم الأنظمة الذكية على نحوٍ يخدم جميع فئات المجتمع بعدالة.

2. مسؤولية الشفافية:

• أ. بيان كيفية عمل الأنظمة الذكية: أي تقديم تفسيرات واضحة لكيفية اتخاذ القرارات.
• ب. الإفصاح عن القيود: يتمثَّل ذلك في الاعتراف بحدود الأنظمة الذكية ومواطن ضعفها.
• ج. التواصل مع العملاء: أي بيان كيف يُستخدَم الذكاء الاصطناعي في اتخاذ القرارات المالية.

3. مسؤولية المراقبة والتحسين:

• أ. المراقبة المستمرة: يجب مراقبة أداء الأنظمة الذكية للكشف عن أي تحيز أو مشكلات أخلاقية.
• ب. التحديث المُنتظَم: لا بُدَّ من تحديث النماذج لتحسين جانبي العدالة والدقَّة فيها.
• ج. الاستجابة للشكاوى: يكون ذلك بوضع آليات للتعامل مع شكاوى العملاء المُتعلِّقة بالعدالة، أنظر الشكل (1).

1: مسؤولية التطوير العادل. 2: مسؤولية الشفافية. 3: مسؤولية المراقبة والتحسين. الشكل (1): المسؤوليات الأخلاقية للمؤسسات المالية.

تعمل الحكومات والجهات التنظيمية على ضمان الاستخدام الأخلاقي العادل للذكاء الاصطناعي في القطاع المالي، عن طريق ما يأتي:

1. سَنّ القوانين واللوائح: وضع تشريعات ضامنة لمبدأي العدالة والشفافية.
2. الإشراف والمراقبة: متابعة المؤسسات المالية للتحقُّق من التزامها بنصوص التشريعات.
3. التوعية والتعليم: نشر ثقافة أخلاقيات الذكاء الاصطناعي في أوساط المجتمع.
4. التعاون الدولي: توحيد المعايير مع الدول الأُخرى لمواجهة التحدّيات بشكل جماعي، أنظر الشكل (2).

1: سَنّ القوانين واللوائح. 2: الإشراف والمراقبة. 3: التوعية والتعليم. 4: التعاون الدولي. الشكل (2): دور الحكومات والجهات التنظيمية. ● التحدّيات المستقبلية المُعوِّقة لأخلاقيات الذكاء الاصطناعي في المجال المالي:

1. التطوُّر السريع للتكنولوجيا؛ إذ إنّه يزيد من صعوبة مواكبة القضايا الأخلاقية الجديدة.
2. تعقيد النماذج المُتزايد؛ إذ إنّه يحول دون تفسير قرارات النماذج بسهولة.
3. التوازن بين الكفاءة والعدالة؛ إذ يتطلَّب ذلك البحث عن حلول تحافظ على مستوى الأداء بعيدًا عن أي نوع من الظلم.
4. الاختلافات الثقافية؛ فما يُعدّ عدلاً في ثقافة مُعيَّنة قد يُنظر إليه بشكل مختلف في ثقافة أُخرى، أنظر الشكل (3).

1: التطوُّر السريع للتكنولوجيا. 2: تعقيد النماذج المُتزايد. 3: التوازن بين الكفاءة والعدالة. 4: الاختلافات الثقافية. الشكل (3): التحدّيات المستقبلية المُعوِّقة لأخلاقيات الذكاء الاصطناعي في المجال المالي.

1. تطوير أدوات الكشف عن التحيز: يكون ذلك بتصميم تقنيات مُتقدِّمة لرصد مواطن التحيز في النماذج.
2. التعليم والتدريب: يتمثَّل ذلك في توفير برامج تثقيفية للموظفين والمُطوِّرين تختصُّ بأخلاقيات الذكاء الاصطناعي.
3. التعاون المُتعدِّد التخصُّصات: أي مشاركة خبراء في التكنولوجيا والقانون والأخلاق وأفراد من المجتمع في مواجهة هذه التحدّيات.
4. المعايير الصناعية: أي وضع معايير مُوحَّدة لصناعة الذكاء الاصطناعي في المجال المالي تضمن تحقيق مبدأي العدالة والشفافية، أنظر الشكل (4).

أفترض أنني عضو في لجنة أخلاقيات الذكاء الاصطناعي بمؤسسة مالية كبيرة، وأنّه تبيَّن وجود خلل في نظام تقييم القروض الجديد، يتمثَّل في التحيز لفئة مُعيَّنة من المجتمع:

• ما الإجراءات التي يتعيَّن عليَّ اتخاذها مباشرةً من دون تأخير؟
• كيف سأوازن بين إيقاف النظام (ما قد يُؤثِّر في العمليات المالية) والاستمرار في استخدامه (ما قد يضرُّ بالعدالة)؟

1: تطوير أدوات الكشف عن التحيز. 2: التعليم والتدريب. 3: التعاون المُتعدِّد التخصُّصات. 4: المعايير الصناعية. الشكل (4): الحلول المُقترَحة.

1. تُستخدم أداة ⁦(Polisis privacy)⁩ في المُتصفِّح الخاص بأيِّ مُستخدم؛ فأثناء تصفُّح أيِّ موقع إلكتروني، يُمكن للمُستخدم الضغط على أيقونة الامتداد لعرض مُلخَّصات تُوضِّح سياسات الخصوصية، مثل: تدفُّق جمع البيانات، وجهة الاستخدام، وطرائق الإلغاء.
2. كذلك يُمكن للمُستخدم طرح أسئلة على ⁦(PriBot)⁩ للحصول على توضيحات إضافية.

معلومة تعلَّمتها، وأشارك فيها عائلتي: لم يَعُد الذكاء الاصطناعي تقنية تُستخدم فقط في عمليات البحث والتحليل، وإنَّما أصبح أداة فعَّالة تشارك في اتِّخاذ قرارات مالية مُهمَّة، مثل: الموافقة على منح القروض، وتحديد أسعار التأمين، لكنَّ عدم توخِّي العدالة في أنظمة الذكاء الاصطناعي قد يوقع الظلم على بعض الأفراد، ويحرمهم من فرصة الحصول على الخدمات المالية.

أحرص دائمًا على طرح أسئلة عن مدى مراعاة أنظمة الذكاء الاصطناعي لمبدأي العدالة والشفافية في القرارات المالية التي تتَّخذها، وأطالب بتفسيرات واضحة لذلك.

السؤال الأوَّل:

1. يتعيَّن على المؤسسات المالية التي تستخدم الذكاء الاصطناعي التوليدي أن تتحمَّل مسؤوليات أخلاقية عديدة، أذكرها.
2. أُعدِّد التحدِّيات المستقبلية المُعوِّقة لأخلاقيات الذكاء الاصطناعي في المجال المالي.

السؤال الثاني: أضع إشارة (√) بجانب العبارة الصحيحة، وإشارة ⁦(×)⁩ بجانب العبارة غير الصحيحة في ما يأتي:

• استخدام الذكاء الاصطناعي التوليدي في المجال المالي يطرح تحدِّيات أخلاقية مُعقَّدة. ( )
• سَنَّ القوانين واللوائح يعني متابعة المؤسسات المالية للتحقُّق من التزامها بنصوص القوانين والتشريعات. ( )
• من الحلول المُقترحة لمواجهة التحدِّيات المستقبلية المُعوِّقة لأخلاقيات الذكاء الاصطناعي في المجال المالي، تطوير أدوات الكشف عن التحيُّز. ( )