يلعب الذكاء الاصطناعي دورا مهما بشكل متزايد في حياتنا، سواء كنا على علم بذلك أم لم نكن، لذلك تستدعي الحاجة الملحة طمأنة الناس بأن الذكاء الاصطناعي آمن وموثوق (والأهم من ذلك) أن بإمكانه إصدار أحكام لا تتأثر بالتحيز أو التحامل. وهنا يأتي دور الذكاء الاصطناعي القابل للتفسير (explainable AI/XAI)، وهو هدف عام يستهدفه معظم الأطراف الرئيسين في مجال الذكاء الاصطناعي، لهذا التوجه هدفان رئيسان.
- الشفافية - يهدف الذكاء الاصطناعي القابل للتفسير إلى تيسير فهم عمليات صنع القرار لأنظمة الذكاء الاصطناعي بحيث يمكن فهمها. وبعبارة أخرى، فإنه يهدف إلى السماح للمستخدمين بفهم كيف (والأهم من ذلك، لماذا) تم اتخاذ قرار أو تنبؤ معين.
- الامتثال للوائح - من المهم أن يتوافق الذكاء الاصطناعي مع المتطلبات القانونية والتنظيمية. يساعد الذكاء الاصطناعي القابل للتفسير على إظهار ذلك.
الشفافية والامتثال مهمان بشكل خاص في تطبيقات الذكاء الاصطناعي التي تتطلب المساءلة - على سبيل المثال، عندما يتم استخدام الذكاء الاصطناعي في عمليات صنع القرار الآلية المهمة المرتبطة بالتوظيف والتقييم المالي والقضايا القانونية.
المصطلح الرئيس الذكاء الاصطناعي القابل للتفسير (XAI) - الأساليب والتقنيات التي تجعل مخرجات نماذج الذكاء الاصطناعي مفهومة للبشر.
يرد في ما يأتي اثنين من الآثار الجانبية الجديرة بالملاحظة للذكاء الاصطناعي القابل للتفسير.
- تحسين التفاعل بين الذكاء الاصطناعي والبشر - يحدث عندما يكون من الأسهل فهم وتفسير وتصحيح (إذا لزم الأمر) الأسباب وراء قرارات الذكاء الاصطناعي.
- يمكن لعلماء البيانات تحسين النماذج بشكل أكثر فعالية عندما يفهمونها بشكل كامل. وهذا يساعدهم على تحديد أي تحيزات أو أخطاء أو أوجه قصور في خوارزميات نماذجهم.
كلما زادت ثقة أصحاب المصلحة في الذكاء الاصطناعي، زادت احتمالية استثمار الناس فيه، وهذا الأمر مهم لأن تطوير مثل هذه الأنظمة يمكن أن يكون مكلفا للغاية. لذلك فالعائد على الاستثمار (RoI) لحلول الذكاء الاصطناعي هو أحد الاعتبارات الهامة؛ والعائد على الاستثمار هو القيمة التي تنتجها حلول الذكاء الاصطناعي مقارنة بالتكاليف المطلوبة لإنشائه فعليا.
المصطلح الرئيس العائد على الاستثمار (RoI) - النسبة بين صافي الدخل والاستثمار، ويشير أيضا إلى الفحص الذي يتم للتأكد من أن الفوائد المالية لتنفيذ حل الذكاء الاصطناعي تزيد على التكاليف التي تكبدها لإنشائه.
مناقشة ماذا يحدث عندما يتضمن الذكاء الاصطناعي تحيزا غير مرغوب فيه؟ ناقش ما قد يحدث إذا بدأ أنظمة الذكاء الاصطناعي يتخذ قرارات سيئة. ماذا يحدث إذا لم يكن هذا النظام والقرارات التي يتخذها قابلة للتفسير بسهولة؟ من خلال العمل في أزواج أو مجموعات صغيرة، تحقق من أداة الذكاء الاصطناعي التي تعتقد أنها ربما تضمنت تحيزا غير مرغوب فيه. ناقش المشكلات التي تسببها الأداة وأي نتائج نهائية لاستخدامها.