الذكاء الاصطناعي التوليدي وخصوصية البيانات

• ما المخاطر المُحدقة بخصوصية البيانات عند استخدام الذكاء الاصطناعي التوليدي في المجال المالي؟
• ما أنواع البيانات المالية الحسّاسة التي قد يشاركها الأفراد في تطبيقات الذكاء الاصطناعي؟
• لماذا يُعدّ حفظ هذه المعلومات بأمان أمرًا مُهمًا جدًا؟
• كيف يُمكن للمؤسسات المالية حماية بيانات المُستخدمين عند الاستعانة بالذكاء الاصطناعي التوليدي؟
• ما التقنيات والممارسات التي تُستخدم لحماية البيانات الحسّاسة، مثل التشفير وإخفاء الهُويّة؟
• كيف تُسهم هذه التقنيات والممارسات في تعزيز مناحي الأمان؟
• كيف يُمكنني تقييم مستوى الأمان والموثوقية لتطبيقات المستشار المالي الذكي قبل استخدامها؟
• ما الإرشادات التي أقترحها لاستخدام تطبيقات الذكاء الاصطناعي بأمان في الشؤون المالية الشخصية؟

1. تعرُّف مفهوم خصوصية البيانات.
2. توضيح أهمية البيانات المالية الحسّاسة.
3. تحديد المخاطر التي تُهدّد خصوصية البيانات عند استخدام الذكاء الاصطناعي التوليدي في المجال المالي.
4. بيان التقنيات والممارسات المُستخدمة لحماية البيانات المالية الحسّاسة.
5. تقييم مستوى الأمان في تطبيقات الذكاء الاصطناعي المالية.
6. اقتراح إرشادات لاستخدام الذكاء الاصطناعي بأمان في الشؤون المالية الشخصية.

تُعرَّف خصوصية البيانات ⁦(Data Privacy)⁩: بأنّها حماية المعلومات الشخصية والبيانات المالية الحسّاسة من الوصول غير المُصرّح به، وضمان استخدامها بصورة قانونية وآمنة. يُستخدم الذكاء الاصطناعي والتطبيقات المالية في تحليل المعاملات المالية وتقديم الاستشارات المالية، وهو ما يتطلّب جمع العديد من البيانات، مثل: الراتب، وتاريخ المعاملات المالية، والحسابات المصرفية، وعادات الإنفاق. لذلك يجب على الشركات والمؤسسات المالية حماية هذه البيانات والمعلومات، ومنع تسريبها أو استخدامها من دون إذن.

تتمثّل أهمية البيانات المالية الحسّاسة في الخصوصية التي تُحتّم على الشركات والمؤسسات المالية حفظها وحمايتها من الاختراق أو القرصنة الإلكترونية، بما في ذلك المعلومات والبيانات المالية الشخصية؛ ما يُعزّز ثقة العملاء بالتقنيات الرقمية، ويُحفّزهم إلى استخدامها بأمان. تُعدّ البيانات المالية من أكثر أنواع المعلومات الشخصية حساسية؛ ذلك أنّها تكشف تفاصيل دقيقة عن وضع الأفراد اقتصاديًا واجتماعيًا. وهذه البيانات تشمل المعلومات المالية المباشرة، مثل: أرقام الحسابات المصرفية وكلمات المرور، وتفاصيل بطاقات الائتمان والخصم، والرواتب والدخل الشهري والدخل السنوي، وقيمة الأصول والاستثمارات والممتلكات، وتفاصيل الديون والقروض والالتزامات المالية. عند استخدام تطبيقات الذكاء الاصطناعي أو الأنظمة المالية الذكية، لا بُدّ من جمع العديد من البيانات المُتنوّعة وتحليلها، ومراعاة الارتباط المباشر لهذه البيانات بعادات الأفراد في الإنفاق والادخار. يُطلق على هذه البيانات اسم أنماط السلوك المالي؛ وهي مجموعة من العادات والتصرّفات المُتكرّرة التي يُواظب عليها الأفراد أو المؤسسات في التعاملات المالية اليومية، والتي تشمل طرائق الإنفاق، والادخار، والاستثمار، والتفاعل مع المؤسسات المالية. يُذكر أنّ هذه الأنماط تُستخدم لفهم السلوك المالي بشكل أفضل، والتنبّؤ بالقرارات المستقبلية.

تشمل أنماط السلوك المالي الجوانب الآتية:

1. عادات الإنفاق والشراء؛ أي ماهيّة المشتريات، وأنواعها، ومدى تكرارها، وحجم الإنفاق الشهري عليها.
2. الأوقات والأماكن الخاصة بالمعاملات المالية، مثل: توقيت سحب الأموال أو استخدام البطاقات، والأماكن التي يُنفق فيها المال.
3. تفضيلات الاستثمار، ودرجة تحمّل المخاطر، مُمثّلةً في قرار الفرد التوجّه نحو الاستثمارات الآمنة، أو الاستثمارات ذات المخاطر المُرتفعة.
4. الأهداف والخطط المستقبلية، مثل: الادخار للتقاعد، أو شراء منزل.
5. التفاعل مع المؤسسات المالية المختلفة، مثل: البنوك، والتطبيقات الاستثمارية، والمحافظ الرقمية.

1. أكّد خبراء الأمن السيبراني أنّ البيانات المالية الشخصية هي من أكثر البيانات قيمة في السوق السوداء؛ إذ يُمكن استغلالها في سرقة الهُويّة، والاحتيال المالي.
2. ولهذا، فإنّ حماية أنماط السلوك المالي وضمان خصوصيتها يُمثّلان أولوية قصوى عند تطوير أنظمة الذكاء الاصطناعي أو استخدامها، أنظر الشكل (1).

1: عادات الإنفاق والشراء. 2: الأوقات والأماكن الخاصة بالمعاملات المالية. 3: تفضيلات الاستثمار. 4: الأهداف والخطط المستقبلية. 5: التفاعل مع المؤسسات المالية المختلفة.

إنَّ استخدام الذكاء الاصطناعي التوليدي في المجال المالي ينطوي على مخاطر عدَّة تُهدّد خصوصية البيانات، ويتمثل أبرزها في ما يأتي:

1. عند استخدام البيانات الحقيقية لتدريب نماذج الذكاء الاصطناعي، فقد تُحفظ هذه البيانات في ذاكرة النموذج، ومن ثَمَّ تظهر في المُخرجات المستقبلية.
2. وهذا ما حدث لشركة ⁦(Samsung)⁩؛ إذ سُرِّبت معلومات حساسة عن الشركة حين استخدم الموظفون تطبيق ⁦(ChatGPT)⁩ لمراجعة الكود البرمجي.

يمتلك المُهاجمون تقنيات مُتطورة تُمكّنهم من استخراج بيانات التدريب من النماذج المُدرَّبة. وهذا يعني أنَّ المعلومات المالية الحساسة التي استُخدِمت في التدريب قد تكون قابلة للاستخراج على أيدي أطراف ضارَّة.

1. قد يكون من الصعب على المُهاجمين اكتشاف البيانات مباشرةً، لكنَّهم قادرون على استنتاج معلومات حساسة عن طريق تحليل أنماط استجابة النموذج.
2. على سبيل المثال، قد يتمكّن أحد المُهاجمين من تحديد إذا كان شخص ما موجودًا في مجموعة بيانات التدريب أم لا.

تحرص العديد من تطبيقات الذكاء الاصطناعي التجارية على الاحتفاظ بحقّ استخدام البيانات المُدخَلة لتحسين خدماتها أو مشاركتها مع شركاء تجاريين؛ ما يُعرِّض خصوصية المُستخدمين للخطر، أنظر الشكل (2).

1: تسريب البيانات أثناء عملية التدريب. 2: الهجمات الاستخراجية. 3: التحليل الاستنتاجي. 4: مشاركة البيانات مع طرف ثالث.

طوَّر الباحثون والعاملون في مجال الذكاء الاصطناعي عددًا من التقنيات المتقدّمة لحماية خصوصية البيانات. وفي ما يأتي أبرز هذه التقنيات:

تتيح هذه التقنية تدريب نماذج الذكاء الاصطناعي من دون نقل البيانات الحساسة إلى خادم مركزي؛ إذ يُدرَّب النموذج محليًا على أجهزة المُستخدمين، ثمَّ تُشارك التحديثات فقط (لا البيانات الأصلية) مع الخادم المركزي. مزايا التعلُّم الفيدرالي:

• أ. بقاء البيانات الحساسة في جهاز المُستخدم بصورة دائمة.
• ب. الحدُّ من مخاطر تسرُّب البيانات بصورة كبيرة.
• ج. إمكانية الاستفادة من البيانات المُوزَّعة دون انتهاك الخصوصية.
• د. التوافق الأفضل مع قوانين حماية البيانات.

هي تقنية رياضية مُتقدّمة تهدف إلى حماية خصوصية الأفراد داخل قواعد البيانات. تعتمد هذه التقنية على إضافة ضوضاء (مُشوِّشات) أو تغييرات صغيرة محسوبة إلى البيانات أو النتائج، بحيث لا يُمكن معرفة إذا كان شخص ما موجودًا في مجموعة البيانات أم لا. بالرغم من ذلك، فإنَّه يُمكن الإفادة من البيانات في عمليات التحليل بوجه عام. آليّة عمل الخصوصية التفاضلية:

• أ. إضافة ضوضاء رياضية مدروسة؛ إذ تُعدَّل البيانات أو النتائج بقيم صغيرة لا تُغيِّر من طبيعة الصورة الكلية.
• ب. إخفاء الإسهامات الفردية؛ إذ لا يُمكن تمييز بيانات فرد واحد من بين أفراد المجموعة.
• ج. الحفاظ على دِقّة النتائج العامة؛ فلا تتأثّر التحليلات والإحصاءات بصورة كبيرة.
• د. الاهتمام بالخصوصية وتدعيمها بأساليب حماية مثبتة رياضيًا من محاولات الاختراق أو التعقُّب.

مثال: التعديل على قاعدة خاصة بإنفاق العملاء، وذلك بإضافة تغييرات صغيرة عشوائية على الأرقام، بحيث تظلُّ الإحصاءات (مثل مُتوسّط الإنفاق) صحيحة تقريبًا، ويتعذَّر تعرُّف إذا كان أحمد وليلى - مثلًا- موجودين في القاعدة أم لا.

يُعرَّف التشفير ⁦(Encryption)⁩ بأنَّه تحويل البيانات إلى شكل مُرمَّز لا يُمكن قراءته إلّا باستخدام مفتاح خاص؛ ما يُوفّر الحماية للمعلومات، ويمنع الوصول غير المُصرَّح به إليها. تتيح هذه التقنية إجراء عمليات حسابية على البيانات وهي مُشفَّرة من دون حاجة إلى فكّ التشفير. وهذا يعني أنَّ المؤسسات المالية تستطيع استخدام البيانات الحساسة (مثل: بيانات الرواتب، وبيانات الحسابات البنكية) ومعالجتها من دون أن تراها بشكل مباشر. أهمُّ التطبيقات في المجال المالي:

• أ. تحليل مخاطر القروض من دون كشف بيانات العميل.
• ب. إجراء العمليات الحسابية على بيانات مالية مُشفَّرة بشكل آمن.
• ج. مشاركة البيانات بين البنوك والمؤسسات من دون خرق الخصوصية.
• د. تدريب نماذج الذكاء الاصطناعي باستخدام بيانات مُشفَّرة.

  على سبيل المثال، يُمكن لبنكين التعاون على تحليل بيانات العملاء من دون أن يكشف أحدهما بيانات عملائه للآخر؛ لأنَّ جميع العمليات محكومة ببيانات مُشفَّرة.

تقنية تتيح إزالة أيّ معلومات قد تؤدّي إلى تحديد هُويّة الأشخاص من مجموعات البيانات، أو تعديل هذه المعلومات على نحو يُحقِّق هذا الهدف. تهدف هذه التقنية إلى إخفاء معلومات أو تعديلها؛ لكيلا تكشف عن هُويّة شخص ما. ولهذا، فإنَّ هُويّة الأفراد تظلُّ محمية حتى لو كانت البيانات متاحة للآخرين، أنظر الشكل (3).

1: التعلُّم الفيدرالي. 2: الخصوصية التفاضلية. 3: التشفير المُتجانس. 4: إخفاء الهُويّة.

تقييم حماية الخصوصية في التطبيقات المالية.

• يُوزِّع المُعلِّم/ المُعلِّمة الطلبة إلى مجموعات عمل غير مُتجانسة.
• يطلب المُعلِّم/ المُعلِّمة إلى أفراد كل مجموعة تقييم مستوى حماية الخصوصية في التطبيقات المالية الآتية:
• تطبيقات البنوك المحلية.
• تطبيقات المحافظ الرقمية.
• تطبيقات الاستثمار والتداول.
• تطبيقات التخطيط المالي.
• تطبيقات العملات المُشفَّرة.
• يطلب المُعلِّم/ المُعلِّمة إلى الطلبة في كل مجموعة عرض النتائج التي توصَّلوا إليها أمام أفراد المجموعات الأخرى.

أفترض أنني موظف في قسم الأمن السيبراني التابع لبنك كبير، وأنَّه طُلِب إليَّ تقييم مخاطر تطبيق مستشار مالي ذكي جديد:

• ما الأسئلة التي سأطرحها على فريق التطوير؟

معلومة تعلَّمتُها، وأشارك فيها عائلتي: تُعَدُّ البيانات المالية من أكثر المعلومات الشخصية حساسية؛ ذلك أنَّه يُمكن قرصنتها ثمَّ استخدامها في سرقة الأموال، أو فتح حسابات مصرفية باسم صاحبها، أو الحصول على قروض من دون علمه. ولهذا، فمن المُهِمِّ جدًّا حماية هذه البيانات عند استخدام التطبيقات المالية الذكية.

أتجنَّب مشاركة معلوماتي المالية عبر تطبيقات مُبهمة أو رسائل غير آمنة، وأحرص دائمًا على استخدام القنوات الرسمية والقنوات المُشفَّرة فقط، وأتذكَّر أنَّ تبني عادات حماية بسيطة يُمكنني من الحفاظ على أماني وأمان عائلتي ماليًّا.

السؤال الأوَّل: أوضِّح كيف تُسهِم تقنية التشفير المُتجانس في حماية البيانات المالية ضمن أنظمة الذكاء الاصطناعي التوليدي.

السؤال الثاني: أضع إشارة (√) بجانب العبارة الصحيحة، وإشارة ⁦(×)⁩ بجانب العبارة غير الصحيحة في ما يأتي:

1. تفاصيل الديون والقروض تُعَدُّ من المعلومات المالية الحسَّاسة التي يجب حمايتها عند استخدام تطبيقات الذكاء الاصطناعي. ( )
2. الهجمات الاستخراجية تعني امتلاك المُهاجمين تقنيات مُتطوِّرة تُمكِّنهم من استخراج بيانات التدريب من النماذج المُدرَّبة. ( )
3. من أنماط السلوك المالي، التفاعل مع المؤسسات المالية المختلفة، مثل: توقيت سحب الأموال. ( )

السؤال الثالث: أختار رمز الإجابة الصحيحة في كلٍّ ممَّا يأتي:

1. أحد الخيارات الآتية يُعَدُّ من مخاطر استخدام الذكاء الاصطناعي التوليدي في المجال المالي:

• أ. تسريب البيانات أثناء تدريب النماذج.
• ب. تحسين دقَّة التوصيات المالية.
• ج. تقليل الوقت اللازم لاتخاذ القرار.
• د. سهولة الوصول إلى الخدمات البنكية.

2. من التقنيات التي تتيح تدريب نماذج الذكاء الاصطناعي من دون نقل البيانات الحسَّاسة إلى خادم مركزي:

• أ. إخفاء الهويَّة.
• ب. التعلُّم الفيدرالي.
• ج. التشفير المُتماثل.
• د. التحليل الاستنتاجي.