ما المقصود بحوكمة الذكاء الاصطناعي؟

حوكمة الذكاء الاصطناعي هي مجموعة السياسات والعمليات والضوابط التي تستخدمها المؤسسة لتطوير أنظمة الذكاء الاصطناعي ونشرها ومراقبتها بأمان وبما يتوافق مع اللوائح التنظيمية. وتحدد حوكمة الذكاء الاصطناعي الجهة المسؤولة عن قرارات الذكاء الاصطناعي، وكيفية إدارة المخاطر المرتبطة به، وكيفية ضمان بقاء الأنظمة قابلة للتدقيق بمرور الوقت. وتغطي حوكمة الذكاء الاصطناعي الفعّالة دورة حياة الذكاء الاصطناعي بأكملها، بدءًا من جمع البيانات وتطوير الأنظمة وصولاً إلى نشرها. ولا تقتصر حوكمة الذكاء الاصطناعي على نماذج التعلم الآلي التقليدية، بل تمتد أيضًا إلى وكلاء الذكاء الاصطناعي المستقلين الحديثين.

لماذا تُعد حوكمة الذكاء الاصطناعي مهمة؟

عند نشر الذكاء الاصطناعي من دون إشراف مناسب، فقد يعرّض المؤسسات للمخاطر الآتية:

تسرّب البيانات: قد تُحفظ البيانات الحساسة أو السرية التي يتم إدخالها في أدوات الذكاء الاصطناعي، أو يتم الكشف عنها، أو استخدامها لتدريب نماذج ذكاء اصطناعي تابعة لجهات خارجية، ما يعرّض الأسرار التجارية وبيانات العملاء للخطر.
المخرجات المتحيزة أو الضارة: يمكن للنماذج المُدرَّبة على بيانات غير صحيحة أو معيبة أن تُفاقم أوجه التحيز القائمة، ما يؤدي إلى نتائج تمييزية قد تضر بالمستخدمين وتستدعي المراجعة القانونية.
العقوبات التنظيمية: تفرض أطر تنظيمية مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) عواقب صارمة، كما تجد المؤسسات التي تفتقر إلى ضوابط موثقة صعوبة في إثبات الامتثال.
فقدان ثقة العملاء: قد يؤدي إخفاق واحد بارز في مجال الذكاء الاصطناعي، مثل اتخاذ قرار متحيز أو تسرب البيانات، إلى تدمير ثقة استغرق بناؤها سنوات.
توسع الهوية: مع توسع استخدام وكلاء الذكاء الاصطناعي والأتمتة، تُنشأ حسابات الخدمات، وهويات أحمال التشغيل، وغيرها من الهويات غير البشرية (NHIs)، بوتيرة أسرع من قدرة فرق الأمن على تتبعها. وعند غياب الحوكمة، يؤدي هذا التوسع غير المنضبط في الهويات إلى إنشاء حسابات معزولة ومسارات وصول غير قابلة للتتبع، يمكن للمهاجمين استغلالها للتحرك جانبيًا داخل البيئة ورفع الامتيازات.

يتمثل الهدف الرئيسي من حوكمة الذكاء الاصطناعي في مساعدة المؤسسات على تبني الذكاء الاصطناعي بسرعة أكبر وبثقة أعلى. فمن خلال إرشادات واضحة، وتحديد المسؤوليات، وتطبيق الأتمتة، يمكن للفرق الابتكار من دون الحاجة إلى التساؤل باستمرار عما إذا كان استخدام الذكاء الاصطناعي آمنًا أو مسموحًا به.

المبادئ الأساسية لحوكمة الذكاء الاصطناعي

تتفق العديد من أطر حوكمة الذكاء الاصطناعي على مجموعة مشتركة من المبادئ، تحدد الشكل الذي يبدو عليه الذكاء الاصطناعي المسؤول في الواقع العملي، وتوفر للمؤسسات معيارًا موحدًا يمكنها من خلاله تقييم أنظمتها.

المساءلة

من خلال تحديد المسؤول عن قرارات نظام الذكاء الاصطناعي ونتائجه بوضوح، تضمن المؤسسات مساءلة الموظفين البشريين. فعلى سبيل المثال، إذا كان نموذج ذكاء اصطناعي يؤثر في قرار توظيف أو يحدد معاملة مالية للمراجعة، فينبغي أن تكون هناك جهة مالكة أو فريق مسؤول يمكنه توضيح كيفية عمل نظام الذكاء الاصطناعي والتدخل عند حدوث أي خطأ. ومن دون تحديد واضح للجهة المالكة، تتوزع المساءلة بين الأقسام المختلفة، ولا يصبح أي طرف في موقع يمكّنه من اكتشاف الإخفاقات أو تصحيحها.

الشفافية

يجب أن تكون القرارات التي يتخذها الذكاء الاصطناعي مفهومة، وقابلة للتدقيق، وقابلة للتفسير للأشخاص الذين تتأثر مصالحهم بها. وبدلاً من أن يعمل النظام بصورة غامضة، يوثق نظام الذكاء الاصطناعي الخاضع لحوكمة جيدة كيفية توصله إلى النتائج، وينشئ سجلاً واضحًا يمكن للمدققين والجهات التنظيمية مراجعته. وتُعد قابلية التفسير ذات أهمية خاصة في القطاعات عالية الحساسية، مثل الرعاية الصحية والخدمات المالية، حيث يستحق الأفراد فهم القرارات التي تُتخذ بشأنهم.

الإنصاف والحد من التحيز

يجب على المؤسسات منع أنظمة الذكاء الاصطناعي من التمييز ضد فئات معينة أو تكريس أوجه التحيز الموجودة في بيانات التدريب الخاصة بها. وبما أن النماذج تتعلم من البيانات السابقة، فقد تعيد إنتاج أوجه التحيز الحالية بل وتزيد من حدتها إذا تُركت من دون رقابة. وتعالج الحوكمة هذه المشكلة بصورة مقصودة من خلال عدة خطوات تشمل: تدقيق بيانات التدريب، واختبار المخرجات عبر مختلف الفئات الديموغرافية، ومراقبة أي تأثيرات غير متكافئة.

الأمن والخصوصية

يجب حماية نماذج الذكاء الاصطناعي من الهجمات الإلكترونية، مع ضمان التعامل السليم مع بيانات التدريب الحساسة طوال دورة حياتها. ابتداءً من تسميم البيانات ووصولاً إلى حقن المطالبات، تُدخل أنظمة الذكاء الاصطناعي أسطح هجوم جديدة، إلى جانب معالجتها لكميات كبيرة من المعلومات الحساسة. ويطبق برنامج الحوكمة القوي مبادئ أمن انعدام الثقة، التي تفترض أنه لا ينبغي الوثوق ضمنيًا بأي مستخدم أو نظام، وأن كل طلب وصول يجب التحقق منه باستمرار. وعند الجمع بين هذه المبادئ والممارسات السليمة للتعامل مع البيانات والتشفير القوي، يمكن حماية كلٍ من نموذج الذكاء الاصطناعي والبيانات التي يعتمد عليها.

أمثلة على حوكمة الذكاء الاصطناعي

تختلف حوكمة الذكاء الاصطناعي باختلاف القطاع ومستوى المخاطر المرتبطة به. وفي ما يأتي عدة أمثلة واقعية توضح كيفية تطبيق مبادئ حوكمة الذكاء الاصطناعي السابقة عمليًا.

التعامل مع بيانات الرعاية الصحية

قد يستخدم أحد المستشفيات نموذجًا للذكاء الاصطناعي للمساعدة على تحديد أولويات حالات المرضى، مع التعامل في الوقت نفسه مع المعلومات الصحية المحمية (PHI)، والتي تخضع للوائح تنظيمية مثل قانون قابلية نقل التأمين الصحي والمساءلة (HIPAA). في هذه الحالة، تحدد حوكمة الذكاء الاصطناعي كيفية إخفاء هوية بيانات المرضى الحساسة قبل وصولها إلى النموذج، ومن يُسمح له بالوصول إليها. كما تفرض أن تكون أي توصية سريرية مدعومة بالذكاء الاصطناعي قابلة للتفسير كلما كان ذلك ممكنًا، وأن تخضع دائمًا للمراجعة البشرية، بحيث يكون القرار النهائي للطبيب المختص. وتتيح الحوكمة القوية لمتخصصي الرعاية الصحية الاستفادة من الذكاء الاصطناعي مع حماية خصوصية المرضى والوفاء بالمتطلبات التنظيمية.

إدارة مخاطر النماذج المالية

تستخدم البنوك والمؤسسات المالية نماذج الذكاء الاصطناعي لاكتشاف الاحتيال، واتخاذ القرارات الاستثمارية، وتقييم الجدارة الائتمانية. وقد يؤدي أي خلل في النموذج إلى خسائر مالية كبيرة وتسرب للبيانات، بما يتعارض مع المعايير التنظيمية. وفي هذا السياق، تركز حوكمة الذكاء الاصطناعي على إدارة مخاطر النماذج من خلال التحقق من صحة النماذج قبل نشرها، وتوثيق كيفية اتخاذها للقرارات، ومراقبتها باستمرار للكشف عن أي تحيزات. كما تفرض الحوكمة إجراء اختبارات للعدالة والاحتفاظ بسجلات تدقيق مفصلة تُثبت للجهات التنظيمية بدقة كيفية اتخاذ كل قرار والأسباب التي استند إليها.

سير عمل الموافقة داخل المؤسسات لتنفيذ إجراءات وكلاء الذكاء الاصطناعي

يمكن للعديد من وكلاء الذكاء الاصطناعي تنفيذ إجراءات مستقلة، مثل توفير موارد سحابية أو استدعاء واجهات برمجة التطبيقات (APIs)، لذلك تضمن الحوكمة ألا يتمكن أي وكيل من العمل من دون إشراف. ويبدأ سير عمل الذكاء الاصطناعي المعتاد بمراقبة سلوك الوكيل داخل بيئة خاضعة للمراقبة. بعد ذلك، تمر الإجراءات عالية المخاطر عبر مرحلة موافقة، حيث يعتمدها المراجع المعيّن قبل أن يتمكن الوكيل من تنفيذها. ويتم تسجيل كل إجراء وقرار وموافقة ضمن سجل تدقيق مفصل، بما يتيح لفرق الأمن والامتثال معرفة ما الذي قام به الوكيل، ومن الذي صرّح بتنفيذه.

كيفية تنفيذ حوكمة الذكاء الاصطناعي

في ما يأتي مجموعة من أفضل الممارسات التي توفر نقطة انطلاق قوية لتطبيق حوكمة الذكاء الاصطناعي:

ابدأ بحالات الاستخدام عالية المخاطر ثم توسّع تدريجيًا. بدلاً من محاولة إخضاع جميع أنظمة الذكاء الاصطناعي للحوكمة في الوقت نفسه، أعطِ الأولوية للتطبيقات التي تنطوي على أكبر احتمال للتسبب في ضرر، بما في ذلك التطبيقات التي تتعامل مع البيانات الحساسة أو تعمل بصورة مستقلة.
اجعل مستوى الإشراف متناسبًا مع مستوى المخاطر. نظرًا إلى أن جميع أنظمة الذكاء الاصطناعي لا تستدعي المستوى نفسه من التدقيق، فطبِّق مراجعة مبسطة على الأدوات منخفضة التأثير، وإشرافًا شاملاً على الأنظمة عالية التأثير، بما يضمن أن تعزز الحوكمة الثقة.
اجعل حوكمة الذكاء الاصطناعي مسؤولية مشتركة بين مختلف الفرق. يمتد الذكاء الاصطناعي عبر الفرق القانونية والأمنية والامتثال والأعمال، لذلك لا يمكن لأي قسم أن يتولى حوكمته بمفرده. وتجمع البرامج الفعالة هذه الفرق معًا لضمان مراعاة جميع المخاطر الأمنية، والأهداف التجارية، ومتطلبات الامتثال عند اتخاذ القرارات نفسها.
حدِّد مسؤوليات واضحة لتجنب تشتت المساءلة. عندما تتوزع مسؤولية أنظمة الذكاء الاصطناعي بين عدة فرق، لا يصبح أي طرف مسؤولاً عنها بصورة فعلية. لذلك، ينبغي تعيين مالكين محددين لكل نظام ذكاء اصطناعي، بحيث تكون لديهم الصلاحية لاتخاذ القرارات، والموافقة على عمليات النشر، وتبرير النتائج.
تعامل مع الحوكمة بصفتها عملية مستمرة. تتغير أنظمة الذكاء الاصطناعي بمرور الوقت، لذلك يجب إعادة تقييم الحوكمة التي وُضعت عند الإطلاق بصورة دورية لإعادة تقييم المخاطر، وإعادة اختبار التحيز، وتحديث السياسات بما يتماشى مع تطور التكنولوجيا ومعايير الامتثال.
اعتمد التوثيق والمراقبة الجاهزين للتدقيق. راقب أنظمة الذكاء الاصطناعي باستمرار لاكتشاف أي حالات غير طبيعية أو انحراف في النموذج أو إساءة استخدام، مع الاحتفاظ بسجلات تفصيلية للقرارات وعمليات الموافقة وسلوك النظام. ويتيح التوثيق الجاهز للتدقيق إثبات الامتثال للجهات التنظيمية، والتحقيق في الحوادث عند وقوعها، والإجابة بوضوح عن الأسئلة المتعلقة بمن وافق على ماذا ولماذا.