What is an AI Agent?

• مصطلحات إدارة الهوية والوصول
• What is an AI Agent?

وكيل الذكاء الاصطناعي هو هوية غير بشرية (NHI) يمكنها إدراك أو استقبال إشارات حول بيئتها، واتخاذ القرارات وتنفيذ الإجراءات (غالبًا عبر أدوات أو تكاملات) لتحقيق أهداف محددة. تستخدم تقنيات الذكاء الاصطناعي (AI)، بما في ذلك النماذج اللغوية الكبيرة (LLMs)، ونماذج التعلم الآلي والمنطق القائم على القواعد، لتحليل البيانات وتحديد الخطوات التالية وإنجاز المهام بمستويات متفاوتة من التدخل البشري. على عكس نماذج الذكاء الاصطناعي المستقلة أحادية التحويل التي تولد أساسًا استجابات للمطالبات، فإن وكلاء الذكاء الاصطناعي موجهون نحو الهدف ومدفوعون بالإجراءات، ويمكنهم العمل على عدة خطوات من خلال الحفاظ على الحالة واستخدام الأدوات والتكيف مع السياقات الجديدة.

وكلاء الذكاء الاصطناعي مقابل روبوتات الدردشة مقابل الذكاء الاصطناعي التوليدي

على الرغم من أن كل منهما يمكن استخدامه مكان الآخر في أحيان كثيرة، إلا أن وكلاء الذكاء الاصطناعي وبرامج الدردشة الآلية والذكاء الاصطناعي التوليدي تختلف في الوظيفة ومستوى الاستقلالية. تم تصميم وكلاء الذكاء الاصطناعي لاتخاذ القرارات وتنفيذ الإجراءات لتحقيق أهداف معينة، وغالبًا ما يتكاملون مع الأنظمة الخارجية لتنفيذ سير العمل. تُجري برامج الدردشة الآلية في الغالب محادثات استجابةً للمطالبات، ولكن بعض برامج الدردشة الآلية الحديثة يمكنها تنفيذ إجراءات محدودة ومحددة مسبقًا. يركز الذكاء الاصطناعي التوليدي على إنشاء مخرجات جديدة (مثل النصوص أو التعليمات البرمجية أو الصور أو البيانات المنظمة) من الأنماط المتعلمة، ويمكن استخدامه داخل الأنظمة الآلية، ولكنه بمفرده لا يخطط بالضرورة أو ينفذ إجراءات في الحقيقة. فيما يلي أبرز الاختلافات الرئيسية:

كيف تعمل وكلاء الذكاء الاصطناعي

تعمل وكلاء الذكاء الاصطناعي في دورات متكررة ومنتظمة من الإدراك واتخاذ القرار والعمل. على الرغم من أن التكنولوجيا المكونة لوكلاء الذكاء الاصطناعي يمكن أن تختلف، فإن معظمها تتبع سير عمل مشابه:

1. تتلقى تعليمات أو طلبات أو أهداف: يتم تفعيل وكيل الذكاء الاصطناعي من خلال طلب المستخدم أو هدف محدد مسبقًا أو محفز مدفوع بالحدث من النظام.

2. جمع السياق: قبل أن يتمكن من إكمال مهمته، يجمع وكيل الذكاء الاصطناعي البيانات ذات الصلة مثل مدخلات المستخدم أو سجلات قاعدة البيانات أو استجابات واجهة برمجة التطبيقات. يحتفظ بعض الوكلاء بذاكرة قصيرة الأجل أو طويلة الأجل للرجوع إلى التجارب السابقة أو التفاعلات السابقة.

3. اتخاذ قرارًا: باستخدام نماذج التعلُّم الآلي أو نماذج اللغات الكبيرة (LLMs) أو المنطق القائم على القواعد، يقوم وكيل الذكاء الاصطناعي بتقييم الإجراءات الممكنة، ووزن النتائج المحتملة وتحديد أفضل الخطوات التالية.

4. تخطط وينفذ الإجراءات: للأهداف المعقدة، يقوم وكيل الذكاء الاصطناعي بإنشاء تسلسل من الإجراءات، مثل تحديث الملفات أو الأنظمة، لتحقيق هدفه.

5. احتمالية تقييم النتائج: يمكن لبعض الوكلاء المتقدمين تقييم ما إذا كان إجراءهم قد حقق النتيجة المرجوّة، ثم تعديل سلوكهم المستقبلي وفقًا لذلك.

خمسة أنواع رئيسية من وكلاء الذكاء الاصطناعي

يمكن تصنيف وكلاء الذكاء الاصطناعي إلى خمسة أنواع رئيسية بناء على كيفية اتخاذهم القرارات وتفاعلهم مع بيئتهم.

1. وكلاء رد الفعل البسيط

تُعد وكلاء رد الفعل البسيطة أبسط أنواع وكلاء الذكاء الاصطناعي، حيث تستجيب لمدخلات محددة باستخدام قواعد محددة مسبقًا. هذه العوامل لا تحتفظ بالذاكرة أو تأخذ في الاعتبار السياق الأوسع، ما يجعلها مثالية للبيئات المتوقعة ولكنها محدودة في السيناريوهات المعقدة.

2. وكلاء برد فعل قائم على النموذج

تحتفظ الوكلاء ذوات ردود الأفعال القائمة على النماذج بنموذج داخلي لبيئتها، مما يسمح لها بتتبع التغييرات ومراعاة كيفية تأثير التفاعلات السابقة على الظروف الحالية. وهم أقدر على التكيف من ذوات ردود الأفعال البسيطة لأنهم يتذكرون جوانب الحالات السابقة، لكنهم اعتمادهم يبقى في الغالب على المنطق المحدد مسبقًا.

3. الوكلاء القائمون على الهدف

يعمل الوكلاء المستندون إلى الأهداف مع نتيجة واضحة في الاعتبار ويحددون الإجراءات التي ستساعدهم على تحقيق هذا الهدف. يأخذ هؤلاء الوكلاء في الاعتبار العواقب المستقبلية ويخططون الخطوات وفقًا لذلك، لكنهم لا يزالون محدودين بإطارات اتخاذ القرار المبرمجة الخاصة بهم.

4. الوكلاء القائمون على الفائدة

يقيس الوكلاء المستندون إلى المنفعة ويقارنون بين مدى أفضلية النتائج المختلفة، ويختارون الإجراء الذي يحقق أقصى قدر من الفوائد ويقلل المخاطر إلى الحد الأدنى. تقوم هذه العوامل بتقييم المفاضلات واتخاذ قرارات أكثر دقة من العوامل القائمة على الأهداف بفضل فعاليتها في البيئات الديناميكية.

5. وكلاء التعلم

من بين وكلاء الذكاء الاصطناعي، تعتبر وكلاء التعلم الأكثر تقدمًا لأنها تعمل باستمرار على تحسين أدائها بناءً على البيانات الجديدة والخبرات السابقة. قدرتهم على التكيف تجعلهم مثاليين للبيئات المعقدة.

أمثلة على وكلاء الذكاء الاصطناعي

يتم استخدام وكلاء الذكاء الاصطناعي عبر العديد من المجالات لأتمتة اتخاذ القرارات وتنفيذ سير العمل وتقليل التدخل البشري. فيما يلي عدة أمثلة شائعة على وكلاء الذكاء الاصطناعي في حالات الاستخدام الواقعية:

• وكلاء دعم العملاء: يقوم وكلاء دعم العملاء المدعومون بالذكاء الاصطناعي بتحليل استفسارات العملاء، واسترجاع معلومات الحساب، ومعالجة الاستردادات، أو تصعيد التذاكر إلى أعضاء الفريق المناسبين.
• وكلاء البرمجة: يدعم وكلاء البرمجة المطورين من خلال إنشاء التعليمات البرمجية واختبارها وتحسينها، وتحديد نقاط الضعف واقتراح التحسينات عبر مستودعات التعليمات البرمجية.
• المركبات ذاتية القيادة: تستخدم المركبات ذاتية القيادة المستشعرات ونماذج الذكاء الاصطناعي لتفسير ظروف الطريق وأنماط حركة المرور، واتخاذ قرارات القيادة في الوقت الفعلي لنقل أكثر كفاءة.
• وكلاء إدارة المخزون: في بيئات البيع بالتجزئة ، يمكن لوكلاء الذكاء الاصطناعي مراقبة مستويات المخزون، وأتمتة أوامر الشراء، واكتشاف أعطال المعدات، وإعادة توجيه الشحنات لاستيعاب التأخيرات وتقليل اضطرابات سلسلة التوريد.
• وكلاء عمليات تكنولوجيا المعلومات: يمكن استخدام وكلاء الذكاء الاصطناعي في بيئات تكنولوجيا المعلومات المؤسسية لاكتشاف الحالات الشاذة ونشر التصحيحات وتشغيل سير عمل الإصلاح المحددة مسبقًا.
• وكلاء التداول المالي: في الخدمات المالية، يمكن لوكلاء الذكاء الاصطناعي تحليل بيانات السوق في الوقت الفعلي وتنفيذ الصفقات بناءً على استراتيجيات محددة مسبقًا، مع إعطاء الأولوية للسرعة وقابلية التوسع.

كيف يُدخل وكلاء الذكاء الاصطناعي مخاطر أمنية جديدة

مع زيادة دمج وكلاء الذكاء الاصطناعي في أنظمة المؤسسة، فإنهم يعرضونها لمخاوف أمنية جديدة. ونظراً لأن وكلاء الذكاء الاصطناعي يمكنهم الوصول إلى البيانات والتفاعل مع التطبيقات وتنفيذ الإجراءات بشكل مستقل، فيمكنهم العمل كهويات غير بشرية (NHIs) عندما يستخدمون هوياتهم الخاصة، مثل مبادئ الخدمة أو هويات مسارات العمل أو رموز واجهة برمجة التطبيقات أو تطبيقات OAuth. مثل حسابات الخدمة أو الروبوتات، يعمل وكلاء الذكاء الاصطناعي ببيانات اعتماد وأذونات خاصة بهم، مما يعني أنه يجب التحكم بهم ومراقبتهم بعناية بنفس الطريقة المتبعة مع المستخدمين البشريين (أي بأقل امتيازات ومصادقة قوية وتسجيل تدقيق). في النماذج التي تعتمد سياسة أمان انعدام الثقة، لا توجد هوية - لا بشرية ولا آلية - موثوق بها ضمنيًا، ويجب التحقق من الوصول والتصريح به باستمرار للحد من المخاطر الأمنية. تشمل المخاطر الرئيسية المرتبطة بوكلاء الذكاء الاصطناعي ما يلي:

• الوصول غير المصرح به: غالبا ما يحتاج وكلاء الذكاء الاصطناعي إلى بيانات اعتماد أو رموز أو مفاتيح API للعمل. إذا تم كشف هذه الأسرار أو سوء تكوينها، قد يتمكن مجرمو الإنترنت من الوصول إلى أنظمة حيوية أو قواعد بيانات داخلية من خلال هوية وكيل الذكاء الاصطناعي.
• تصعيد الامتيازات: عندما يُمنح وكلاء الذكاء الاصطناعي أذونات مفرطة، قد يتصرفون خارج نطاقهم المقصود. إذا تم اختراقها، يمكن للوكيل تغيير الأنظمة الحرجة، أو الوصول إلى بيانات مقيدة، أو تعديل التكوينات.
• هجمات دس الأوامر: قد تكون وكلاء الذكاء الاصطناعي التي تعمل بواسطة نماذج اللغة الكبيرة عرضة لدس الأوامر، حيث تتلاعب المدخلات الضارة بتعليمات النظام. يمكن أن تتسبب هذه الهجمات في جعل وكلاء الذكاء الاصطناعي يكشفون المعلومات الحساسة، أو يفصحون عن بيانات الاعتماد أو ينفذون إجراءات غير مصرح بها.
• تسرب البيانات: نظرًا لأن وكلاء الذكاء الاصطناعي يتصلون عادةً بمنصات البرامج كخدمات (SaaS) وقواعد البيانات الداخلية، فإن سوء التكوين يمكن أن يعرض معلومات التعريف الشخصية (PII) أو السجلات المالية السرية للخطر.
• عمليات تكامل الأذونات الزائدة: لتشغيل سير العمل الآلي، غالبًا ما تتكامل وكلاء الذكاء الاصطناعي مع عدة خدمات وتطبيقات. عندما يتم منحهم وصولاً واسعًا عبر الأنظمة، يمكن للوكلاء الذكاء الاصطناعي المخترق أو غير المهيأ بشكل صحيح أن يوسع بشكل كبير من نطاق الهجوم على المنظمة.
• إساءة استخدام الأداة/واجهة برمجة التطبيقات وسلامة الإجراءات: حتى بدون "اختراق"، يمكن للوكيل اتخاذ إجراءات غير صحيحة ولكن معقولة، مثل حذف البيانات، أو إرسال بريد إلكتروني إلى مستلم خاطئ أو تغيير التكوينات، إذا أسيء فهم السياق أو تلقى تعليمات غامضة.
• مخاطر سلسلة التوريد والتبعيات: غالبًا ما يعتمد الوكلاء على نماذج أو مكونات إضافية أو موصلات أو خوادم أدوات من جهات خارجية؛ ويمكن أن تؤدي نقاط الضعف أو التحديثات الضارة في تلك التبعيات إلى فتح مسارات هجوم جديدة.