نظرة عامة على البرنامج
العمق التقني: مفاهيمي · أسلوب التطبيق: دراسة حالة
مقدمة
تنتقل فرق التحليلات من لوحات المعلومات إلى مساعدات ووكلاء ذكاء اصطناعي يكتبون الاستعلامات ويلخصون النتائج ويطلقون الإجراءات بأنفسهم. ويطلب من القيادات تمويل هذه الأدوات واعتمادها قبل أن يثبت أحد أن أرقامها قابلة للتتبع، وأن الوصول إلى البيانات مضبوط، وأن تصرفاتها تبقى ضمن مستوى تقبل المخاطر. تمنح هذه الدورة من كور كونسبت القيادات التنفيذية القدرة على توجيه التحليلات بالذكاء الاصطناعي التوليدي والوكلاء الذكيين وفق معايير حوكمة الذكاء الاصطناعي وإرشادات الأمن المعتمدة. ويدرس المشاركون حالات من قطاعات متعددة، ويخرجون بميثاق حوكمة التحليلات القائمة على الوكلاء لمؤسساتهم.
أهداف الدورة
- تقييم المواضع التي تحقق فيها التحليلات التوليدية والقائمة على الوكلاء قيمة، والمواضع التي يجب فيها تقييد استقلالية الوكلاء
- الحكم على البنى المقترحة للتحليلات الحوارية والقائمة على الوكلاء، ومنها الطبقة الدلالية والاسترجاع، على مستوى القرار
- توجيه نظام إدارة الذكاء الاصطناعي ونهج المخاطر لحالات استخدام التحليلات بما يتوافق مع ISO/IEC 42001 وإطار NIST AI RMF
- تحديد ضوابط الحماية ونقاط الاعتماد والمسؤوليات التي تبقي تصرفات الوكلاء ضمن مستوى تقبل المخاطر
- الإشراف على ضمان التحليلات المولدة بالذكاء الاصطناعي عبر اختبار قابلية التتبع ومؤشرات المراقبة ونموذج خطوط الدفاع الثلاثة
- اعتماد ميثاق حوكمة التحليلات القائمة على الوكلاء للمؤسسة
الفئة المستهدفة
- الرؤساء التنفيذيون للبيانات والتحليلات والتحول الرقمي الذين يحددون توجه التحليلات المدعومة بالذكاء الاصطناعي
- الرؤساء التنفيذيون للمالية والعمليات الذين ستعتمد إداراتهم على التحليلات المولدة بالذكاء الاصطناعي
- رؤساء المخاطر والامتثال والمراجعة الداخلية المسؤولون عن الرقابة على استخدام الذكاء الاصطناعي
- رؤساء تقنية المعلومات وأمن المعلومات المسؤولون عن المنصات وضوابط الوصول
- مديرو الاستراتيجية والأداء الذين يطلبون التقارير الإدارية
- أعضاء لجان مجالس الإدارة المشرفون على التقنية والبيانات والمخاطر
محاور الدورة
اليوم الأول: بيئة التحليلات بالذكاء الاصطناعي التوليدي والوكلاء الذكيين
- التحول من لوحات المعلومات إلى التحليلات الحوارية والقائمة على الوكلاء
- قدرات النماذج اللغوية الكبيرة وحدودها في العمل التحليلي
- حالات القيمة للتحليلات القائمة على الوكلاء في المالية والعمليات والخدمات العامة
- مقياس مستويات الاستقلالية: المساعد والمساعد المرافق Copilot والوكيل الخاضع للإشراف والوكيل المستقل
- تقييم جاهزية التحليلات والذكاء الاصطناعي من حيث البيانات والمهارات والضوابط
اليوم الثاني: البنية التقنية وأطر الحوكمة
- البنية المرجعية: الطبقة الدلالية والتوليد المعزز بالاسترجاع RAG وصلاحيات الأدوات
- متطلبات نظام إدارة الذكاء الاصطناعي وفق ISO/IEC 42001 وتطبيقها على التحليلات
- وظائف إطار NIST AI RMF وملف الذكاء الاصطناعي التوليدي NIST AI 600-1
- انعكاسات الذكاء الاصطناعي على الحوكمة لدى مجالس الإدارة وفق ISO/IEC 38507
- حوكمة جودة البيانات للتحليلات وتعلم الآلة وفق ISO/IEC 5259-5
اليوم الثالث: توجيه التحليلات القائمة على الوكلاء في التطبيق
- بطاقة استقبال حالات الاستخدام وترتيب أولوياتها
- المقاييس المعتمدة ونموذج ملكية الطبقة الدلالية
- مبادئ ضوابط الحماية: الأمن على مستوى الصفوف والتحقق من الاستعلامات وصلاحيات القراءة فقط للأدوات
- نقاط الاعتماد البشري لتصرفات الوكلاء
- تقييم أثر أنظمة الذكاء الاصطناعي وفق ISO/IEC 42005
اليوم الرابع: المخاطر وأنماط الإخفاق والضمان
- قائمة OWASP Top 10 لتطبيقات النماذج اللغوية: حقن الأوامر والإفصاح عن المعلومات الحساسة
- قائمة OWASP Top 10 للتطبيقات الوكيلة: اختطاف الهدف وإساءة استخدام الأدوات واستغلال الصلاحيات
- الأرقام المختلقة واختبار قابلية تتبع الإجابات
- سجل مخاطر الذكاء الاصطناعي المتوافق مع ISO/IEC 23894
- الضمان وفق نموذج خطوط الدفاع الثلاثة ومؤشرات مراقبة الوكلاء
اليوم الخامس: دراسات الحالة وميثاق حوكمة التحليلات القائمة على الوكلاء
- حالة الإدارة المالية في بنك: مراجعة إطلاق التقارير الحوارية
- حالة جهة صحية عامة: قرار منح الوكلاء صلاحية الوصول إلى بيانات حساسة
- بناء مصفوفة قرارات ضوابط الحماية ومستويات الاستقلالية
- إعداد مسودة ميثاق حوكمة التحليلات القائمة على الوكلاء
- مراجعة لجنة تنفيذية والدفاع عن الميثاق
المهارات المكتسبة
- الإلمام بالذكاء الاصطناعي التوليدي
- الرقابة على مخاطر الوكلاء الذكيين
- أنظمة إدارة الذكاء الاصطناعي
- توزيع صلاحيات القرار
- الحوكمة الدلالية للبيانات
- تقييم أثر الذكاء الاصطناعي
- تخطيط أعمال الضمان
- تقدير الاستثمار في التقنية
لماذا تحضر هذه الدورة
- تعود إلى عملك بميثاق حوكمة التحليلات القائمة على الوكلاء جاهز للعرض على اللجنة التنفيذية أو مجلس الإدارة
- تطرح على الموردين والفرق الداخلية الأسئلة التي تكشف ما إذا كان منتج التحليلات بالذكاء الاصطناعي آمنا للتوسع
- تميز بين تجربة تبدو مبهرة وأخرى يمكن تتبع أرقامها والوثوق بها
- تختبر قراراتك مع نظراء من البنوك والجهات الحكومية والطاقة وقطاعات أخرى يواجهون الخيارات نفسها
الخاتمة
يمكن للتحليلات بالذكاء الاصطناعي التوليدي والوكلاء الذكيين أن تختصر الطريق من السؤال إلى القرار، بشرط أن تحدد القيادات مسبقا ما يحق للوكلاء قراءته وحسابه وتنفيذه، وكيف تراجع إجاباتهم. تنتقل هذه الدورة من بيئة هذه التحليلات وبنيتها، مرورا بمعايير الحوكمة وخيارات ضوابط الحماية، وصولا إلى الإخفاقات الأمنية وأعمال الضمان التي تكشف مواطن الضعف. ويحول اليوم الأخير هذه المعارف إلى ميثاق حوكمة يعود به المشارك إلى فريقه التنفيذي أساسا لتوسيع استخدام الذكاء الاصطناعي في التحليلات.
