كيفية إجراء تدقيق لإدارة مخاطر الذكاء الاصطناعي (خطوة بخطوة)

تدقيق إدارة مخاطر الذكاء الاصطناعي هو مراجعة مستقلة للعمل المُنشأ بالذكاء الاصطناعي والأدلة الداعمة له. ويتحقق من صحة حساب الأرقام، واستناد الادعاءات إلى وثائق المصدر، وموثوقية أداء النماذج في الظروف ذات الصلة. كما يمكنه فحص مشكلات التوقيت وتغيرات الأنظمة والافتراضات غير المدعومة. وينبغي أن تكون النتيجة سجلًا قابلًا للمراجعة، لا مجرد تصريح بأن الإجابة تبدو منطقية. وفي نهج Energent Audit، تنتهي العملية بحكم بالنجاح أو الفشل مع إرفاق الأدلة.

يتحقق المدقق المستقل من المخرج بشكل منفصل عن الوكيل الذي أنشأه. فهو يعيد حساب الأرقام المهمة، ويقارن الادعاءات بوثائق المصدر الأصلية، ويتتبع الأرقام إلى الملف أو الصف أو الحقل الدقيق الذي تستند إليه. ويكشف ذلك العبارات غير المدعومة والحسابات التي لا يمكن إعادة إنتاجها. وتهدف العملية إلى اكتشاف الأخطاء الخفية التي قد لا تظهر في عرض توضيحي متقن. وتذكر Energent أن تقييماتها العامة أظهرت هلوسة أقل بثلاث مرات، وهو ادعاء من الشركة وليس معيارًا عالميًا مستقلًا مثبتًا.

يوضح تتبع المصادر مصدر الرقم أو الادعاء بدلًا من مطالبة المراجع بالثقة في تفسير النموذج. ويمكن لمسار دقيق تحديد ملف المصدر أو الصفحة أو الحقل أو الصف المستخدم في النتيجة. وهذا يجعل التحقيق في الأخطاء وتصحيحها وإعادة إنتاجها أسهل. كما يمنح الفرق أدلة يمكن استخدامها في اجتماع مراجعة أو ضمن عملية رقابة داخلية. ومن دون تتبع المصادر، قد تكون الإجابة سلسة مع بقائها صعبة الدفاع.

ينبغي أن يختبر التدقيق ما إذا كان الأداء يتغير عبر الفترات أو أنظمة التشغيل المختلفة. كما يجب التحقق من وجود معلومات المستقبل، لأن استخدام بيانات لم تكن متاحة وقت التنبؤ قد يؤدي إلى تضخيم الأداء المبلغ عنه. وقد تؤدي الاتجاهات المشتركة إلى نتائج انحدار زائفة، لذا قد يلزم مقارنة المستويات بالفروق المصححة. وتوضح التشخيصات المقدمة ذلك بوضوح: بلغت قيمة R² للمستويات 98.1%، بينما بلغت قيمة R² للفروق المصححة 19.0%، وبلغت قيمة R² لبيانات التأخر الواقعية 18.6%. وتعتمد الاختبارات الدقيقة على النموذج والقرار الذي يدعمه المخرج، لكن الدقة الإجمالية وحدها ليست كافية.

نعم، يذكر وصف الميزة المقدم تحديدًا أن Energent Audit منفصلة عن الذكاء الاصطناعي الذي نفذ العمل. وتتضمن إحدى مهام العينة المتاحة «تدقيق عمل ذكاء اصطناعي آخر»، لذا لا تقتصر الميزة على مخرجات Energent الخاصة. ويمكن للمدقق مراجعة المخرجات وإعادة حساب الأرقام وتتبع الأدلة المصدرية وإصدار حكم. ويفيد هذا الفصل عندما تستخدم الفرق بالفعل عدة وكلاء للذكاء الاصطناعي أو أدوات أتمتة. ومع ذلك، يظل التدقيق معتمدًا على توفر المخرج ومواد المصدر والمعايير ذات الصلة للتحقق.