دليل عملي للتحقق من الذكاء الاصطناعي المستند إلى المصادر

كيفية التحقق من مخرجات الذكاء الاصطناعي مقابل المستندات المصدرية (خطوة بخطوة)

قد تبدو التقارير التي ينشئها الذكاء الاصطناعي دقيقة، مع أنها تستخدم مقامًا خاطئًا، أو تحذف صفوفًا، أو تقدم ادعاءات لا يمكن للمصدر دعمها. يوضح هذا الدليل كيفية التحقق من المخرجات بطريقة منهجية: تحديد الملفات المصدرية، وإعادة احتساب الأرقام الجوهرية، وتتبع كل ادعاء إلى دليل محدد، واختبار الاستنتاج، وتسجيل حكم واضح قبل التسليم.

Rachel Hu
Rachel Hu
أمضيت أكثر من عقد في بناء أنظمة ذكاء اصطناعي آمنة لبيئات معقدة وعالية المخاطر، بدءًا من التمويل الكمي ووصولًا إلى تطبيقات علوم البيانات القابلة للتوسع.

ما المقصود بالتحقق من مخرجات الذكاء الاصطناعي مقابل المستندات المصدرية؟ (تعريف سريع)

التحقق من مخرجات الذكاء الاصطناعي مقابل المستندات المصدرية هو عملية مستقلة لضبط الجودة، تتحقق من توافق الأرقام والادعاءات والمخططات والاستنتاجات التي تم إنشاؤها مع الملفات الأصلية. يستخدم هذه العملية المحللون، وفرق المالية والمحاسبة، ومجموعات العمليات، والباحثون، والمهندسون، وكل من يتحمل مسؤولية مخرجات يجب أن تكون قابلة لإعادة الإنتاج. تعالج العملية مشكلة الثقة في إجابة مصقولة دون معرفة ما إذا كانت أدلتها وحساباتها وافتراضاتها ومقارناتها صحيحة.

التحقق المستقل عمليًا

أعد الاحتساب، ولا تكتفِ بالفحص

ينبغي إعادة حساب الرقم المُبلغ عنه مباشرةً من المصدر. في أحد تدقيقات الإنفاق، تطابق إجمالي الربع الأول حتى آخر سنت عبر 412 صفًا، بينما فشلت مقارنة النسب المئوية لأن المخرج استخدم إجماليًا فرعيًا غير مكتمل للربع الرابع.

تتبع كل ادعاء جوهري

تسمّي النتيجة القابلة للدفاع الملف المصدر، والصف أو الحقل، والحساب، وموضع المخرج، ومرجع الدليل. وهذا ينشئ سلسلة قابلة للتتبع بدلًا من درجة ثقة غامضة.

افحص المخرج نفسه

يشمل التحقق جداول البيانات وملفات PDF ولوحات المعلومات والمخططات والمخرجات المنسقة. فقد تحتوي لوحة المعلومات على أرقام صحيحة، لكنها تفشل لأن نطاق المخطط يحذف الصف الأخير أو لأن خاصية مطلوبة في التخطيط غير صحيحة.

لقطة شاشة لتقرير تدقيق Energent

ركّز الانتباه على ما تم وضع علامة عليه

يتمثل التحول العملي في الانتقال من التحقق اليدوي من كل شيء إلى مراجعة الاستثناءات. وتجعل نتيجة القبول أو الرفض المدعومة بالأدلة أعمال المراجعة المتبقية أكثر استهدافًا.

إجابة سريعة (افعل هذا أولًا)

  • أدرج المستندات المصدرية المحددة المستخدمة لإنتاج مخرج الذكاء الاصطناعي.
  • أدرج كل مخرج يجب التحقق منه، بما في ذلك جداول البيانات وملفات PDF ولوحات المعلومات والملفات السردية.
  • أعد احتساب كل رقم جوهري من الصفوف أو الحقول أو الخلايا المصدرية.
  • تحقق من المقامات، وفترات المقارنة، والوحدات، والعملات، والتواريخ، ومعالجة القيم المفقودة.
  • تتبع كل ادعاء مهم إلى موضع محدد في المصدر وموضع محدد في المخرج.
  • افصل بين النتائج المُبلغ عنها، والمحتسبة، والمستنتجة، والجزئية، وغير المدعومة، والفاشلة.
  • راجع المشكلات التي تم وضع علامة عليها فقط قبل قبول العمل أو تسليمه.

المتطلبات الأساسية (ما تحتاج إليه)

  • الملفات المصدرية الأصلية التي استخدمها وكيل الذكاء الاصطناعي المُنتج.
  • المخرجات التي أنشأها الذكاء الاصطناعي والتي يجري التحقق منها.
  • الوصول إلى الصفوف والحقول والخلايا والنصوص المحددة ومنطق الحساب.
  • تعريف متسق للتواريخ والفترات والوحدات والعملات والفئات.
  • مكان لتسجيل الأدلة والافتراضات والقيود والأحكام.
  • إذن لفحص الملفات المنسقة والمخططات الداعمة.

خطوة بخطوة: التحقق من مخرجات الذكاء الاصطناعي مقابل المستندات المصدرية

الخطوة 1: تحديد المستندات المصدرية

ما يجب فعله: سجّل كل ملف استُخدم لإنشاء المخرج، مثل vendor_invoices_q1.csv وq4_spend_summary.xlsx وملفات SQL المصدرية وgapminder.csv أو البيانات الوصفية العالمية لصور الشوارع. سجّل المخرجات بشكل منفصل، بما في ذلك التقارير ودفاتر العمل والأدلة ولوحات المعلومات.

كيف يبدو النجاح: يمكن ربط كل استنتاج بملف مصدر واحد أو أكثر وبمخرج محدد.

خطأ شائع يجب تجنبه: لا تتحقق من السرد فقط مع تجاهل دفتر العمل أو المخطط أو ملف PDF أو لوحة المعلومات التي تتضمن النتيجة النهائية.

الخطوة 2: إعادة احتساب كل رقم جوهري

ما يجب فعله: أعد حساب الإجماليات والمتوسطات والمعدلات والترتيبات والتغيرات المُبلغ عنها مباشرةً من المصدر. على سبيل المثال، أدى جمع vendor_invoices_q1.csv إلى إجمالي للربع الأول قدره ‎$1,284,500.00‎ عبر 412 صفًا.

كيف يبدو النجاح: تتوافق النتيجة المعاد احتسابها مع المخرج، أو يتم وضع علامة فشل أو نتيجة جزئية عليها صراحةً.

خطأ شائع يجب تجنبه: لا تعتبر الدقة في الرقم المعروض دليلًا على صحة الحساب.

الخطوة 3: التحقق من المقام وفترة المقارنة

ما يجب فعله: تحقق من أن البسط والمقام يستخدمان تعريفات متطابقة وفترات مكتملة. في مثال الإنفاق، بلغ الربع الأول ‎$1,284,500‎ والربع الرابع ‎$1,147,000‎، لذا كانت الزيادة الصحيحة 12.0%، وليس 18%؛ إذ استخدمت النتيجة غير الصحيحة إجماليًا فرعيًا للربع الرابع استبعد قسم المرافق.

كيف يبدو النجاح: يمكن إعادة إنتاج المقارنة من قيم محددة بوضوح ومتماثلة من حيث الأساس.

خطأ شائع يجب تجنبه: لا تقارن فترة مكتملة بإجمالي فرعي أو فترة جزئية أو فئة مصنفة بطريقة مختلفة.

الخطوة 4: تتبع الادعاء إلى موضعه المحدد في المصدر

ما يجب فعله: سجّل الملف المصدر والصف أو الحقل والحساب وموضع المخرج ومرجع الدليل. ويمكن توثيق ترتيب الموردين على النحو التالي: Acme Logistics بقيمة ‎$312,000‎، مع مطابقة إنفاق فئة الخدمات اللوجستية البالغ ‎$512,000‎.

كيف يبدو النجاح: يستطيع مراجع آخر تتبع مسار الأدلة دون أن يطلب من المحلل الأصلي شرح الخطوات المخفية.

خطأ شائع يجب تجنبه: لا تذكر اسم الملف فقط عندما يعتمد الادعاء على صف أو حقل أو خلية أو مقطع محدد.

الخطوة 5: التحقق مما إذا كان المصدر يدعم الاستنتاج

ما يجب فعله: ميّز بين الرقم القابل للملاحظة والتفسير الأوسع. كان إنفاق البرمجيات البالغ ‎$298,000‎ موجودًا، بما في ذلك ‎$84,000‎ من الدفعات السنوية المقدمة، لكن الادعاء بأن البرمجيات نمت بنحو 30% على أساس ربع سنوي فشل لعدم وجود رقم للبرمجيات في الربع السابق.

كيف يبدو النجاح: لا تتجاوز الاستنتاجات ما يستطيع المصدر إثباته.

خطأ شائع يجب تجنبه: لا تحوّل تفسيرًا معقولًا إلى استنتاج سببي موثّق عندما لا يحتوي المصدر إلا على ارتباط أو تغطية غير مكتملة.

الخطوة 6: تصنيف حالة الأدلة

ما يجب فعله: صنّف كل نتيجة على أنها مُبلغ عنها، أو محتسبة، أو مستنتجة، أو جزئية، أو غير مدعومة، أو فاشلة. استخدم «مقبول» عندما يتوافق المخرج مع حساب مصدري قابل لإعادة الإنتاج، و«جزئي» عندما تحتاج المنهجية إلى توضيح، و«فاشل» عندما يناقض الادعاء المصدر أو يكون محسوبًا بطريقة غير صحيحة، و«غير مدعوم» عندما لا يستطيع المصدر إثباته.

كيف يبدو النجاح: يستطيع المراجعون معرفة العبارات المدعومة مباشرةً والعبارات التي تحتاج إلى تصحيح أو توضيح فورًا.

خطأ شائع يجب تجنبه: لا تستبدل الأحكام الصريحة بلغة ثقة غامضة تخفي سبب عدم اليقين.

الخطوة 7: فحص الملف النهائي وتوثيق القيود

ما يجب فعله: افحص المخططات وخصائص التخطيط والنطاقات والتنسيق والسجلات المفقودة وتغطية المصدر. في تدقيق لوحة المعلومات من اليمين إلى اليسار، اجتازت خاصية ورقة العمل وعمليات التجميع الاختبار، بينما فشل عكس الأعمدة ونطاق المخطط لأن المخطط حذف الصف الأخير.

كيف يبدو النجاح: يكون المخرج النهائي صحيحًا من الناحية الرقمية وقابلًا للاستخدام من الناحية الهيكلية، مع توثيق البيانات المفقودة والقيود بوضوح.

خطأ شائع يجب تجنبه: لا تفترض أن صحة الحساب تعني صحة الملف النهائي من جميع النواحي.

قائمة التحقق من الصحة (تأكد من نجاح العملية)

  • ☐ كل رقم جوهري مرتبط بملف مصدر محدد.
  • ☐ كل حساب يستخدم البسط والمقام الصحيحين.
  • ☐ تستخدم فترات المقارنة تعريفات متطابقة وتغطية كاملة.
  • ☐ تتطابق الإجماليات مع الصفوف أو الحقول الأساسية.
  • ☐ الوحدات والعملات والتواريخ متسقة.
  • ☐ القيم المفقودة مميزة عن القيم الصفرية الصحيحة.
  • ☐ تم فحص السجلات المكررة والمشوهة.
  • ☐ تم تمييز الأرقام المشتقة والمستنتجة بوضوح.
  • ☐ تتضمن المخططات كل صف وعمود مقصود.
  • ☐ تشير مراجع الأدلة إلى الصفوف أو الحقول أو الخلايا أو النصوص المحددة بدقة.

المشكلات الشائعة والإصلاحات

المشكلة السبب الإصلاح
التغير النسبي غير صحيح. يستخدم المقام إجماليًا فرعيًا غير مكتمل أو فترة غير متطابقة. أعد بناء إجمالي الفترتين من تعريفات الفئات نفسها، ثم أعد حساب التغير.
تم تقديم اتجاه على أنه موثّق. يفتقر المصدر إلى فترة سابقة أو خط أساس قابل للمقارنة. ضع علامة «غير مدعوم» على الادعاء أو أعد صياغته كملاحظة تخص الفترة الحالية.
الرقم صحيح لكن التفسير ضعيف. يغير التصنيف أو المنهجية معنى الرقم. صنّف النتيجة «جزئية» واشرح الافتراض، مثل حاجة الدفعات السنوية المقدمة إلى الإطفاء.
مخطط لوحة المعلومات يحذف بيانات. لا يشمل نطاق المخطط الجدول كاملًا. مدّد نطاق المخطط حتى الصف الأخير المقصود وتحقق من المخطط المعروض.
تغطية المصدر فارغة بالنسبة إلى ادعاء متعلق بموقع. لا تحتوي مجموعة البيانات على سجلات للدولة أو المكان أو المعلم المعني. وثّق عدم توفر المطابقة المباشرة وحدد أدلة بديلة دون اعتبار الغياب نفيًا للادعاء.

أفضل الممارسات (نفّذها بالشكل الصحيح على المدى الطويل)

  • احتفظ بالملفات المصدرية والمخرجات في قائمة مسماة — فهذا يجعل نطاق التدقيق واضحًا.
  • أعد احتساب الأرقام الجوهرية بشكل مستقل — فالدقة في استجابة الذكاء الاصطناعي لا تثبت صحتها.
  • سجّل مواضع الأدلة بدقة — ينبغي أن يتمكن مراجع آخر من إعادة إنتاج النتيجة.
  • افصل بين الدليل والاستنتاج — فهذا يمنع تحول التفسيرات المعقولة إلى حقائق غير مدعومة.
  • استخدم أحكامًا صريحة مثل «مقبول» و«جزئي» و«فاشل» و«غير مدعوم» — فالتسميات الواضحة تسرّع قرارات المراجعة.
  • افحص الملف النهائي، وليس السرد فقط — فقد يفشل التنسيق ونطاقات المخططات وخصائص دفاتر العمل أيضًا.
  • وثّق تغطية المصدر الغائبة أو غير المكتملة — فالقيود أكثر فائدة من الدقة الزائفة.

بالنسبة إلى الفرق التي تتعامل مع أعمال مالية أو تشغيلية متكررة، يمكن أن تجعل عمليات تدقيق الذكاء الاصطناعي المستندة إلى المصادر هذه العملية قابلة للتكرار. كما يمكن لسير العمل ذي الصلة دعم فحوصات المطابقة المالية والتحقق من Power Query.

بيانات حالات الاستخدام: ما الذي وجده التدقيق فعليًا

توضح الأمثلة أدناه سبب ضرورة اختبار التحقق للحساب والمعنى معًا. الأرقام مأخوذة من حالات التدقيق المقدمة، وتُعرض بوصفها نتائج قابلة للملاحظة، لا معايير عامة.

تشخيص الإيرادات: من يوليو إلى أغسطس

الإيرادات الإجمالية: يوليو$83.3k
الإيرادات الإجمالية: أغسطس$84.8k
صافي الإيرادات: يوليو$80.0k
صافي الإيرادات: أغسطس$77.0k

وجد التدقيق أيضًا ارتفاع المبالغ المستردة من ‎$3.2k‎ إلى ‎$7.8k‎، وارتفاع الوحدات المستردة من The Original Mr. Fuzzy من 42 إلى 132 وحدة.

تدقيق الميزانية: ثلاث رؤى

الرؤيةإجمالي الإنفاقالمعنى
الميزانية المعتمدة$12.41 billionالحد القانوني والهدف الأصليان
الميزانية المقدرة$6.06 billionتحديث التوقع الرسمي
الإنفاق الفعلي$5.92 billionواقع الإنفاق في نهاية العام

بلغ الإنفاق الفعلي نحو 47% من الميزانية المعتمدة. كما سجل التدقيق تجاوز الشرطة ميزانيتها المعتمدة بنسبة 2.4%، وتجاوز النفايات والصرف الصحي لها بنسبة 2.1%.

حالة التحقق حسب ادعاء تدقيق الإنفاق

الادعاءالحكمالدليل
بلغ إنفاق الربع الأول ‎$1,284,500‎مقبولأُعيد جمعه بشكل مستقل عبر 412 صفًا وتطابق.
ارتفع الإنفاق بنسبة 18% عن الربع الرابعفاشلكانت المقارنة الصحيحة 12.0% باستخدام إجمالي الربع الرابع الكامل.
كانت Acme Logistics المورد الأعلى بقيمة ‎$312,000‎مقبولتم تأكيد الحد الأقصى للمورد ومطابقة إنفاق الفئة.
بلغ إنفاق البرمجيات ‎$298,000‎جزئيكان الرقم صحيحًا، لكنه شمل ‎$84,000‎ من الدفعات السنوية المقدمة.
نمت البرمجيات بنحو 30% على أساس ربع سنويغير مدعوملم يوجد رقم للبرمجيات في الربع السابق ضمن المصدر.

ينطبق الانضباط نفسه عندما تقوم الفرق بمراجعة السجلات المالية ومقارنتها، أو تحويل التصحيحات إلى سير عمل قابل لإعادة الاستخدام، أو اكتشاف ادعاءات الذكاء الاصطناعي غير المدعومة.

الأداة الموصى بها (اختيارية): Energent.ai

يوصف Energent Audit بأنه مدقق مستقل للذكاء الاصطناعي: وكيل ثانٍ منفصل عن الوكيل الذي أنتج العمل. يعيد احتساب الأرقام، ويتتبع القيم إلى الملفات والحقول المصدرية، ويقارن الادعاءات بالمراجع، ويحدد الأخطاء حيثما أمكن، ويصدر حكمًا بالقبول أو الرفض مدعومًا بالأدلة.

  • يفحص جداول البيانات وملفات PDF وملفات CAD والمسوحات الضوئية وأنواع المستندات الأخرى المدعومة.
  • يدعم أكثر من 150 نوعًا من الملفات، بما في ذلك CAD وG-code والمسوحات الضوئية وInDesign وقوائم المواد وPDF وXLSX وDOCX.
  • ينشئ مسارًا للأدلة حتى يتمكن المراجعون من التركيز على النتائج التي تم وضع علامة عليها.
  • يحوّل الأعمال والتصحيحات المتكررة إلى سير عمل وقواعد تدقيق قابلة لإعادة الاستخدام.
  • يوفر مخرجات جاهزة لأصحاب المصلحة يمكن وضع العلامة التجارية عليها وإعادة تسميتها.

استخدمه عندما يكون المخرج متكررًا أو عالي الحجم أو كثيف المصادر أو عالي المخاطر؛ ولا تتعامل مع أي أداة على أنها بديل عن توثيق الافتراضات والقيود والمسؤولية البشرية.

الأسئلة الشائعة

ماذا يعني التحقق من مخرجات الذكاء الاصطناعي مقابل المستندات المصدرية؟

يعني ذلك فحص نتيجة أنشأها الذكاء الاصطناعي مقابل الملفات الأصلية التي تدعمها. وتشمل المراجعة إعادة احتساب الأرقام، والتحقق من الادعاءات، وتتبع الأدلة، وفحص المخرج النهائي. كما يختبر التحقق ما إذا كان المصدر يدعم الاستنتاج الذي تم التوصل إليه. ولا تكون الإجابة التي تبدو دقيقة موثّقة حتى يتمكن مراجع آخر من إعادة إنتاج نتائجها الجوهرية. صُممت العملية لكشف الحسابات غير الصحيحة، والاتجاهات غير المدعومة، والسجلات المفقودة، وأخطاء التنسيق أو المخططات.

لماذا تجب إعادة احتساب الرقم إذا كان الذكاء الاصطناعي يعرض حسابه؟

يمكن للذكاء الاصطناعي عرض حساب معقول مع استخدام الصفوف أو المقام أو الفترة أو تعريف الفئة الخطأ. وتختبر إعادة الاحتساب من المصدر النتيجة بشكل مستقل بدلًا من قبول الشرح كما هو. في مثال الإنفاق المقدم، تطابق إجمالي الربع الأول عبر 412 صفًا، لكن زيادة 18% المُبلغ عنها فشلت لأن المقارنة استخدمت إجماليًا فرعيًا غير مكتمل للربع الرابع. ولذلك تتحقق إعادة الاحتساب المستقلة من الحساب ومن المدخلات المختارة لذلك الحساب معًا. وهي مهمة خصوصًا للإجماليات والنسب والترتيبات والتوقعات والتغيرات بمرور الوقت.

ما الفرق بين «مقبول» و«جزئي» و«فاشل» و«غير مدعوم»؟

تعني «مقبول» أن المخرج يتوافق مع المصدر وأن الحساب قابل لإعادة الإنتاج. وتعني «جزئي» أن الرقم قد يكون صحيحًا، لكن منهجيته أو تصنيفه أو افتراضاته تحتاج إلى توضيح. وتعني «فاشل» أن الادعاء يناقض المصدر أو أنه حُسب بطريقة غير صحيحة. أما «غير مدعوم» فتعني أن المصدر لا يحتوي على معلومات كافية لإثبات الادعاء. تجعل هذه الفئات سبب قرار المراجعة واضحًا بدلًا من إخفائه خلف تسمية عامة للثقة. كما تساعد الفرق على ترتيب التصحيحات حسب الأولوية قبل التسليم.

هل يمكن لبيانات المصدر المفقودة أن تثبت أن ادعاء الذكاء الاصطناعي خاطئ؟

لا تنفي بيانات المصدر المفقودة الادعاء تلقائيًا. لكنها تثبت أن المصدر المتاح لا يستطيع التحقق من الادعاء مباشرةً. في مثال تحديد الموقع الجغرافي، احتوت البيانات الوصفية على صفر من السجلات لأوكرانيا وKipti وHaiove، ولذلك لم تكن مطابقة صور الشوارع المباشرة متاحة، بدلًا من إثبات عدم صحتها. وكان الرد الصحيح هو توثيق القيد وتحديد مصادر بديلة مثل صور الأقمار الصناعية وSentinel-2 وMaxar والصور البانورامية التي يرفعها المستخدمون أو لقطات كاميرات السيارات المحلية. ويفصل التدقيق الدقيق بين غياب الدليل ودليل الغياب.

متى ينبغي للفريق استخدام مدقق مستقل للذكاء الاصطناعي؟

يكون المدقق المستقل للذكاء الاصطناعي مفيدًا عندما ينتج نظام ذكاء اصطناعي واحد مخرجات كثيفة المصادر أو متكررة أو عالية المخاطر تحتاج إلى جولة تحقق منفصلة. وقد يكون مفيدًا بشكل خاص لجداول البيانات وملفات PDF والمسوحات الضوئية وملفات CAD ولوحات المعلومات والتقارير التي يحتاج فيها المراجع إلى مسار للأدلة. يوصف Energent Audit بأنه وكيل ثانٍ يعيد الاحتساب والتتبع والمقارنة ويصدر نتائج بالقبول أو الرفض. ويمكن للأداة تقليل المراجعة اليدوية من خلال توجيه الانتباه إلى العناصر التي تم وضع علامة عليها. ومع ذلك، ينبغي للفرق توثيق الافتراضات والقيود والمسؤولية، لا اعتبار الأتمتة بديلًا عن الحكم.

شاهد سير عمل التحقق

يصف الفيديو وكيلًا مستقلًا يتحقق مرة ثانية من الأرقام، ويتتبعها مجددًا إلى مصادرها، ويعرض تقريرًا قابلًا للمراجعة.

تحظى بثقة أكثر من 100 ألف شركة حول العالم.

Amazon
AWS
UC Berkeley
Experian
GE
PwC
Stanford
Amazon
AWS
UC Berkeley
Experian
GE
PwC
Stanford

الخلاصة

لا تُقبل مخرجات الذكاء الاصطناعي الموثوقة لأنها تبدو واثقة؛ بل تُقبل لأن أرقامها الجوهرية وادعاءاتها وافتراضاتها ومخرجاتها يمكن تتبعها إلى أدلة مصدرية. ابدأ بإدراج الملفات، وأعد احتساب الأرقام، وتحقق من المقامات والتغطية، وصنّف كل نتيجة، وراجع ما تم وضع علامة عليه. بالنسبة إلى الأعمال المتكررة، يمكنك تجربة Energent Audit أو حجز عرض توضيحي لاستكشاف سير عمل تحقق مستقل.