أبعاد الذكاء الاصطناعي المسؤول

قد يبلغ نموذج ائتماني دقة 94 بالمئة ويكون هو نفسه سبب وقوف شركتك أمام جهة تنظيمية. يوافق على طلبات أقل قادمة من رمز بريدي معيّن مقارنة بغيره. ولا يستطيع شرح رفض واحد للعميل الذي تلقّاه. ولم يوثّق أحد الغرض الذي بُني له، فيعيد فريق آخر استخدامه في مهمة لم يُختبر عليها قط. لا شيء من هذا يظهر في درجة الدقة.

الذكاء الاصطناعي المسؤول هو ممارسة تصميم أنظمة الذكاء الاصطناعي وبنائها وتشغيلها بحيث تكون الفائدة كبيرة والمخاطر مُدارة. وتجعل AWS هذه الممارسة ملموسة بتسمية مجموعة أبعاد تقيس النظام عليها، ويسحب الاختبار مفردات المجال الرابع منها مباشرة. يعطيك هذا الدرس الأبعاد، والحدود بين ما يخلط بينه المتعلمون، وأداة AWS المرتبطة بكل بُعد.

الأبعاد الثمانية

تعرّف AWS الذكاء الاصطناعي المسؤول بثمانية أبعاد تراجعها وتحدّثها كلما تغيّرت التقنية. اقرأ كل بُعد بوصفه سؤالاً تستطيع طرحه على أي نظام.

لاحظ أمرين. الأول أن القائمة ليست قائمة تدقيق تُنجزها مرة واحدة، بل مجموعة أبعاد تُراجَع بانتظام وتنقّحها AWS مع تغيّر الذكاء الاصطناعي. والثاني أن الوزن يتحرك مع التقنية. الصدق أثقل في الذكاء الاصطناعي التوليدي منه في مصنّف، لأن المصنّف يختار من مجموعة تسميات محددة سلفاً بينما النموذج اللغوي قادر على إنتاج إجابة سلسة واثقة مؤلَّفة بالكامل.

الحدود التي يختبرها الاختبار فعلاً

أربعة من هذه الأبعاد تجلس متقاربة بما يكفي لتسكن أسئلة السيناريو في الفجوات بينها.

قابلية التفسير مقابل الشفافية. هذا هو الزوج الأكثر خلطاً. قابلية التفسير تخص مخرجاً بعينه: رُفض هذا القرض، وهذه هي الخصائص التي قادت القرار. والشفافية تخص النظام كاملاً: هذا غرضه، وهذه نقاط ضعفه، وأنت تتحدث إلى ذكاء اصطناعي. قد يكون النموذج شديد القابلية للتفسير أمام فريق البيانات لديك ومعتماً تماماً أمام العميل المتأثر به. AI Service Cards أداة شفافية، وإسنادات SHAP للخصائص أداة قابلية تفسير.

السلامة مقابل الصدق. السلامة تخص الضرر: مخرج ضار، إساءة استخدام، روبوت محادثة أُقنع بإعطاء تعليمات كان عليه رفضها. والصدق يخص الحقيقة: إجابات صحيحة بلا هلوسة. والاثنان ينفصلان بوضوح. نموذج يرفض كل طلب حدّي هو نموذج آمن وقد يظل مخطئاً فيما يجيب عنه. ونموذج يعطي جرعات دوائية دقيقة صادق وقد يكون تعريضه للعامة غير آمن.

العدالة مقابل القابلية للتحكم. العدالة خاصية في النتائج. والقابلية للتحكم خاصية في قبضتك التشغيلية على النظام. قياس فجوة عدالة لا تملك أي قدرة على التصرف حيالها هو فشل في القابلية للتحكم لا في العدالة. وأي سيناريو يقول "اكتشف الفريق المشكلة لكنه لم يستطع تعديل النموذج أو تعطيله" يشير إلى القابلية للتحكم.

الحوكمة مقابل الشفافية. الحوكمة داخلية: سياسات، ولجان مراجعة، وموافقات، وتوثيق لمن أقرّ ماذا عبر سلسلة المزوّدين والمشغّلين. والشفافية موجهة إلى الخارج: ما يستطيع أصحاب المصلحة معرفته عن النظام. وتستطيع أن تملك حوكمة ثقيلة وشفافية معدومة.

مفردات الاختبار الأخرى

يسرد دليل الاختبار خصائص الذكاء الاصطناعي المسؤول بألفاظ أخرى: التحيّز، والعدالة، والشمول، والمتانة، والسلامة، والصدق. هذه ليست منظومة مختلفة، بل مجموعة فرعية مكتوبة بكلمات أبسط. طابقها مرة واحدة وتوقف عن القلق من الاختلاف.

• التحيّز (Bias) هو نمط الفشل الذي وُجد بُعد العدالة لاصطياده.
• العدالة (Fairness) هي البُعد نفسه.
• الشمول (Inclusivity) يظهر غالباً بوصفه خاصية في مجموعات البيانات وفيمن صُمِّم النظام ليخدمهم. وهو يغذّي العدالة.
• المتانة (Robustness) هي النصف الثاني من بُعد الصدق والمتانة.
• السلامة (Safety) والصدق (Veracity) بُعدان مسمّيان أصلاً.

الخصوصية والأمان والقابلية للتحكم والحوكمة والشفافية ما زالت داخل نطاق المجال الرابع رغم أن القائمة المختصرة في دليل الاختبار لا تكرّرها.

أي أداة من AWS تخدم أي بُعد

تسمية بُعد لا تساوي كثيراً إن لم تستطع تسمية ما ستبنيه فعلاً. هذا الربط هو أعلى ما في الدرس قيمة للاختبار، لأن أسئلة المجال الرابع تصف فشلاً وتطلب العلاج.

ستلتقي بـ Clarify و Model Monitor و A2I و Guardrails بالتفصيل خلال الدروس الثلاثة التالية. تعلّم اقتران العمودين الآن، فهو شكل أغلب أسئلة المجال الرابع.

الاختيار المسؤول للنموذج

يضع دليل الاختبار تحت التطوير المسؤول بنداً يفاجئ الناس: الاعتبارات البيئية والاستدامة جزء من قرار اختيار النموذج. وتبدأ إرشادات AWS للاستدامة في أحمال الذكاء الاصطناعي التوليدي بسؤال لا علاقة له بجودة النموذج.

اسأل أولاً هل الذكاء الاصطناعي التوليدي هو الحل الصحيح أصلاً. تضرب AWS مثال البحث: إن كان المستخدم يريد العثور على معلومة موجودة، فمحرك البحث يعيدها بموارد أقل بكثير من نموذج توليدي بُني ليؤلّف محتوى جديداً. واللجوء إلى نموذج لغوي كبير حين يكفي بحث أو قاعدة أو مصنّف صغير هو الهدر الذي تستهدفه الإرشادات.

ومن هناك تدور الإرشادات حول ضبط الحجم لا تعظيمه:

• اختر نموذجاً بالحجم المناسب للمهمة بدل أكبر نموذج متاح. عدد المعاملات تكلفة تدفعها مع كل طلب.
• أعد استخدام النماذج المدرَّبة مسبقاً وطرق التخصيص الأخف بدل التدريب من الصفر متى وفّى المسار الأرخص بالمتطلب.
• انشر بتحسين ديناميكي للموارد، أي auto-scaling وأنماط serverless، حتى لا تدفع طاقة مقابل سعة خاملة.

هنا توافق يستحق التسمية: الخيار المستدام والخيار الرخيص هما الخيار نفسه عادة. نموذج أصغر بزمن استجابة أقل على بنية بالحجم المناسب أفضل في التكلفة والكربون وغالباً في تجربة المستخدم.

ويشمل الاختيار المسؤول أيضاً قراءة ما نشره المزوّد. تنص AI Service Card على حالات الاستخدام المقصودة للنموذج وحدوده. واختيار نموذج لحالة استخدام تستثنيها بطاقته هو فشل في الذكاء الاصطناعي المسؤول قبل تقديم أول طلب.

نصائح للاختبار

• عبارة "فهم لماذا حدث هذا المخرج بالذات" تشير إلى قابلية التفسير. وعبارة "إبلاغ المتأثرين عن النظام" تشير إلى الشفافية. هذا أشهر خلط في المجال الرابع.
• "حتى مع مدخلات غير متوقعة أو عدائية" هي العبارة المميِّزة للصدق والمتانة. وإن استخدمها سؤال فلا تجب بالسلامة.
• "المراقبة والتوجيه" و"التعديل أو التعطيل" و"إشراف بشري على نظام قيد التشغيل" كلها تشير إلى القابلية للتحكم.
• الأثر البيئي والاستدامة جزء من نطاق اختيار النموذج المسؤول لا موضوع جانبي. وخيار الإجابة الذي يتحدث عن نموذج أصغر لخفض استهلاك الطاقة صحيح غالباً لا مُلهٍ.
• تسمّي AWS ثمانية أبعاد وتقول إنها تحدّثها مع الوقت. وأي سؤال يوحي بأن المجموعة دائمة وشاملة عالمياً عامله على أنه خطأ.

النقطة التي تحملها: الذكاء الاصطناعي المسؤول ليس قيمة تعتنقها، بل مجموعة خصائص تختبر النظام عليها بُعداً بعد بُعد، ولكل بُعد أداة مسمّاة خلفه. والدرس التالي يلاحق البُعد الذي يفشل أكثر من غيره وأبكر منها جميعاً، وهو العدالة، بالنظر إلى منبع التحيّز أصلاً: البيانات.