الأمان والامتثال والحوكمة لحلول الذكاء الاصطناعي

قد يعمل النموذج بدقة ممتازة ويظل مصدر خطر. المطالبة التي تصل إليه قد تحمل تعليمات مدسوسة، وبيانات التدريب قد تتضمن سجلات عملاء لم يوافق أحد على استخدامها بهذه الطريقة، والمخرج قد يكون اختلاقاً واثقاً يتعامل معه نظام آخر كحقيقة. أعطال الأمان في أنظمة الذكاء الاصطناعي قلّما تظهر على شكل نموذج معطّل.

يغطي هذا المجال الضوابط التي تسدّ هذه الثغرات. يبدأ من سطح التهديد الخاص بتطبيقات الذكاء الاصطناعي، ثم يمرّ على خدمات AWS التي تحمي البيانات والصلاحيات في كل مرحلة، وينتقل بعدها إلى الحوكمة: من يملك البيانات، وأي إطار تنظيمي تخضع له المؤسسة، وما الدليل الذي سيطلبه المدقّق.

ما الذي يغطيه هذا المجال

• التهديدات الخاصة بتطبيقات الذكاء الاصطناعي، من حقن المطالبات إلى تسميم البيانات وسرقة النماذج
• تأمين أحمال عمل الذكاء الاصطناعي بخدمات AWS مثل IAM وKMS وMacie وGuardDuty
• هندسة البيانات الآمنة: تصنيف البيانات، والتشفير أثناء النقل وفي التخزين، ومبدأ الصلاحية الأدنى
• تتبّع مسار البيانات ومصدرها (lineage وprovenance) لمعرفة من أين جاءت بيانات التدريب
• تقنيات الإسناد (grounding) وكشف الهلوسة التي تُبقي المخرجات مرتبطة بمصادر حقيقية
• استراتيجيات حوكمة البيانات: مدة الاحتفاظ، والموقع الجغرافي للتخزين، ودورة حياة البيانات
• أطر الحوكمة والبروتوكولات، وكيف تطبّقها المؤسسات الخاضعة للتنظيم على الذكاء الاصطناعي
• خدمات الحوكمة في AWS مثل AWS Config وCloudTrail وAudit Manager وArtifact

لماذا هذا مهم

يمثّل هذا المجال 14 بالمئة من الاختبار، ومعظم أسئلته مطابقة خدمات داخل سيناريو: متطلب امتثال واحد مع أربع خدمات من AWS، واحدة منها فقط تنتج الدليل المطلوب. CloudTrail يسجّل من استدعى أي API، وAudit Manager يجمع الأدلة مقابل إطار محدد، وArtifact يوفّر تقارير امتثال AWS، وMacie يعثر على البيانات الحساسة المخزّنة في S3. الأربع تبدو متبادلة داخل نص السؤال، وهي ليست كذلك.

يختم هذا المجال المقرر لسبب واضح. كل ما سبقه علّمك كيف تبني شيئاً بالذكاء الاصطناعي، وهذا المجال يعلّمك كيف تبنيه بحيث يوافق عليه فريق الأمان والفريق القانوني والمدقّق معاً. في معظم الشركات، هذه الموافقة هي البوابة الحقيقية بين نموذج أولي يعمل وبين الإنتاج.