تمنح المادة 22 من GDPR الأفراد الحق في عدم الخضوع لقرار آلي بحت يُنتج آثاراً قانونية أو آثاراً مماثلة مهمة — والحق في تفسير ذي مغزى لكيفية التوصل إلى ذلك القرار. لا تستطيع معظم أنظمة الذكاء الاصطناعي الإنتاجية تلبية المادة 22. سحب بنك أوروبي تحدثنا معه العام الماضي نموذج تصنيف ائتماني من الإنتاج بعد ثلاثة أسابيع من الإطلاق لأن فريق الامتثال لم يستطع إنتاج التفسير الذي طلبه المنظم. كلفت عملية التراجع أكثر من ميزانية تطوير النموذج.
الشفافية ليست موضوع ندوة أخلاقية. إنها حاجز نشر.
مشكلة الصندوق الأسود
تُنتج نماذج التعلم العميق مخرجات دون تعليل قابل للتفسير بسهولة. يُنشئ ذلك مشاكل ملموسة عبر المنظمين ومشتري المؤسسات والعملاء. يتطلب GDPR قابلية الشرح للقرارات الآلية التي تؤثر على الأفراد. يُوسع قانون الذكاء الاصطناعي للاتحاد الأوروبي متطلبات مماثلة للتطبيقات عالية المخاطر. “ثق بالنموذج” ليست إجابة مشتريات، والطلب على المساءلة يظهر في شروط العقد.
بناء ذكاء اصطناعي قابل للشرح
لم يعد الذكاء الاصطناعي القابل للشرح أكاديمياً. إنه مجموعة عاملة من التقنيات التي تُشحن في الإنتاج: تحليل أهمية الميزات الذي يُحدد المدخلات التي قادت قراراً، وتقطير النماذج الذي يُقارب النماذج المعقدة بنماذج قابلة للتفسير للتدقيق، والتفسيرات المضادة للواقع التي تُظهر ما يحتاج إلى التغيير لنتيجة مختلفة، ومسارات التدقيق التي تُسجل عمليات القرار والمدخلات وإصدارات النموذج.
الميزة التنافسية
المنظمات التي تُحسن هذا لا تعامل الشفافية كمركز تكلفة. إنها تعاملها كعامل تمييز. الشركات التي يمكنها إظهار ذكاء اصطناعي مسؤول وشفاف تفوز بعقود المؤسسات، وتجتاز التدقيق التنظيمي بشكل أسرع، وتتجنب سيناريوهات التراجع التي تُخرج نشر النماذج عن مسارها. تكلفة بناء الحوكمة من البداية أقل باستمرار من تكلفة تثبيتها تحت ضغط تنظيمي.