كشفت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» عن الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، بهدف تقديم خارطة طريق للجهات الحكومية والخاصة في مساعيها لرصد ومعالجة التحديات المرتبطة بالأنظمة الذكية، وذلك استناداً إلى سبعة مبادئ أخلاقية تضمن حوكمة هذه التقنيات وتوظيفها بمسؤولية.

تأتي هذه الخطوة في إطار الجهود الوطنية المتسارعة التي تقودها المملكة لتعزيز البنية التحتية الرقمية وضمان تبني تقنيات الذكاء الاصطناعي وفق أطر تنظيمية تتسم بالشفافية والمسؤولية.

وأوضحت «سدايا» أن هذا الإطار يوفر إرشادات تنفيذية تبدأ برصد المخاطر وتحليلها، وصولاً إلى وضع آليات المعالجة والرقابة المستمرة، مؤكدة أن هذه الخطوات تضمن التزام الأنظمة الذكية بالمعايير التنظيمية وتعزيز موثوقيتها طوال فترة تشغيلها.

أخبار متعلقة

وبيّن الإطار اختلاف مخاطر الذكاء الاصطناعي جوهرياً عن البرمجيات التقليدية، نظراً لارتباطها بحالة عدم اليقين وطريقة اتخاذ النماذج لقراراتها بشكل مستقل. مشيرة إلى أن هذه المخاطر تمتد آثارها إلى أبعاد اجتماعية وتنظيمية وأخلاقية أوسع، وقد تظهر بصورة غير متوقعة أثناء التشغيل.
وحصرت الهيئة المخاطر المحتملة في سبع فئات رئيسية، تتصدرها مخاطر التحيز والتمييز، والخصوصية، وإنتاج المعلومات المضللة، إلى جانب إساءة الاستخدام في عمليات الاحتيال. كما شملت الفئات مخاطر الاعتماد المفرط على الأنظمة وإضعاف دور الإنسان، والآثار الاقتصادية والبيئية، وضعف موثوقية الأنظمة وسلامتها.
ولضبط هذه التهديدات، اعتمدت الهيئة سبعة مبادئ أساسية لأخلاقيات الذكاء الاصطناعي، ترتكز على النزاهة، والخصوصية، وتعزيز دور الإنسان، والمنافع الاجتماعية، والموثوقية، والشفافية، والمساءلة. مشددة على أن هذه المبادئ تضمن توافق النماذج الذكية مع قيم العدالة، وتحمل المطورين والمشغلين مسؤولية الآثار الناتجة عن قرارات أنظمتهم.
وتناول الدليل التشريعي أبرز تحديات التقييم، وفي مقدمتها الاعتماد على بيانات أو مكونات برمجية من أطراف ثالثة، وغياب المقاييس الموحدة. لافتة إلى وجود فجوة بين بيئات الاختبار التجريبية والواقع التشغيلي، مما يجعل عملية التقييم ديناميكية تتطلب مراقبة مستمرة للأنظمة بعد إطلاقها.
وأكدت الهيئة أن البيانات تمثل الركيزة الأساسية في إدارة المخاطر، ملزمة الجهات بضبط صلاحيات الوصول إليها وتتبع مصادرها لمعالجة مخاطر التحيز والأمن. موضحة أن متطلبات إدارة المخاطر تختلف باختلاف القطاعات كالصحي والمالي والتعليمي، مما يستوجب تطبيق ضوابط تتناسب مع طبيعة وحساسية بيانات كل قطاع.

تكتسب هذه المبادرة أهمية بالغة بالنظر إلى التحول الرقمي المتسارع الذي يشهده العالم، حيث تسعى المملكة إلى استباق التحديات الأخلاقية والتقنية الناتجة عن تعقيدات خوارزميات الذكاء الاصطناعي. ومن المتوقع أن تسهم هذه الضوابط في توحيد معايير التعامل مع الأنظمة الذكية عبر مختلف القطاعات الحيوية، بما يعزز من ثقة المستخدمين ويضمن استدامة الابتكار التكنولوجي بما يتوافق مع القيم والمبادئ التنظيمية المعتمدة.