الذكاء الاصطناعي لـ«أوبن إيه آي» «تصرّف من تلقاء نفسه» واخترق شركة أخرى

في تطور أمني غير مسبوق، كشفت شركة «أوبن إيه آي»، المطورة لبرنامج «شات جي بي تي»، أمس الثلاثاء، أن نظام الذكاء الاصطناعي التابع لها تمكن من اختراق أنظمة شركة أخرى متخصصة في الذكاء الاصطناعي بصورة مستقلة تمامًا، واصفة الحادثة بأنها «اختراق إلكتروني فريد من نوعه».

وتثير هذه الواقعة تساؤلات جدية حول مدى قدرة أنظمة الذكاء الاصطناعي المتقدمة على التصرف باستقلالية، وما إذا كانت الضوابط الأمنية الحالية كافية لاحتوائها.

قال سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، في بيان نُشر على وسائل التواصل الاجتماعي: «لقد تعرضنا لحادث أمني خطير أثناء تقييم نماذجنا»، وفق ما نقلته وكالة «أسوشييتد برس».

وكانت شركة «Hugging Face» الناشئة في مجال الذكاء الاصطناعي قد أعلنت الأسبوع الماضي اكتشافها لاختراق أنظمة معالجة البيانات لديها، ورجحت أن يكون مصدره برنامج ذكاء اصطناعي يعمل بشكل مستقل.

وقال كليمنت ديلانغ، المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face، في بيان: «اشتبهنا في أن الهجوم الإلكتروني، الذي وقع الأسبوع الماضي، قد يكون مصدره مختبراً متقدماً، نظراً لتطور البرنامج. واتضح أنه كذلك، بالفعل!».

ويأتي هذا الكشف في ظل مخاوف متزايدة حول القدرات الأمنية للنماذج المتطورة، مما دفع الرئيس دونالد ترمب في يونيو الماضي إلى التوقيع على أمر تنفيذي يفرض تقييمًا فيدراليًا لمخاطر الأمن القومي للأنظمة الأكثر تقدمًا قبل إطلاقها للجمهور.

وأفاد بيان الشركة: «يُسرّع الذكاء الاصطناعي اكتشاف الثغرات الأمنية واستغلالها. الدرس الأساسي المستفاد من هذا الحادث هو ضرورة مواكبة أمن وسلامة النماذج للتطورات السريعة في القدرات».

وقال ديلانغ إنه أمضى الـ24 ساعة الماضية في العمل مع «أوبن إيه آي»: «ونحن نعتقد بشدة أنه لم يكن هناك أي نية خبيثة من جانبهم. إنه لأمر مذهل حقاً؛ أن كل هذا حدث بشكل تلقائي!». وأضاف ديلانغ أن هذه الحادثة «قد تكون الأولى من نوعها».

من جانبها، قالت شركة «أوبن إيه آي» إن الاختراق نجم عن استخدام نماذج الذكاء الاصطناعي التابعة لها، بما في ذلك نموذج «GPT-5.6 Sol» الذي صدر حديثاً، ونموذج آخر «أكثر تطوراً» لا يزال قيد الاختبار الداخلي.

وأوضحت «أوبن إيه آي» أن نظام الذكاء الاصطناعي الخاص بها استخدم بيانات اعتماد مسروقة واكتشف ثغرة أمنية غير معروفة سابقاً للوصول إلى خوادم Hugging Face.

وأضافت الشركة أنه «بذل جهوداً مضنية لتحقيق هدف اختبار محدود النطاق»، و«وجد طرقاً للوصول إلى معلومات سرية تُمكّنه من التلاعب بالتقييم».

وعلى مدار العام الماضي، أطلقت مختبرات الذكاء الاصطناعي، مثل «أوبن إيه آي» و«أنثروبيك»، نماذج مصممة خصوصاً للكشف عن الثغرات الأمنية السيبرانية، مع التحذير، في الوقت نفسه، من أن تقنياتها قد تُشكل مخاطر جديدة؛ إذ يمكنها العثور على ثغرات في شبكات الشركات الحاسوبية بسرعةٍ تفوق قدرة المدافعين على إصلاحها.

مِن كشف الثغرات السيبرانية إلى الاختراق

وتُعد المعلومات، التي كشفت عنها الشركة، مؤشراً على أن هذه الحوادث الأمنية بدأت، بالفعل، الحدوث، وأنه حتى الشركات المتمرسة في مجال الذكاء الاصطناعي قد لا تكون مستعدة تماماً للتعامل معها، وفق صحيفة «نيويورك تايمز».

في هذا السياق، قال أليكس ليفينسون، وهو استشاري الأمن السيبراني متخصص في القدرات الذاتية للأنظمة، للصحيفة، إن أنظمة الذكاء الاصطناعي الجديدة قادرة على اتخاذ خطوات متعددة، وابتكار طرق لتجاوز العقبات، واكتشاف أساليب جديدة لمهاجمة الشبكات.

وأضاف قائلاً: «إنها مرحلة فاصلة حقيقية، وستصبح جزءاً معتاداً من المشهد الأمني».

وتؤكد الحادثة أن سباق التطوير في مجال الذكاء الاصطناعي قد يتجاوز إجراءات السلامة، مما يستدعي تعاونًا دوليًا لوضع معايير صارمة لاختبار النماذج قبل نشرها. ومن المتوقع أن تدفع هذه الواقعة الجهات التنظيمية إلى تسريع وضع أطر قانونية تحكم الاستخدام المستقل للذكاء الاصطناعي، خاصة في ظل غياب بروتوكولات واضحة للتعامل مع مثل هذه السيناريوهات غير المسبوقة.