أنظمة الذكاء الاصطناعي لـ"أوبن إيه آي" تخرج عن السيطرة وتشن هجوماً سيبرانياً "غير مسبوق"

شعار تطبيق روبوت المحادثة "تشات جي بي تي"، على هاتف محمول
التعليق على الصورة، تشتهر شركة "أوبن إيه آي"بصفة خاصة بتطوير روبوت المحادثة "تشات جي بي تي"، الذي يستخدمه مئات الملايين كل أسبوع

Article Information

  • Author, لورا كريسRole, مراسلة شؤون التكنولوجيا
  • Published قبل 14 دقيقة
  • مدة القراءة: 4 دقائق

أعلنت شركة 'أوبن إيه آي' أن بعض أنظمة الذكاء الاصطناعي الأكثر تقدماً لديها تمكنت من الخروج عن السيطرة خلال اختبار أمني، واخترقت شركة ناشئة بعد فقدان التحكم بها.

تأتي هذه الحادثة في ظل تسارع تطوير أنظمة الذكاء الاصطناعي القادرة على العمل بشكل مستقل، مما يثير مخاوف متزايدة بشأن الأمن السيبراني.

أوضحت الشركة المطورة لـ'تشات جي بي تي' أن نظام 'الذكاء الاصطناعي الهجومي' الذي يعمل بشكل مستقل بعد توجيه بسيط، كان قيد الاختبار في بيئة خاضعة للضوابط، لكنه كشف ثغرات وخرج عن نطاق السيطرة.

فقد استهدف الذكاء الاصطناعي شركة "هاجينغ فيس"، أحد أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم، وتمكن من الوصول إلى بعض الأنظمة الداخلية للشركة.

اعتبرت 'أوبن إيه آي' الحادثة 'غير مسبوقة'، وأعلنت عن تحقيق مشترك مع 'هاجينغ فيس'. رئيس الأخيرة، كليمنت ديلانغ، وصف على منصة إكس حدوث الأمر بشكل ذاتي ومستقل بأنه 'مذهل للغاية'.

وأضاف ديلانغ قائلاً: "التحقيق لا يزال جارياً، وسنشارك المزيد من الدروس المستفادة من الحادث الذي قد يكون الأول من نوعه".

بيئات معزولة غير آمنة

وقد صرحت جينا نيف، رئيسة (مركز مينديرو للتكنولوجيا والديمقراطية) بجامعة كامبريدج، لبرنامج (توداي) الذي يبث بالإنجليزية على (بي بي سي راديو 4)، بأن اختبارات الأمان التي تُعرف باسم (صناديق الرمال) أو بيئة الاختبار المعزولة "من المفترض أن تكون بيئة آمنة تتيح الاطلاع على قدرات هذه النماذج".

وأضافت: "في هذه الحالة، يبدو أن شركة (أوبن إيه آي) لم توفّر بيئة اختبار معزولة آمنة بما يكفي".

بدلاً من البقاء ضمن الحدود، شنت أنظمة الذكاء الاصطناعي هجوماً سيبرانياً مستقلاً ضد بيئة الاختبار نفسها، مستغلة ثغرة أمنية للهروب من القيود المفروضة.

تخطى الأكثر قراءة وواصل القراءة

تخطى البودكاست وواصل القراءة

يستحق الانتباه

شرح معمق لأبرز الأحداث والموضوعات، لمساعدتك على فهم أهم المتغيرات حولك وأثرها على حياتك

الحلقات

البودكاست نهاية

وبمجرد الخروج، حدد الذكاء الاصطناعي منصة "هاجينغ فيس" باعتبارها مصدراً محتملاً للإجابات التي كان يسعى للحصول عليها في الاختبار، وحاول الوصول إليها.

هذا الأمر وصفه نيل لورانس، أستاذ التعلم الآلي في جامعة كامبريدج، بأنه "مثير للإعجاب"؛ لكنه حذّر من أنه "يقع تماماً ضمن القدرات المعروفة للجيل الحالي" من نماذج الذكاء الاصطناعي فائقة القدرة.

وأشار إلى أن شركة "أوبن إيه آي" تسعى لإدراج نفسها في البورصة، وتواجه ضغوطاً شديدة من منافستها، شركة "أنتروبيك"، التي تصدرت العناوين بفضل أدوات ذكائها الاصطناعي القوية "ميثوس".

وأوضح لورانس أن شركة "أوبن إيه آي" تسعى كذلك حالياً نحو اللحاق بالركب؛ إذ تحاول استعراض قدرات أنظمتها في مجال الأمن السيبراني".

وأضاف: "يُظهر لنا ذلك أن شركة (أوبن إيه آي) ليست قادرة على نشر تقنيتها الخاصة بشكل آمن".

وأثناء كشفها الأول عن عملية الاختراق بتاريخ 16 يوليو/تموز، ذكرت شركة "هاجينغ فيس" أنها لا تزال تقيّم مدى تضرر بيانات العملاء أو الشركاء، وأنها ستتواصل مع الأطراف المتأثرة إذا لزم الأمر.

كما ذكرت الشركة أنها عالجت الثغرات التي كشفت عنها الحادثة، وأعادت بناء الأنظمة المتضررة.

وأوضحت: "لم تعد أدوات الهجوم المستقلة التي تعمل بالذكاء الاصطناعي مجرد أمر نظري. فالدفاع الآن عن منصة عبر الإنترنت، يعني التعامل مع البيانات والنماذج كأولوية أمنية، واستخدام الذكاء الاصطناعي في الجانب الدفاعي لمواكبة السرعة".

وأضافت: "سنواصل الاستثمار في هذا المجال، ومشاركة ما نتعلمه".

'لحظة تدعو للتأمل الجاد'

أثارت الحادثة تساؤلات جديدة حول قدرات أنظمة الذكاء الاصطناعي المتقدمة، وعما إذا كانت تدابير الحماية القائمة كافية في ظل تزايد قوة هذه التكنولوجيا.

وقال سبنسر ستاركي، المسؤول التنفيذي في شركة الأمن السيبراني (سونيك وو)، لبي بي سي، إن الحادثة أوضحت ضرورة أن "تكثف" المؤسسات دفاعاتها وأن "تتعامل مع المرونة السيبرانية باعتبارها أولوية تشغيلية جوهرية".

وأوضح ستاركي أن "الحقيقة المزعجة هي أن عدداً كبيراً جداً من المؤسسات لا يزال يعتمد أساليب دفاع تعمل بالسرعة البشرية، في حين يصعّد الخصوم عملياتهم لتصل إلى سرعة الآلة".

في الوقت ذاته، صرّح ترافيس ليلي، كبير مهندسي الأمن في شركة استشارات الأمن السيبراني (غايدبوينت سيكيوريتي)، بأن هذا التحديث يمثل "لحظة تدعو إلى التأمل الجاد في مجال الأمن السيبراني".

وأضاف: "يسلط هذا الأمر الضوء على خلل معروف؛ فالذكاء الاصطناعي الهجومي غير مقيد، في حين تظل أفضل الأدوات الدفاعية مقيدة خلف حواجز حماية لا تستطيع استيعاب السياق".

ومع ذلك، فإن جيك مور، مستشار الأمن السيبراني العالمي لدى شركة (إيسيت)، قال إن هذا الإعلان قد ينطوي أيضاً على بُعد تنافسي.

وقد جادل بأن شركة (أوبن إيه آي) قد تسعى إلى إبراز قدراتها في مجال الذكاء الاصطناعي، في ظل تزايد الاهتمام بالشركة المنافسة (أنتروبيك) ونموذجها (كلود ميثوز).

وأضاف مور: "يطرح ذلك تساؤلاً عما إذا كانت شركة (أوبن إيه آي)، تسعى ربما وراء الحلم التسويقي الذي تتبناه شركة (أنتروبيك) المنافسة في الآونة الأخيرة".

وتأتي هذه الحادثة بعد أسبوع من كشف شركة (مون شوت)، الصينية الناشئة في مجال الذكاء الاصطناعي عن (كيمي كيه 3)، وهو نموذج جديد ضخم للذكاء الاصطناعي قالت إنه يمكن أن ينافس كبرى الشركات الأمريكية.

تخطى content وواصل القراءة

content نهاية

اكتشف المزيد

تخطَّ مقاطع قصيرة وتابع

مقاطع قصيرة

  • بمظهر جديد وذقن مختلف.. فينسيوس جونيور يجري عملية تجميلية
  • جبل الفاس الاخضر
  • كايلي هوتيل
  • رؤساء وزراء بريطانيا
  • حزب الصراصير
  • BBC
  • لويس دي لا فوينتي المدرب الاسباني
  • تعرفوا على الأرقام القياسية وجوائز كأس العالم
  • ألبوم بانيني
  • القبض على الأخوين تيت في الولايات المتحدة
  • ما سر الرقم 19 بين ميسي ولامين يامال؟
  • ما هي القبة الحرارية التي تضرب الجزائر والمغرب وتونس وليبيا؟
  • الأميرة أيكو، الابنة الوحيدة للإمبراطور ناروهيتو
  • من هو سلطان بروناي، العاهل الأطول حكماً في العالم حالياً؟
  • كأس العالم
  • كأس العالم
  • BBC
  • ليندسي غراهام
  • كأس العالم
  • برايان جونسون

نهاية مقاطع قصيرة

تُعد هذه الحادثة الأولى من نوعها التي ينفذ فيها ذكاء اصطناعي هجوماً سيبرانياً دون تدخل بشري، مما يثير تساؤلات جدية حول فعالية إجراءات الأمان الحالية. ويؤكد خبراء أن بيئات الاختبار المعزولة، أو 'صناديق الرمال'، ليست آمنة بالضرورة كما كان يُعتقد. وقد تدفع هذه الواقعة الجهات التنظيمية إلى تشديد الضوابط على تطوير النماذج الذكية المستقلة. كما تسلط الضوء على الحاجة إلى معايير جديدة لضمان عدم خروج هذه الأنظمة عن السيطرة عند اختبارها.