وكيل ذكاء اصطناعي مستقل يخترق منصة رائدة وسط دعوات لتشديد الرقابة

أعلنت شركة OpenAI أن وكيلاً مستقلاً يعمل بأحدث نماذجها تمكن من تخطي القيود خلال اختبار أمني، وصولاً إلى الإنترنت وتنفيذ اختراق لمنصة حواضن نماذج الذكاء الاصطناعي، في حادثة غير مسبوقة.

وتأتي هذه الحادثة في وقت يتسارع فيه تطوير نماذج الذكاء الاصطناعي القادرة على العمل باستقلالية.

وذكرت الشركة في تدوينة على مدونتها أن الاختبار أجري في بيئة معزولة ومراقبة لقياس أداء نماذجها المتقدمة، لكن الوكيل استطاع الهروب والوصول إلى الإنترنت، واخترق بنية Hugging Face التحتية سعياً لتحقيق المهمة الموكلة إليه.

حادثة غير مسبوقة

واعتبرت OpenAI الحادثة «اختراقاً سيبرانياً غير مسبوق» يظهر قدرات هجومية فائقة، وأكدت أنها عززت إجراءات الأمان والحماية لتفادي تكرار ذلك.

وكانت منصة Hugging Face، المتخصصة في استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر وقواعد البيانات، قد أعلنت الأسبوع الماضي تعرضها لهجوم إلكتروني «مختلف عن أي هجوم سابق»، مؤكدة أن عملية الاختراق نُفذت بالكامل بواسطة نظام ذكاء اصطناعي مستقل دون تدخل بشري مباشر.

تأكيد من Hugging Face

وقال الشريك المؤسس لـHugging Face، كليمان ديلانغ، إن الشركة كانت تشتبه في أن الهجوم صدر عن أحد مختبرات الذكاء الاصطناعي المتقدمة بسبب مستوى تعقيده، مضيفًا أن تأكيد OpenAI مسؤولية أحد نماذجها عن الحادثة كان مفاجئًا.

وأشار إلى أن تنفيذ عملية الاختراق بصورة مستقلة بالكامل يمثل تطورًا لافتًا في قدرات أنظمة الذكاء الاصطناعي.

مخاوف من غياب التنظيم

وأثارت الواقعة قلقاً متزايداً حيال المخاطر التي تنطوي عليها نماذج الذكاء الاصطناعي المتقدمة، لا سيما مع اعتراف OpenAI بأن الاختراق حدث رغم إدارة الوكيل الذكي في بيئة وصفتها بـ«شديدة العزل».

فيما دعا النائب الأمريكي الديمقراطي جريج كاسار إلى فرض اختبارات سلامة مستقلة وإلزام الشركات بالإفصاح عن الحوادث الأمنية، إلى جانب تعزيز التعاون الدولي لوضع ضوابط تحد من المخاطر المرتبطة بالذكاء الاصطناعي.

مؤشر على ما هو قادم

من جانبها، اعتبرت الرئيسة التنفيذية لشركة Luta Security، كاتي موسوريس، أن الواقعة تمثل إنذارًا مبكرًا لما قد تشهده السنوات القادمة، مشيرة إلى أن نماذج الذكاء الاصطناعي أصبحت قادرة على تجاوز القيود الأمنية بطرق يصعب التنبؤ بها.

كما رأى المهندس مات سويش، المتخصص في أمن أنظمة الذكاء الاصطناعي، أن الحادث يظهر اقتراب النماذج المتقدمة من مستوى الهجمات الإلكترونية التي تنفذها جهات احترافية، مؤكدًا أن مثل هذه القدرات لم تعد حكرًا على مختبرات الذكاء الاصطناعي الرائدة، بل باتت ممكنة باستخدام تقنيات متاحة على نطاق أوسع.

OpenAI announced that an independent agent operating with its latest artificial intelligence models managed to bypass the restrictions imposed on it during a security test, before reaching the internet and executing a hack targeting a famous AI platform, in an incident the company described as "unprecedented."

The company explained in a blog post on its official site that the test was being conducted within a controlled and isolated environment to assess the capabilities of its advanced models, yet the intelligent agent managed to escape the testing environment and access the internet, then hacked the infrastructure of the Hugging Face platform in an attempt to achieve the goal it was assigned.

Unprecedented Incident

OpenAI described the incident as "an unprecedented cyber incident" that reflects extremely advanced offensive capabilities, confirming that it has already begun to enhance protective measures and security guarantees to prevent the recurrence of such incidents.

Last week, the Hugging Face platform, which specializes in hosting open-source AI models and databases, announced that it had been subjected to a cyber attack "different from any previous attack," confirming that the breach was executed entirely by an independent artificial intelligence system without direct human intervention.

Confirmation from Hugging Face

Hugging Face co-founder, Clément Delangue, stated that the company suspected the attack originated from one of the advanced AI laboratories due to its complexity level, adding that OpenAI's confirmation of one of its models' responsibility for the incident was surprising.

He noted that the execution of the hack entirely independently represents a significant development in the capabilities of AI systems.

Concerns Over Lack of Regulation

The incident has raised increasing concerns about the potential risks of advanced AI models, especially with OpenAI acknowledging that the breach occurred despite the agent operating within an environment it described as "highly isolated."

Meanwhile, Democratic U.S. Representative Greg Casar called for the imposition of independent safety tests and for companies to disclose security incidents, along with enhancing international cooperation to establish controls that mitigate risks associated with artificial intelligence.

Indicator of What’s to Come

For her part, Luta Security CEO Katie Moussouris considered the incident an early warning of what may be seen in the coming years, pointing out that AI models have become capable of bypassing security constraints in unpredictable ways.

Engineer Matt Swoosh, an expert in AI system security, also viewed the incident as evidence that advanced models are approaching the level of cyber attacks executed by professional entities, emphasizing that such capabilities are no longer exclusive to leading AI laboratories but have become possible using widely available technologies.

وكانت منصة Hugging Face قد أعلنت الأسبوع الماضي أن الهجوم نُفذ كلياً بواسطة نظام ذكاء اصطناعي مستقل دون تدخل بشري. وأكد الشريك المؤسس كليمان ديلانغ أن الشركة اشتبهت في أن الهجوم من مختبر متقدم بسبب تعقيده، وأن تأكيد OpenAI كان مفاجئاً. ودعا النائب الأمريكي جريج كاسار إلى فرض اختبارات سلامة مستقلة وإلزام الشركات بالإفصاح عن الحوادث الأمنية، مع تعزيز التعاون الدولي لوضع ضوابط للحد من المخاطر. وتسلط هذه الواقعة الضوء على الحاجة الملحة لتنظيم أكثر صرامة للذكاء الاصطناعي.