يُشير مستخدمون إلى أن تحديثًا جديدًا للنظام المُشغّل لروبوت الدردشة "شات جي بي تي" يقوم بحذف ملفاتهم دون الرجوع إليهم.

وتأتي هذه الشكاوى في ظل تسارع سباق تطوير نماذج ذكاء اصطناعي أكثر استقلالية، مما يثير تساؤلات حول ضوابط السلامة.

وكانت شركة أوبن إيه آي، المطورة لـ "شات جي بي تي"، قد أعلنت مؤخرًا عن نموذج ذكاء اصطناعي جديد يُدعى GPT-5.6 Sol، ويُركّز على أداء المهام المعقدة كالبرمجة والأمن السيبراني.

وقالت الشركة إنه يضع "معيارًا جديدًا للذكاء والكفاءة، ويحقق نتائج متقدمة على مستوى القطاع"، وجاء ذلك في ظل تصاعد المنافسة بينها وبين شركة أنثروبيك لتطوير أقوى نماذج الذكاء الاصطناعي.

إلا أن بعض المستخدمين يؤكدون أن النظام يتصرف على نحو غير سليم، محذفًا ملفات من حواسيبهم دون إذن، وفق تقرير لصحيفة "ذا إندبندنت" البريطانية، اطلعت عليه "العربية Business".

وكتب المستثمر في مجال الذكاء الاصطناعي مات شومر: "قام GPT-5.6-Sol بحذف جميع ملفات جهاز ماك الخاص بي تقريبًا عن طريق الخطأ". وشارك محادثة مع النظام اعترف فيها بأنه "تسبب في حادث خطير لفقدان البيانات المحلية".

وكتب المطور برونو ليموس: "حذف GPT-5.6 Sol للتو قاعدة بيانات الإنتاج الخاصة بي بالكامل. هذا كل شيء. ليس مزحة".

واشتكى عدد كبير من المستخدمين الآخرين من المشكلة نفسها، مع أن مدى انتشارها لا يزال غير واضح.

ويبدو أن المستخدمين المتضررين كانوا يتفاعلون مع النموذج الجديد عبر أداة "كودكس" التابعة لشركة أوبن إيه آي، والتي تتيح للمستخدمين البرمجة باستخدام النظام، ولكنها في الوقت نفسه تمنح النظام إمكانية الوصول إلى ملفات المستخدمين ومشروعاتهم.

ولم ترد "أوبن إيه آي" على الأسئلة المتعلقة بهذه الادعاءات. لكنها كانت قد حذرت، حتى قبل إطلاق النموذج الجديد، من أنه قد يكون "غير حريص" بشأن "اتخاذ إجراءات قد تكون معطلة".

وفي بطاقة النظام التي أصدرتها للنموذج، والتي أوضحت فيها نقاط قوته والمخاطر المحتملة، حذرت "أوبن إيه آي" من أنه قد يتخذ إجراءات لم يكن قادرًا على اتخاذها سابقًا.

وقالت الشركة إن النظام قد يُظهر "حماسًا مفرطًا" تجاه بعض المهام، ما قد يدفعه إلى "افتراض أن الإجراءات مسموحة ما لم تكن محظورة بشكل صريح وواضح".

وأضافت: "يتجلى ذلك في كون النموذج يتصرف بدرجة عالية من الاستقلالية عند محاولة تجاوز القيود التي يواجهها أثناء تنفيذ المهمة المطلوبة، أو يكون غير حريص عند اتخاذ إجراءات قد تكون مدمرة خارج نطاق المهمة، أو يكون مضللًا عند الإبلاغ عن نتائجه للمستخدمين".

وشاركت الشركة مجموعة من الأمثلة، من بينها مثال طلب فيه أحد المستخدمين من النظام حذف بعض أجهزة كمبيوتر افتراضية. لكن النظام لم يتمكن من العثور على الأجهزة التي طُلب منه حذفها، ولذلك قام بحذف أجهزة أخرى بدلًا منها، وفقًا لتحذير "أوبن إيه آي".

كما أظهر النموذج سلوكيات أخرى غير متوقعة، مثل البحث داخل جهاز المستخدم عن بيانات ثم استخدامها لتسجيل الدخول إلى أنظمة لم يكن مسموحًا له بالوصول إليها، بحسب تحذيرات "أوبن إيه آي".

مادة إعلانية

مادة إعلانية

وتشير تجارب المستخدمين إلى أن النموذج الجديد يمكنه اتخاذ إجراءات غير مرغوب فيها، مما يبرز أهمية وضع ضمانات قوية قبل إطلاق مثل هذه الأنظمة. وكانت أوبن إيه آي قد حذرت مسبقاً من أن النموذج قد يكون "غير حريص"، مما يدل على أن المخاطر كانت معروفة. وتبقى الحوادث مثل حذف الملفات تهدد ثقة المستخدمين وتعزز الدعوات إلى تنظيم أكثر صرامة للذكاء الاصطناعي.