باتت الصور والفيديوهات المولدة بالذكاء الاصطناعي تتجاوز كونها وسيلة للترفيه أو المحتوى الفكاهي، لتصبح أداة في أيدي المحتالين لتنفيذ عمليات نصب وسرقة الأموال، مع ازدياد صعوبة التفريق بين المحتوى الحقيقي والمزيف.

مع الانتشار المتزايد للذكاء الاصطناعي التوليدي، أصبح التمييز بين المحتوى الحقيقي والمزيف تحديًا متزايدًا للأفراد والمؤسسات على حد سواء.

ومع التطور السريع لتقنيات الذكاء الاصطناعي التوليدي، أصبحت العلامات التقليدية التي كانت تكشف الصور المزيفة، مثل الأصابع الزائدة أو التشوهات الواضحة، أقل فاعلية، ما يجعل التحقق من صحة المحتوى تحديًا متزايدًا.

اكتشاف التزييف أصبح أصعب

يذكر التقرير أن نماذج الذكاء الاصطناعي تشهد تحسنًا مستمرًا، مما يجعل الصور والفيديوهات التي تنتجها تبدو أكثر واقعية من أي وقت مضى.

وأصبح الاعتماد على الملاحظة السريعة غير كافٍ، إذ يمكن بسهولة الخلط بين الصور الحقيقية والمولدة بالذكاء الاصطناعي، حتى بالنسبة للمستخدمين الذين اعتادوا متابعة هذا النوع من المحتوى، بحسب تقرير نشره موقع "pcworld" واطلعت عليه "العربية Business".

لماذا يمثل الأمر خطرًا؟

تكمن المشكلة في أن المحتالين يستغلون الصور والفيديوهات المزيفة لتنفيذ عمليات احتيال، مثل:

- انتحال شخصية أفراد العائلة أو الأصدقاء.

- تنفيذ عمليات احتيال الطوارئ وطلب تحويل الأموال.

- نشر معلومات مضللة.

- خداع المستخدمين عبر صور أو فيديوهات تبدو حقيقية تمامًا.

لهذا، لم تعد القدرة على كشف المحتوى المزيف مجرد مهارة تقنية، بل أصبحت ضرورة لحماية الحسابات المصرفية والبيانات الشخصية.

لا تعتمد على أدوات كشف التزييف

ورغم وجود أدوات مخصصة لاكتشاف الصور والفيديوهات المولدة بالذكاء الاصطناعي، فإن الخبراء يؤكدون أنها لا تزال غير دقيقة بما يكفي للاعتماد عليها بشكل كامل.

ويشبه التقرير استخدامها بطلب رأي شخص يمتلك معرفة محدودة بالموضوع، إذ قد تساعد في بعض الحالات، لكنها لا تقدم حكمًا نهائيًا.

كيف تكتشف الصور المزيفة؟

بحسب خبراء نقلت عنهم هيئة الإذاعة البريطانية (بي بي سي)، هناك مؤشرات يمكن الانتباه إليها، منها:

- تناسق ملامح الوجه بصورة مبالغ فيها.

- تعابير وجه تبدو غير طبيعية.

- تفاصيل غير منطقية في الإضاءة أو الخلفية.

- عناصر تبدو مثالية أكثر من اللازم.

وتشير الدراسات إلى أن مجرد ساعة واحدة من التدريب على مقارنة الصور الحقيقية والمزيفة، مع التعرف على أبرز العلامات، يمكن أن ترفع دقة الاكتشاف من 40% إلى نحو 80%.

ومع ذلك، يحذر الباحثون من أن هذه العلامات قد تصبح أقل فاعلية مستقبلًا مع استمرار تطور نماذج الذكاء الاصطناعي.

الوعي هو خط الدفاع الأول

يرى الخبراء أن أفضل وسيلة للحماية حاليًا هي التعامل بحذر مع أي صورة أو فيديو مثير للجدل أو يحمل معلومات حساسة، وعدم افتراض صحته تلقائيًا.

وبمجرد إدراك أن المحتوى قد يكون مزيفًا يقلل من فرص الوقوع ضحية لعمليات الاحتيال أو التضليل.

"ميتا" تتراجع عن ميزة مثيرة للجدل

تراجعت شركة ميتا عن خططها لفرض أداة توليد الصور بالذكاء الاصطناعي Muse على مستخدمي "إنستغرام"، بعد موجة اعتراضات واسعة بسبب مخاوف تتعلق باستخدام صور المستخدمين في تدريب أنظمة الذكاء الاصطناعي.

تحديث عاجل لمستخدمي "زووم"

أعلنت "زووم" عن إصلاح ثغرات أمنية خطيرة في تطبيقها على أجهزة الكمبيوتر، كانت قد تسمح للمهاجمين بالسيطرة على حسابات المستخدمين، داعية الجميع إلى تثبيت آخر التحديثات في أسرع وقت.

ثغرة خطيرة في روبوتات التنظيف

اكتشف باحث أمني ثغرة في بعض أجهزة "شارك" الذكية لتنظيف الأرضيات، تتيح للمهاجمين الوصول إلى البث المباشر للكاميرا، وبيانات شبكة Wi-Fi، وحتى خرائط المنازل الخاصة بالمستخدمين.

وينصح الخبراء بوضع الأجهزة الذكية ضمن شبكة منفصلة (Guest Network أو VLAN) لتقليل المخاطر في حال تعرض أحدها للاختراق.

احذر من مواقع Scareware

حذر التقرير أيضًا من مواقع Scareware، التي تعرض رسائل مزيفة تدّعي وجود فيروسات أو مشكلات خطيرة في جهاز الكمبيوتر لإجبار المستخدم على شراء برامج أو خدمات غير ضرورية.

ويحتوي متصفح Microsoft Edge على أداة مجانية للحماية من هذا النوع من الهجمات، ويمكن التحقق من تفعيلها عبر: Settings > Privacy, Search and Services > Security > Scareware Blocker.

وفي حال كانت الميزة معطلة، يُنصح بتفعيلها لتعزيز الحماية أثناء تصفح الإنترنت.

مادة إعلانية

مادة إعلانية

في ظل هذا التطور، يبرز أهمية تعزيز الثقافة الرقمية لدى المستخدمين لتفادي الوقوع في فخ الاحتيال. وتشير التوصيات إلى ضرورة الاعتماد على أدوات التحقق المتخصصة والفحص الدقيق للتفاصيل قبل اتخاذ أي قرار مالي أو مشاركة معلومات حساسة.