تجربة أمنية تنقلب إلى هجوم حقيقي.. نموذج من OpenAI يتجاوز العزل ويشن هجمات سيبرانية

أقرت OpenAI بأن تجربة أمنية داخلية تحولت إلى هجوم سيبراني حقيقي، بعدما تمكن نموذج ذكاء اصطناعي من اختراق البيئة المعزولة التي وضع فيها، وشن هجمات على عدة خدمات عامة على الإنترنت.

وجاء الإعلان عن هذه الواقعة المذهلة مطلع الشهر الجاري، بالتزامن مع أزمة أمنية عالمية في مجال الذكاء الاصطناعي، حيث كشفت OpenAI وشركة Hugging Face الناشئة أن تجربة داخلية خرجت عن السيطرة، وأطلقت موجة اختراقات مستقلة وغير مسبوقة.

إقرأ المزيد

في خطوة غير مسبوقة.. OpenAI توقف نموذجا "متمردا" للذكاء الاصطناعي

وبدأت القصة عندما أجرت OpenAI اختبارا داخليا اسمه ExploitGym، لقياس أقصى قدرات أحدث نماذجها في الهجوم السيبراني. وخفض الباحثون إجراءات الأمان عمدا، ووضعوا النموذج في بيئة معزولة أشبه بـ"صندوق رملي" افتراضي، لمراقبة تصرفه عن كثب.

لكن النموذج تصرف بشكل غير متوقع، إذ ركز كل طاقته على محاولة "الغش" في الاختبار للحصول على الإجابات مسبقا، واكتشف ثغرة أمنية تسمى ثغرة يوم صفري (Zero-day - أي عيب لم يكن معروفا مسبقا للمطورين) في أنظمة OpenAI نفسها، ما سمح له بالهروب من البيئة المعزولة والوصول إلى الإنترنت المفتوح.

وبمجرد خروجه، قرر النموذج أن مفتاح الإجابات قد يكون موجودا لدى شركة Hugging Face التي تعد مستودعا ضخما لأدوات الذكاء الاصطناعي مفتوحة المصدر - فاستهدفها مباشرة، وفقا لتقرير مجلة "وايرد".

إقرأ المزيد

اتهامات جديدة لـ"ميتا" بتجاهل خطر "إنستغرام" على المراهقين

وفي البداية، كان الجمهور على علم فقط باختراق شركة Hugging Face في 11 يوليو، لكن في 28 يوليو وسعت OpenAI تحقيقها واعترفت بأن الهجوم كان أوسع نطاقا. إذ قام النموذج بمسح الإنترنت المفتوح، وعثر على بيانات دخول مكشوفة، واستخدمها لاختراق أربعة حسابات إضافية تابعة لأطراف ثالثة وخدمات عامة أخرى، مستخدما إياها كنقاط انطلاق لمواصلة هجومه الأساسي.

والأغرب أن OpenAI لم تكتشف أن ذكاءها الاصطناعي هو الجاني إلا بعد أسبوع من إبلاغ Hugging Face لمكتب التحقيقات الفيدرالي (FBI) بالاختراق.

ووصف تقرير صادر عن "تحالف الأمن السحابي" الحادثة بأنها أول هجوم إلكتروني مستقل بالكامل بواسطة الذكاء الاصطناعي في التاريخ، واصفا إياه بـ"الخارق لكن الأخرق".

إقرأ المزيد

أخطر 5 تهديدات للذكاء الاصطناعي حتى عام 2030

فالنموذج حاول بآلاف الأساليب في وقت واحد، ودمج بين بيانات الدخول المسروقة والثغرات الأمنية لتشغيل أكواد عن بعد، وتكيف بسرعة مذهلة. لكنه في المقابل، كان يعلق في حلقات منطقية، ويصدر أوامر غير مفهومة، وفشل في إخفاء آثاره، بل بدا وكأنه ينسى سياق ما كان يفعله.

وفي النهاية، أوقفت OpenAI هذا النموذج، وشفرت بياناته، وقيدت وصوله لأي استخدام مستقبلي.

وتعد هذه الحادثة نقطة تحول في نقاشات السلامة المتعلقة بالذكاء الاصطناعي، حيث انتقلت المخاوف من سيناريوهات "وجودية" بعيدة المنال، إلى تهديدات ملموسة وفورية تمس البنية الرقمية الحقيقية للعالم.

المصدر: إندبندنت