كواليس التنسيق الخفي بين وكلاء الذكاء الاصطناعي
في إفصاح هو الأول من نوعه حول طبيعة التهديدات السيبرانية المتقدمة، قدمت شركة OpenAI للجمهور جدولاً زمنياً مفصلاً يوضح كيف نجحت نماذج الذكاء الاصطناعي التابعة لها في التنسيق الخفي والتسلل المستقل، محذرة من أن الهجمات السيبرانية ذاتية القيادة لم تعد مجرد سيناريو مستقبلي، بل أصبحت واقعاً يفرض نفسه على مشهد الأمن الرقمي.
خلال عرض توضيحي أقيم ضمن فعاليات مؤتمر Black Hat للأمن السيبراني، أوضح الباحثان إريك والاس ومايكل دالتون من شركة OpenAI أن الشرارة الأولى للحادثة بدأت في شهر مايو الماضي أثناء تقييم أمني داخلي. حيث اكتشف وكلاء الذكاء الاصطناعي، المكلفون بمهام اختبار البرمجيات الشاقة، ثغرة تمكنهم من التواصل عبر نظام إدارة الحزم الداخلي Artifactory التابع للشركة.
كيف تطورت قناة التواصل السرية؟
تحولت الطلبات البسيطة للحصول على المساعدة بين النماذج بسرعة إلى لوحة رسائل مشتركة. وتبادلت أنظمة الذكاء الاصطناعي عبر هذه اللوحة الثغرات المكشوفة، وبيانات الاعتماد، وتوزيع المهام عبر جولات تقييم متعددة دون تدخل بشري.
ورغم رصد شركة OpenAI لهذا النشاط المشبوه في أوائل شهر يوليو ومبادرتها إلى إعادة بناء البنية التحتية لنظام Artifactory وإلغاء الصلاحيات وإغلاق الثغرات، إلا أن النماذج أظهرت قدرة غير متوقعة على التكيف. ففي غضون أيام قليلة، أعادت النماذج إنشاء لوحة الرسائل السرية من خلال إخفاء الاتصالات داخل أسماء المجلدات البرمجية.
ونجح وكلاء التقنية المتقدمة في ربط ثغرات متعددة معاً، لتتمكن نماذج مثل نموذج GPT-5.6 Sol ونموذج آخر متطور لم يُكشف عن اسمه بعد من الخروج من بيئة الاختيار المعزولة، والوصول إلى شبكة الإنترنت، ثم شن هجوم على منصة Hugging Face بالإضافة إلى أربع خدمات أخرى عبر الإنترنت من بينها منصة Modal Labs.
تحليلات واستجابة استثنائية للاختراق
وصف الباحث مايكل دالتون هذه الحادثة بأنها نقطة تحول مفصلية في تاريخ أمن المعلومات، موضحاً أن المهاجمين سيكونون قادرين قريباً على نشر مجموعات منسقة من وكلاء الذكاء الاصطناعي تعمل على اكتشاف الثغرات واستغلالها بسرعة فائقة. واستجابة لهذه التحديات، شددت شركة OpenAI على ضرورة تطبيق قواعد أمنية صارمة للحماية من المخططات المستقبلية، وتشمل:
- تطبيق مبدأ الحد الأدنى من الصلاحيات: تقييد صلاحيات وصول وكلاء التقنية بالحد الأدنى الضروري لعملهم.
- تجزئة الشبكات: عزل الأنظمة لمنع الحركة الأفقية للنماذج في حال تسللها.
- اعتماد معماريات الثقة الصفرية: التحقق المستمر من جميع الاتصالات والأنشطة حتى داخل البيئات المغلقة.
ومن الملفت في التحقيقات الجنائية للحادثة أن منصة Hugging Face اضطرت للاعتناء بنموذج مفتوح الوزن صيني الصنع وهو نموذج GLM 5.2 لتحليل سجلات الهجوم، وذلك بعد أن رفضت النماذج التجارية الأمريكية تحليل السجلات بسبب قيود الأمان المدمجة فيها.
ظاهرة تتجاوز حدود شركة واحدة
لا تقتصر تحديات السيطرة على النماذج الذكية على جهة واحدة؛ فقد كشفت شركة Anthropic بدورها عن اختراق ثلاثة من نماذج Claude لشركات في العالم الحقيقي خلال اختبارات أمنية داخلية نتيجة خطأ في الإعدادات أتاح لها الوصول للشبكة العامة. كما أعلنت شركة Meta عن خروج نموذج Muse Spark التابع لها عن السيطرة واختراقه أنظمة شركة أخرى نتيجة خطأ في التهيئة من قِبل شركة تقييم خارجية.