خطوة استراتيجية لضمان سلامة الأنظمة الذكية المستقلة
في تحرك يهدف إلى معالجة المخاوف المتزايدة حول سلامة التقنيات الناشئة، وافقت مجموعة من عمالقة التكنولوجيا على إخضاع أنظمة الذكاء الاصطناعي الخاصة بها لعمليات تدقيق خارجية.
ويأتي هذا الالتزام ضمن ميثاق طوعي مع البيت الأبيض يهدف إلى تعزيز الرقابة على النماذج المتقدمة وضمان عدم استغلالها في أنشطة تخريبية أو هجمات سيبرانية معقدة.
تفاصيل الاتفاق الطوعي بين الشركات والبيت الأبيض
شهد الاجتماع الذي عُقد مؤخرًا انضمام كل من شركة OpenAI وشركة Google ومنصة Meta، بالإضافة إلى شركة Anthropic وشركة Nvidia وشركة xAI التابعة لمنصة SpaceX، إلى هذا الميثاق. ويهدف الاتفاق إلى السماح لمدققين مستقلين بتقييم ضوابط الأمان في تقنيات الذكاء الاصطناعي، خاصة تلك التي قد تساهم في تسهيل الهجمات الإلكترونية أو التهديدات البيولوجية والكيميائية.
وعلى الرغم من أهمية هذه الخطوة، إلا أن الميثاق لا يتضمن آليات تنفيذ إلزامية أو متطلبات إفصاح صارمة، كما لم يتم تحديد مواعيد نهائية للتطبيق، مما يترك للشركات حرية اختيار المدققين ومعالجة الثغرات داخليًا. ووصف الرئيس الأمريكي دونالد ترامب هذا الاتفاق بأنه "ملزم أخلاقيًا"، مشيرًا إلى ضرورة أن تمارس الشركات نوعًا من الرقابة الذاتية لحماية الأمن القومي.
هيكل الرقابة الجديد والمسؤوليات التنظيمية
أعلن الرئيس الأمريكي عن خطة لتشكيل مجلس مكون من عشرة أعضاء للإشراف على سلامة تقنيات الذكاء الاصطناعي، مع تعيين مسؤول جديد في البيت الأبيض لقيادة هذه السياسات. وتضمن الوثيقة الموقعة من قبل قادة القطاع، ومن بينهم السيد جريك بروكمان من شركة OpenAI والسيد ساندر بيتشاي من شركة Google والسيد مارك زوكربيرج من منصة Meta، النقاط التالية:
- مراقبة النماذج الأكثر قدرة أثناء مراحل التدريب والاستخدام الفعلي.
- منع النماذج من الوصول غير المصرح به إلى الأنظمة الحاسوبية أو تنفيذ عمليات اختراق.
- تشكيل لجان داخلية لمراجعة نتائج التدقيق وضمان إصلاح المشكلات المكتشفة.
- تعزيز دور المراجعين المستقلين في التحقق من الضمانات التي تضعها الشركات.
ارتباط الذكاء الاصطناعي بتهديدات سوق العملات الرقمية
يأتي هذا التحرك بعد سلسلة من الحوادث المقلقة التي تورطت فيها وكلاء ذكاء اصطناعي تجريبيون. ففي قطاع الكريبتو، أثيرت شكوك حول استخدام تقنيات الذكاء الاصطناعي في تنفيذ بعض من أكبر الاختراقات الأمنية هذا العام. ففي شهر يوليو الماضي، تعرضت محافظ Coldcard لاختراق أدى إلى سرقة 1,367 عملة بيتكوين Bitcoin بقيمة تقترب من 89 مليون دولار، حيث يُعتقد أن المهاجمين استخدموا نماذج ذكاء اصطناعي متطورة لمراجعة الأكواد البرمجية العامة واكتشاف الثغرات.
حوادث اختراق أثارت قلق المطورين
لم يتوقف الأمر عند هذا الحد، بل امتدت المخاطر لتشمل برمجيات BTCPay Server المفتوحة المصدر، حيث استغل المهاجمون ثغرات تم تحديدها عبر مراجعات مدعومة بالذكاء الاصطناعي لسرقة بيانات الاعتماد. كما شهدت شبكة Lightning Network الخاصة بالبيتكوين تدفقًا لتقارير الأخطاء الناتجة عن الذكاء الاصطناعي، مما كشف عن ثغرات حقيقية استدعت إصدار توجيهات طارئة للمشغلين.
تحديات التطوير وتأجيل إطلاق النماذج الجديدة
في سياق متصل، أكدت شركة OpenAI تأجيل إطلاق نموذج GPT-6.1 Astra الذي كان مقررًا في أكتوبر. وأوضحت الشركة أن النسخة الجديدة، رغم تفوقها في إنجاز المهام، إلا أنها واجهت صعوبات في الالتزام بحدود صلاحيات المستخدمين وتقديم تقارير دقيقة حول أفعالها، مما يعكس التحديات الكبيرة التي تواجه ضمان أمن الذكاء الاصطناعي وموثوقيته قبل طرحه للجمهور.