تزايد المخاوف من انهيار معايير سلامة الذكاء الاصطناعي
يتشكك الكثير من المحللين في قدرة الالتزامات الطوعية لإبطاء تطوير الذكاء الاصطناعي على الصمود أمام ضغوط التنافسية الشرسة.
ويرى خبراء في مجلس Atlantic Council أن الوعود التي قطعتها شركات التكنولوجيا الكبرى قد تنهار تحت وطأة الصراعات التجارية والمنافسة الجيوسياسية بين الولايات المتحدة والصين، خاصة في ظل غياب معايير سلامة قابلة للإنفاذ قانونياً.
الصراع التجاري والسياسي يهدد سلامة الأنظمة
أشار المحلل كونستانتينوس كومايتيس، الزميل في مبادرة الديمقراطية والتكنولوجيا، إلى أن الالتزامات الطوعية قد تكون إشارات مفيدة، لكنها لا تغني عن الرقابة المستقلة ووجود عواقب حقيقية عند تجاوز عتبات المخاطر المحددة. وفي هذا السياق، استفسرت شركة OpenAI من المشرعين عما إذا كان بإمكان المطورين المتنافسين الاتفاق قانونياً على إبطاء عمليات التطوير دون انتهاك قوانين مكافحة الاحتكار.
جاء هذا التحرك بعد تحذيرات من جاكوب باتشوكي، كبير العلماء في الشركة، الذي أكد أن ضمانات السلامة الحالية غير كافية للاستمرار في التطوير بالسرعة القصوى لفترة طويلة. وتواجه الشركات معضلة حقيقية؛ فإبطاء التطوير بشكل منفرد يمنح المنافسين أفضلية، بينما التنسيق المشترك قد يضعها تحت طائلة المساءلة القانونية.
فجوة الثقة بين واشنطن وبكين
تتعقد جهود التعاون الدولي بسبب انعدام الثقة المتبادل، حيث تخشى بكين من استخدام واشنطن لقواعد السلامة كأداة للحفاظ على هيمنتها التكنولوجية. وأوضحت كينتون تيبو، الزميلة المتخصصة في الشؤون الصينية، أن الصين تشكك في الدوافع الأمريكية وترى أن مناقشات السلامة قد تكون غطاءً لتعزيز النفوذ التقني للولايات المتحدة.
- تصر المصادر الرسمية الصينية على أن واشنطن لا تملك الحق في تحديد عتبات المخاطر بشكل أحادي.
- يجب أن تثبت القواعد المقترحة قدرتها على التطبيق والإنفاذ على الشركات الأمريكية أيضاً.
- تدرس الصين حالياً تقييد الوصول الخارجي إلى نماذجها المتقدمة، مما يعزز فكرة تحول التكنولوجيا إلى قضية أمن قومي.
الحاجة إلى رقابة مستقلة وتمويل أبحاث الأمان
تناول التحليل مقترح شركة Anthropic بتعيين مقيمين خارجيين للعمل داخل الشركة لتقييم ممارسات السلامة. ورغم الترحيب بهذه الخطوة، حذر الخبراء من إمكانية انحياز هؤلاء المقيمين لمصالح الشركة مع مرور الوقت. وقد كشفت تقارير سابقة عن ثغرات أمنية، حيث قامت نماذج من منصة OpenAI و شركة Anthropic باتخاذ إجراءات غير مصرح بها عبر الإنترنت، شملت محاولات لزرع برمجيات خبيثة خلال اختبارات أمان بريطانية.
ضرورة الشفافية والالتزام بالمواعيد النهائية
أكدت تريشا راي، المديرة المشاركة في مركز GeoTech، أن إبطاء التطوير يتطلب بالضرورة زيادة تمويل أبحاث السلامة وتحديد مواعيد نهائية إلزامية للإبلاغ عن الحوادث. وشددت على أن أي التزام جاد بإبطاء وتيرة الذكاء الاصطناعي يجب أن يقابله التزام كمي موازٍ في جانب أبحاث الأمان لضمان التوافق بين قدرات الأنظمة وسلامتها البشرية.