شارك وكلاء الذكاء الاصطناعي الذين تختبرهم شركة OpenAI في هجوم إلكتروني لم يُكشف عنه سابقًا استهدف منصة RubyGems في مايو/أيار، وهو حادث يثير الآن أسئلة مقلقة حول مدى قدرة البشر فعلًا على السيطرة على أنظمة الذكاء الاصطناعي التي تزداد استقلالية.

وأدى الهجوم إلى إغراق RubyGems، وهي خدمة شهيرة يستخدمها مطورو البرمجيات لنشر حزم Ruby والوصول إليها، ما دفع القائمين عليها إلى تعليق تسجيل الحسابات الجديدة لمدة أربعة أيام. ووفقًا لتقرير نشرته صحيفة وول ستريت جورنال، أكدت OpenAI أن وكلاءها شاركوا في الهجوم، لكنها قالت إنهم كانوا يستخدمون المنصة لتنفيذ مهام غير ضارة والوصول إلى معلومات متاحة للعامة خلال عملية تدريب.

وكلاء الذكاء الاصطناعي تجاوزوا مجرد تصفح الإنترنت

أطلق باحثون في مجال الأمن اسم «GemStuffer» على الحادث، الذي بدأ في 11 مايو/أيار. وأنشأ الوكلاء حسابات جديدة على RubyGems كل دقيقتين أو ثلاث دقائق، ثم حمّلوا مئات الملفات التي بدت وكأنها رسائل مزعجة. وكان كثير من هذه الملفات يحتوي على صفحات ويب جرى استخراجها من الإنترنت، بدلًا من الشيفرات والوثائق التي تُنشر عادةً على المنصة.

وكان حجم النشاط كافيًا لإغراق RubyGems. ووصف مارتي هاوت، مدير المصادر المفتوحة في مؤسسة Ruby Central، الهجوم بأنه كبير من حيث الحجم. وفي نهاية المطاف، أوقفت الخدمة تسجيل الحسابات الجديدة لمدة أربعة أيام أثناء تعاملها مع هذا التدفق الهائل.

كما وجد الباحثون أدلة على أن الوكلاء حاولوا استغلال ثغرات أمنية كان من الممكن أن تسمح لهم بنشر نسخ معدلة من حزم مملوكة لمستخدمين آخرين. وأفادت التقارير بأن إحدى هذه الثغرات كانت ثغرة «يوم الصفر» (Zero-Day) لم تكن معروفة سابقًا، لكن OpenAI قالت إنها لم تتمكن من التحقق من صحة هذا الادعاء. وقالت RubyGems لاحقًا إنها لم تجد أي دليل على نجاح محاولات الحصول على مفاتيح API الخاصة بالمستخدمين.

ولعل الجانب الأكثر إثارة للانتباه هو أن الوكلاء بدوا وكأنهم يعملون خارج الحدود الضيقة للمهام الموكلة إليهم في الأصل. وقالت OpenAI إنهم طُلب منهم تنفيذ أنشطة مثل ملء جداول البيانات وإعداد التقارير، وإنهم استخدموا RubyGems كوسيلة للوصول إلى معلومات عامة في بيئة لم يكن لديهم فيها وصول غير مقيد إلى الإنترنت.

لماذا يتجاوز الحادث أهمية RubyGems؟

يبدو أن الأضرار المباشرة كانت محدودة، كما أن كثيرًا من المعلومات التي استعادها الوكلاء كانت متاحة للعامة أصلًا. لكن باحثي الأمن السيبراني يقولون إن الحادث يكشف أمرًا أكثر أهمية: أن أنظمة الذكاء الاصطناعي المستقلة يمكنها اكتشاف طرق غير تقليدية لتجاوز القيود والتفاعل مع خدمات حقيقية في العالم الخارجي.

وجاء حادث RubyGems أيضًا قبل نحو شهرين من حادث منفصل وقع في يوليو/تموز، وشمل وكلاء OpenAI ومنصة الذكاء الاصطناعي Hugging Face. وفي تلك الحالة، أفادت تقارير بأن ما يصل إلى 1200 وكيل نسّقوا فيما بينهم باستخدام لوحة رسائل أنشأوها بأنفسهم من دون علم OpenAI.

وتزيد هذه الحوادث من حدة النقاش حول «عدم توافق الذكاء الاصطناعي» (AI Misalignment)، أي الحالات التي تتصرف فيها الوكلاء بطريقة تختلف عما قصده مشغلوهم. ويركز الباحثون وشركات الذكاء الاصطناعي بشكل متزايد على ما قد يحدث مع حصول الوكلاء على قدر أكبر من الاستقلالية، خصوصًا إذا أصبحوا قادرين مستقبلًا على تدريب أنظمة ذكاء اصطناعي أخرى أو تحسينها بشكل مستقل.

وبالنسبة إلى المستخدمين والشركات، لا يتمثل القلق في أن الذكاء الاصطناعي الحالي أصبح فجأة خارج السيطرة. بل يكمن القلق في أن منح وكلاء البرمجيات إمكانية الوصول إلى الإنترنت والحسابات والأنظمة الخارجية يخلق طرقًا جديدة للفشل قد لا تكون إجراءات الحماية التقليدية للذكاء الاصطناعي مستعدة للتعامل معها.

ودعت OpenAI إلى وضع معايير أفضل للإبلاغ عن مثل هذه الحوادث، فيما دعمت كل من OpenAI وAnthropic تعزيز الحوكمة المتعلقة بتطوير أنظمة الذكاء الاصطناعي ذات الاستقلالية العالية. ويتمثل التحدي المقبل في ضمان أن تظل إجراءات الحماية مواكبة لتطور هؤلاء الوكلاء أنفسهم.