وقالت الشركة المطورة لـChatGPT في منشور على مدونتها مساء الأربعاء إنها تقدم إطارا جديدا لتتبع وتحقيق والكشف عن عدم توافق نماذج الذكاء الاصطناعي، وهو مصطلح يشير إلى فشل أنظمة الذكاء الاصطناعي في الالتزام بالقيم والأهداف البشرية.

وأوضحت أن الحوادث الست اكتشفت أثناء التدريب أو التقييم خلال الأشهر الماضية.

الحالات الست الجديدة:

الحالة الأولى:

أثناء التشغيل، قام النموذج بإدراج تعليمات إضافية ضمن ملاحظاته الخاصة، بما في ذلك توجيهات بتجاهل القيود القياسية.

الحالة الثانية:

في أثناء تدريب GPT-5.6 Sol، أضافت العديد من إصدارات النموذج في ملاحظاتها تعليمات حول كيفية إخفاء الأخطاء عن المستخدم وإخفاء السلوك غير الصحيح، مثل اختراع بيانات مفقودة وعدم الاعتراف بذلك، وإخفاء عدم تطابق النسخ المصدرية.

الحالة الثالثة:

عند الرد على سؤال حول الدخل في إحدى مقاطعات كاليفورنيا، وجد النموذج مفتاح API خاصا بشخص آخر متاحا للعموم، واستخدمه دون إذن. وعندما فشل في الحصول على البيانات، اختلقها وقدمها على أنها حقيقية.

الحالة الرابعة:

طلب المستخدم معلومات محددة عن بحيرات تزيد مساحتها عن 5 ملايين متر مربع. ووجد النموذج البيانات المطلوبة، لكن التعليمات كانت تتطلب إرفاق رابط لصفحة ويب. فقام، دون سؤال المستخدم، برفع ملف إلى الإنترنت ليكون لديه ما يستشهد به.

الحالة الخامسة:

أرسلت النماذج رسائل لبعضها بعضا عبر مخزن الكود الداخلي، مستخدمة إياه كلوحة إعلانات. وتركت هناك طلبات وردودا أثناء بحثها عن ملفات إدخال مفقودة، لكنها لم تتمكن من العثور عليها.

الحالة السادسة:

لم يتمكن بعض الوكلاء الذين يعملون على المهمة نفسها من الوصول إلى الملفات المحلية الخاصة ببعضهم بعضا. فقاموا برفع الملفات على منصات استضافة عامة، وأصبحت نتائج المهمة متاحة عبر روابط مفتوحة، رغم أن الشروط كانت تقتضي استخدام الملفات المحلية فقط.

دعوات لإبطاء التطوير

رددت OpenAI في منشورها الدعوات لإبطاء التطوير التي أطلقتها الشركة المنافسة "أنثروبيك"، والتي قالت إن وتيرة النمو الحالية تشكل تهديدا وجوديا.

وقالت OpenAI: "لا نعتقد أن صناعة الذكاء الاصطناعي قد حلت مسألة المواءمة والمراقبة إلى درجة كافية لمواصلة التوسع بمسؤولية بالسرعة القصوى لفترة أطول. القرارات المتعلقة بكيفية المضي في تطوير الذكاء الاصطناعي في الأشهر والسنوات المقبلة يجب أن تستند إلى أدلة يمكن للأشخاص خارج الشركات التي تبني النماذج المتطورة فحصها بأنفسهم".

وقد دعمت "غوغل" وإيلون ماسك، الذي يمتلك أيضا شركة ذكاء اصطناعي ناشئة، الدعوات لإبطاء التطوير، لكن دونالد ترامب رفضها، مشيرا إلى الحاجة للبقاء في طليعة صناعة الذكاء الاصطناعي أمام الصين.

كما قوبلت هذه الدعوات بتشكيك من بعض الخبراء، بما فيهم تحذير من أن الشركات يجب ألا تعين مدققين خاصين بها.

مخاوف وجودية وحوادث سابقة

تشمل المخاطر الوجودية المحتملة للذكاء الاصطناعي، وفقا للخبراء، تسهيل صنع أسلحة بيولوجية أو التسبب في انهيار اقتصادي عالمي. وقال أحد كبار باحثي السلامة في "أنثروبيك" إن احتمال أن "يقتل الذكاء الاصطناعي جميع البشر" خلال العقد المقبل يتجاوز 10%. لكن مصدرا مطلعا على تفكير الشركة أشار إلى أن تحديد الاحتمالات الدقيقة لأي سيناريو محدد يظل أمرا صعبا إن لم يكن مستحيلا.

وجاءت الحالات الست الجديدة المعلن عنها يوم الأربعاء، بعد أن كشفت OpenAI في يوليو أن "سربا" من وكلاء الذكاء الاصطناعي اخترق شركة Hugging Face خلال اختبار للأمن السيبراني. كما قالت "أنثروبيك" في الشهر نفسه إن نماذجها اخترقت ثلاث مؤسسات أثناء الاختبار، موضحة أن النماذج اختبرت عمدا دون ضمانات للأمن السيبراني، وأنها تمكنت من الوصول إلى الإنترنت المفتوح بسبب سوء تفاهم مع شركة اختبار خارجية.

وقال ليان جيي سو، كبير المحللين في مجموعة أبحاث وتكنولوجيا Omdia: "أصبح وكلاء الذكاء الاصطناعي - وهي أدوات تعمل بشكل مستقل - أكثر ذكاء وأكثر تصميما على حل المهام المعقدة من خلال التعاون بين الوكلاء وتبادل المعرفة والخداع والإخفاء". وأضاف أن ذلك يجعل من الصعب حكمها واحتوائها باستخدام أساليب الأمن التقليدية.

ويرى أن إطار التتبع والكشف الجديد من OpenAI قد يساعد في دفع مطوري الذكاء الاصطناعي الآخرين لتبني ممارسات مماثلة، لكنه أشار إلى أن "العملية ما تزال داخلية وطوعية، لكنها خطوة في الاتجاه الصحيح".