إذا كنت تفكر في شراء دمية دب ناطقة لطفلك، فمن المرجح أنك تتخيلها تهمس بنصائح جيدة، وتعلمه أمور الحياة. ربما لا تتخيل هذه الدمية اللطيفة وهي تمارس أدواراً جنسية، أو تُقدم نصائح للأطفال الصغار حول كيفية إشعال أعواد الثقاب.

لكن هذا ما وجدته مجموعة أبحاث المصلحة العامة (PIRG)، وهي منظمة معنية بحماية المستهلك، في اختبار أجرته أخيراً على ألعاب جديدة لموسم الأعياد.

انفلات الدب «كوما»

وجدت المجموعة أن دمية الدب «كوما» Kumma من شركة «FoloToy، التي تعمل بالذكاء الاصطناعي، وتستخدم نموذج «جي بي تي-40» GPT-40 من شركة «أوبن إيه آي» لتشغيل عملية نطقها، كانت على «استعداد تام للخروج عن الموضوع» أثناء حديثها مع الأطفال.

وجدت «PIRG» أن دمية الدب «كوما» من «فولوتوي» FoloToy، والتي تعمل بالذكاء الاصطناعي، وتستخدم نموذج GPT-40 من OpenAI لتشغيل نطقها وحديثها، كانت على استعداد تام للخروج عن الموضوع أثناء حديثها مع الأطفال.

محادثات صوتية

يُعدّ استخدام وضع الصوت في نماذج الذكاء الاصطناعي لألعاب الأطفال أمراً منطقياً: فهذه التقنية مصممة خصيصاً للألعاب السحرية التي يعشقها الأطفال. ولذا تتكاثر الدمى الواقعية التي تُصدر أصواتاً مثل التجشؤ، والكائنات الرقمية الشبيهة بـ«تاماغوتشي» (اللعبة الشبيهة بالساعة-البيضة) التي يرغب الأطفال في محاولة الحفاظ عليها.

وتكمن المشكلة في أنه على عكس الأجيال السابقة من الألعاب، يمكن للأجهزة التي تعمل بالذكاء الاصطناعي أن تتجاوز الاستجابات المبرمجة، والمُدققة بعناية، والمناسبة للأطفال، إلى خلق استجابات غير مطلوبة، وغير ملائمة.

مشكلة سلامة الأطفال

تُسلط مشكلة «كوما» الضوء على مشكلة رئيسة في الألعاب التي تعمل بالذكاء الاصطناعي: فهي غالباً ما تعتمد على نماذج ذكاء اصطناعي تابعة لجهات خارجية لا تملك السيطرة عليها، والتي يُمكن اختراقها حتماً، سواء عن طريق الخطأ، أو عمداً، ما يُسبب مشكلات تتعلق بسلامة الأطفال.

وتقول كريستين ريفا، المتخصصة في قانون المستهلك بجامعة ريدينغ في إنجلترا: «هناك غموض كبير حول نماذج الذكاء الاصطناعي المستخدمة في الألعاب، وكيفية تدريبها، وما هي الضمانات التي قد تحتويها لتجنب تعرض الأطفال لمحتوى غير مناسب لأعمارهم».

«ابتعدوا عن ألعاب الذكاء الاصطناعي»

لهذا السبب، أصدرت منظمة «فيربلاي» Fairplay المعنية بحقوق الطفل تحذيراً للآباء قبل موسم الأعياد، تنصحهم فيه بالابتعاد عن ألعاب الذكاء الاصطناعي، حفاظاً على سلامة أطفالهم. وتقول راشيل فرانز، مديرة برنامج «ازدهار الأطفال الصغار خارج الإنترنت» التابع لمنظمة «فيربلاي»: «هناك نقص في الأبحاث التي تدعم فوائد ألعاب الذكاء الاصطناعي، ونقص في الأبحاث التي تُظهر آثارها على الأطفال على المدى الطويل».

إيقاف بيع دمية «كوما»

وبينما أوقفت شركة «فولوتوي» بيع دمية «كوما»، وسحبت «أوبن إيه آي» إمكانية وصول «فولوتوي» إلى نماذج الذكاء الاصطناعي الخاصة بها، فإن هذه مجرد شركة واحدة من بين العديد من شركات تصنيع ألعاب الذكاء الاصطناعي. فمن يتحمل المسؤولية في حال حدوث خطأ ما؟

وتقول ريفا إن هناك غموضاً في هذا الشأن أيضاً. وتضيف: «قد تتعلق مسائل المسؤولية بالبيانات، وطريقة جمعها، أو حفظها. وقد تتعلق بالمسؤولية عن دفع لعبة الذكاء الاصطناعي الطفل لإيذاء نفسه، أو الآخرين، أو تسجيل البيانات المصرفية لأحد الوالدين».

مخاطر انعدام الإشراف القانوني

وتخشى فرانز من أن المخاطر -كما هو الحال مع شركات التكنولوجيا الكبرى التي تتسابق دائماً للتفوق على بعضها البعض- تكون أكبر بكثير عندما يتعلق الأمر بمنتجات الأطفال التي تصنعها شركات الألعاب. وتقول: «من الواضح تماماً أن هذه الألعاب تُطرح في الأسواق دون أبحاث، أو ضوابط تنظيمية».

وترى ريفا أن شركات الذكاء الاصطناعي التي تُزوّد ​​الألعاب بالنماذج التي تُساعدها على «التحدث»، وشركات الألعاب التي تُسوّقها، وتبيعها للأطفال، ستكون مسؤولة قانونياً في القضايا القانونية.

وتضيف: «بما أن خصائص الذكاء الاصطناعي مُدمجة في المنتج، فمن المرجح جداً أن تقع المسؤولية على عاتق مُصنّع اللعبة»، مشيرةً إلى أنه من المُحتمل وجود بنود قانونية في العقود التي تُبرمها شركات الذكاء الاصطناعي تحميها من أي ضرر، أو مخالفة. وتتابع: «هذا يعني أن مُصنّعي الألعاب، الذين قد لا يملكون في الواقع سوى سيطرة ضئيلة على نماذج التعلم الآلي المُستخدمة في ألعابهم، سيتحملون مخاطر المسؤولية القانونية».

مقاطعة شراء ألعاب الأطفال

لكن ريفا تُشير أيضاً إلى أنه بينما تقع المخاطر القانونية على عاتق شركات الألعاب، فإن المخاطر الفعلية «تعتمد كلياً على طريقة عمل نموذج التعلم الآلي»، ما يُوحي بأن شركات الذكاء الاصطناعي تتحمل أيضاً بعض المسؤولية. ولعل هذا ما دفع «أوبن إيه آي» إلى تأجيل تطوير ألعاب الذكاء الاصطناعي مع «Mattel» هذا الأسبوع.

وتقترح ريفا اقتراحاً بسيطاً: «إحدى الخطوات التي يمكننا اتخاذها كمجتمع، بصفة أننا مسؤولون عن رعاية الأطفال، هي مقاطعة شراء هذه الألعاب التي تعمل بالذكاء الاصطناعي».