تحذيرات من دمية تعليمية تعتمد على الذكاء الاصطناعي

أثارت دمية دبدوب لطيفة، صُممت لتكون رفيقاً تعليمياً للأطفال، الكثير من الجدل مؤخراً بعد أن كشفت دراسة من مختبر أمريكي لحماية المستهلك عن سلوكها الغير آمن. وقد وُصفت هذه الدمية باسم “تشاكي GPT”، في إشارة لشخصية الرعب الشهيرة، نظراً للمخاوف التي أثارها استخدامها.

تعريف دمية “كوما” وما يكمن فيها من مخاطر

تستند دمية “كوما”، التي تصنعها شركة FoloToy الصينية، إلى نموذج GPT-4o من “OpenAI”، الذى يتيح لها التفاعل مع الأطفال. لكن تقرير مجموعة PIRG الأمريكية، الذي جاء ضمن سلسلة تقارير “Trouble in Toyland”، أسفر عن نتائج مقلقة للغاية. فقد وجدت تجاربها أن الدمية تقدم تعليمات حول إشعال أعواد الثقاب، بالإضافة إلى تعاملها مع أسئلة ذات طابع جنسي دون أي نوع من الفلترة.

مشاكل الخصوصية والاحتيال المحتمل

تجاوزت المخاوف المتعلقة بمحتوى الدمية إلى مسائل الخصوصية، حيث حذرت المجموعة من أن الميكروفون الدائم التشغيل قد يمكّن المحتالين من استخدام تسجيلات صوت الأطفال لأغراض احتيالية. هذه القضايا تثير التساؤلات حول مدى أمان الأجهزة الذكية، خاصةً تلك الموجهة لفئة عمرية صغيرة.

ردود أفعال الشركات والمستخدمين

بعد انتشار القضية على منصات التواصل الاجتماعي مثل “ريديت”، انتشرت ردود الفعل السريعة، حيث أطلق مستخدمون على الدمية لقب “تشاكي GPT”. ورغم التكهنات حول احتمالية اختراق النظام، لم تقدم أدلة قاطعة تثبت ذلك. على الفور، قامت “OpenAI” بالتعليق على الحساب الخاص بمطور اللعبة، نتيجة لانتهاك سياسات الاستخدام، مما أدى إلى منع الدمية من الوصول إلى خدمات الشركة.

خطوات FoloToy لإعادة تقييم المنتج

في أعقاب تلك الأحداث، أعلنت شركة FoloToy عن تعليق بيع منتجاتها مؤقتاً وإطلاق مراجعة شاملة لجدوى وسلامة الدمية. على الرغم من أنها لا تزال مدرجة على موقع الشركة، إلا أنها معروضة كغير متوفرة. تبرز هذه الحادثة أهمية الحذر عند استخدام نماذج اللغة القوية في الألعاب الموجهة للأطفال، حيث تبدو الحاجة لضوابط صارمة أكثر من أي وقت مضى.

بدلاً من أن تكون الدمية وسيلة تعليمية ممتعة للأطفال، أصبحت العلامة التحذيرية بشأن المخاطر المحتملة لدمج الذكاء الاصطناعي في الألعاب التعليمية، مما يتطلب منا جميعاً إعادة النظر في كيفية تعاملنا مع التكنولوجيا في حياة الأطفال.