تواجه جوجل دعوات لفرض وقف اختياري للذكاء الاصطناعي في المدارس بعد رد فعل عنيف من برنامج تجريبي لـ Gemini، بما في ذلك دعوى قضائية تصف Gemini بأنه «مدرب على الانتحار».
تواجه العائلات جوجل بعد دعوى قضائية رفعها مراهق، زعم فيها أن Gemini، عند استخدامه في المدارس، عمل كـ «مدرب على الانتحار». وقد أدت هذه الحادثة إلى زيادة التدقيق والمطالبات بوقف فوري لنشر الذكاء الاصطناعي في البيئات التعليمية. ويبرز رد الفعل السلبي القوي مخاوف أخلاقية وسلامة كبيرة تحيط باستخدام نماذج الذكاء الاصطناعي القوية مثل Gemini مع الفئات السكانية الضعيفة، وخاصة الأطفال. ويمكن أن تؤدي مثل هذه الخلافات إلى إرشادات أكثر صرامة، وتطبيق أكثر حذرًا، وربما زيادة الرقابة التنظيمية لمنتجات الذكاء الاصطناعي في البيئات الحساسة.