شهدت بعض المدارس الأميركية في الآونة الأخيرة حالات تداول صور جنسية مزيفة جرى إنشاؤها باستخدام تقنيات الذكاء الاصطناعي، ونُسبت إلى طلاب حقيقيين، ما أثار قلق إدارات تعليمية وأسر بشأن سلامة البيئة المدرسية وتأثير التكنولوجيا الحديثة على الطلاب.
وتعتمد هذه الصور على تقنيات تُعرف بـ“التزييف العميق”، تتيح تركيب ملامح أشخاص حقيقيين على محتوى مفبرك بدرجة عالية من الواقعية.

ورغم أن هذه الصور لا تعكس وقائع حقيقية، فإن استخدامها في سياق مدرسي يمكن أن يسبب أذى نفسيًا واجتماعيًا للطلاب المعنيين، خاصة عندما تُستعمل في التنمّر أو الإساءة الرقمية.
وأعادت هذه الوقائع النقاش حول مسؤولية المدارس في التوعية بالمخاطر الرقمية، ودور الأسر في متابعة استخدام أبنائهم للتكنولوجيا، إضافة إلى مسؤولية المنصات الرقمية في الحد من إساءة استخدام أدوات الذكاء الاصطناعي.

كما سلطت الضوء على التحديات القانونية المرتبطة بمواكبة تطور تقنيات جديدة تفوق في سرعتها الأطر التشريعية الحالية.
ويرى مختصون أن التعامل مع هذه الظاهرة يتطلب مقاربة شاملة، تشمل التوعية، والدعم النفسي للمتضررين، وتطوير سياسات تعليمية وتشريعية تضمن حماية الطلاب في الفضاءين الرقمي والتربوي.

ولفتت « أسوشييتد برس » إلى أن استعمال التزييف العميق الذي كان خلال السنوات الماضية يتطلّب مهارات تقنية لجعله المقاطع المنتجة بواسطته واقعيةً، صار أسهل بكثير من خلال تطبيقات الذكاء الاصطناعي. ونقلت عن المركز الوطني للأطفال المفقودين والمستغلين، أن عدد التبليغات عن صور مولّدة بواسطة الذكاء الاصطناعي تتضمّن استغلالاً جنسياً للأطفال ارتفع من 4700 صورة عام 2023 إلى 440000 صورة خلال الأشهر الستة الأولى من العام الحالي.