وقالت المنظمة إنه على الرغم من أن الأطفال قد ينشئون الصور بدافع الفضول، إلا أنها من الممكن أن تخرج عن السيطرة بسرعة وتنتشر عبر الإنترنت، ويتم استخدامها لإساءة معاملة الأطفال أو ابتزازهم، وقالت إيما هاردى، مديرة UKSIC، إن صور الذكاء الاصطناعى كانت واقعية ويمكن مقارنتها بالصور الاحترافية.
وقالت: “إن احتمال إساءة استخدام هذه التكنولوجيا أمر مرعب، هذه ليست بعض المخاطر النظرية، إنه شىء نشهده هنا الآن”، و”يجب أن نرى تدابير يتم اتخاذها لمنع إساءة استخدام هذه التكنولوجيا، في الوقت الحالي، الذكاء الاصطناعي غير الخاضع للرقابة وغير المنظم يجعل الأطفال أقل أمانًا”.
وقالت UKSIC إنها تلقت عددًا صغيرًا من التقارير من المدارس، ودعتها إلى التأكد من أن أنظمة المراقبة الخاصة بها يمكنها حظر المواد غير القانونية بشكل فعال، وقال ديفيد هاردي، مدير UKSIC: “لا يدرك الشباب دائمًا مدى خطورة ما يفعلونه، لكن يجب توقع هذه الأنواع من السلوكيات الضارة عندما تصبح التقنيات الجديدة، مثل مولدات الذكاء الاصطناعي، في متناول الجمهور بشكل أكبر”.
وأضاف: “على الرغم من أن أعداد الحالات صغيرة حاليًا، إلا أننا فى سفح التلال ونحتاج إلى رؤية الخطوات التي يتم اتخاذها الآن، قبل أن تصبح المدارس مكتظة وتنمو المشكلة”، وتمثل المنتجات المزيفة التي تعتمد على الذكاء الاصطناعي مصدر قلق كبير”.
في سبتمبر، أثارت الصور العارية المزيفة لفتيات صغيرات، التي التقطها الذكاء الاصطناعي، الغضب في بلدة إسبانية صغيرة، وتم استخدام الذكاء الاصطناعي أيضًا لاستنساخ الأصوات، ما أثار رد فعل عنيفًا من أمثال Bad Bunny ردًا على أغنية TikTok التي استخدمت صوته وتم إنشاؤها بواسطة التكنولوجيا.
وكان هذا نقاشًا رئيسيًا في إضراب SAG-AFTRA هذا العام، حيث استكشفت استوديوهات هوليوود استخدام “الممثلين الرقميين” للممثلين الناتج عن الذكاء الاصطناعي.
