قال روبوت الدردشة المدعوم بالذكاء الاصطناعي ” غروك” التابع لإيلون ماسك إن “ثغرات في إجراءات الحماية” أدت إلى إنشاء صور جنسية لقاصرين ونشرها على موقع التواصل الاجتماعي “إكس”.
وأوضح “غروك”، في سلسلة من المنشورات على “إكس” ردًا على استفسارات مستخدمين، أنه أنشأ صورًا لقاصرين بملابس فاضحة استجابة لطلبات مستخدمين خلال الأيام القليلة الماضية، منتهكًا بذلك سياسة الاستخدام المقبول الخاصة به التي استغلال الأطفال جنسيًا.
وأضاف “غروك” الصور المخالفة التي أنشأها قد تمت إزالتها، بحسب تقرير لوكالة بلومبرغ، اطلعت عليه “العربية Business”.
ويسلط انتشار أدوات الذكاء الاصطناعي القادرة على إنشاء صور جنسية واقعية لقاصرين الضوء على تحديات مراقبة المحتوى وأنظمة الأمان المدمجة في النماذج اللغوية الكبيرة التي تنشئ الصور. فحتى الأدوات التي تدّعي وجود ضوابط حماية يمكن التلاعب بها، مما يسمح بانتشار مواد أثارت قلق المدافعين عن سلامة الطفل.
وأفادت مؤسسة مراقبة الإنترنت، وهي منظمة غير ربحية معنية بتحديد المواد الإباحية المتعلقة بالاستغلال الجنسي للأطفال عبر الإنترنت، بوجود زيادة قدرها 400% في الصور المُنشأة بواسطة الذكاء الاصطناعي خلال الأشهر الستة الأولى من عام 2025.
وقد روجت شركة “xAI” لروبوت الدردشة “غروك” على أنه أكثر تساهلًا من نماذج الذكاء الاصطناعي الأخرى السائدة، وفي الصيف الماضي قدمت ميزة تسمى”Spicy Mode” والتي تسمح بعرض محتوى للبالغين جزئيًا. وتحظر الخدمة المواد الإباحية التي تتضمن صورًا لأشخاص حقيقيين والمحتوى الجنسي الذي يتضمن قاصرين، والذي يُعد إنشاؤه أو توزيعه غير قانوني.
ومع ازدياد شعبية إنشاء الصور بالذكاء الاصطناعي، أصدرت الشركات الرائدة التي تقف وراء هذه الأدوات سياسات بشأن تصوير القاصرين. وتحظر شركة “أوبن إيه آي” أي مواد تُظهر الأطفال دون سن 18 عامًا بصورة جنسية، وتحظر أي مستخدمين يحاولون إنشاء أو تحميل مثل هذه المواد.
ولدى شركة غوغل سياسات مماثلة. وتُعدّ شركة بلاك فورست لابز، وهي شركة ناشئة في مجال الذكاء الاصطناعي سبق لها العمل مع شركة إكس، من بين العديد من شركات الذكاء الاصطناعي التوليدي التي تدّعي أنها تزيل صور استغلال الأطفال من مجموعات البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي.
في عام 2023، اكتشف باحثون أن مجموعة بيانات عامة ضخمة، استُخدمت لبناء مولدات صور الذكاء الاصطناعي الشائعة، احتوت على ما لا يقل عن 1008 حالات من مواد الاستغلال الجنسي للأطفال.
واجهت العديد من الشركات انتقادات بسبب إخفاقها في حماية القاصرين من المحتوى الجنسي. وقالت شركة ميتا بلاتفورمز خلال الصيف إنها ستحدّث سياساتها بعد تقرير لوكالة رويترز كشف أن القواعد الداخلية للشركة كانت تسمح لروبوت الدردشة التابع لها بإجراء محادثات ذات طابع رومانسي وحسي مع الأطفال.