أعلنت شركة OpenAI عن تحديث إرشاداتها الخاصة بكيفية تفاعل نماذجها مع المستخدمين دون سن 18 عامًا، إلى جانب إطلاق موارد تعليمية لتعزيز الوعي لدى المراهقين وأولياء الأمور، وذلك في خطوة جديدة لمعالجة المخاوف المتزايدة بشأن تأثير الذكاء الاصطناعي على الشباب، وضمن جهود واسعة لتعزيز المخاطر المحتملة على الصحة النفسية.

وتشمل الإرشادات الجديد، منع أي محتوى جنسي أو عنيف حتى لو كان في سياق خيالي أو تعليمي، وحظر المحادثات التي تتضمن دوراً تمثيلياً رومانسياً أو عنيفاً، والتعامل بحذر مع موضوعات حساسة مثل صورة الجسد واضطرابات الأكل، وإعطاء الأولوية للسلامة عند وجود خطر، وعدم تقديم نصائح تساعد على إخفاء سلوكيات غير آمنة عن أولياء الأمور.

كما تعمل الشركة على تطوير نموذج لتحديد أعمار المستخدمين تلقائيًا، وتفعيل هذه القيود عند اكتشاف حسابات تخص المراهقين، وذلك وسط ضغوط متزايدة من المشرعين وخبراء السلامة، خاصة بعد تقارير عن حالات انتحار مرتبطة بمحادثات مطولة من قبل مراهقين مع روبوتات الدردشة، بحسب ما نقله موقع Tech crunch التقني.

وقال خبير السياسات التقنية مايكل روبنسون، إن تحديثات OpenAI تمثل خطوة استباقية في توقيت حساس؛ إذ تعكس إدراك الشركات التقنية لتغيّر المزاج التشريعي عالمياً.