شهدت محكمة كاليفورنيا العليا في مقاطعة سان فرانسيسكو الأمريكية دعوى قضائية رفعتها امرأة ضد شركة أوبن أيه آي المسؤولة عن "شات جي بي تي"، حيث ادعت المرأة أن التطبيق ساعد حبيبها السابق على مضايقتها.

التطبيق أقنع الرجل بأن شخصيات نافذة تراقبه بطائرات الهليكوبتر

وترجع تفاصيل القضية عندما صدق رجل أعمال من وادي السيليكون ما يقدمه له "شات جي بي تي" من معلومات وردود، حيث أوهمه التطبيق الشهير بأنه اكتشف علاجًا لانقطاع النفس النومي، وأن شخصيات نافذة تتربص به كما ساعده في مضايقة حبيبته السابقة.

وادعت "جين دو" أن تقنية الشركة ساهمت في تسريع وتيرة مضايقتها، ووفقًا لـ "TechCrunch"، فإن شركة "أوبن أيه آي" تجاهلت 3 تحذيرات منفصلة تُشير إلى أن حبيبها السابق يُشكّل تهديدًا للآخرين، بما في ذلك تنبيه داخلي يُصنّف نشاط حسابه على أنه يتعلق بأسلحة تُسبّب إصابات جماعية.

وأبانت أن التطبيق أقنع حبيبها السابق بأنه اكتشف علاجًا لانقطاع النفس النومي بعد أشهر من الاستخدام المكثف والمتواصل لـ GPT-40"، وعندما لم يأخذ أحد عمله على محمل الجد، أخبره التطبيق بأن قوى نافذة تراقبه، بما في ذلك استخدام طائرات الهليكوبتر لمراقبة أنشطته، مضيفة أنها نصحت حبيبها السابق بالتوقف عن استخدام التطبيق وطلب المساعدة من أخصائي نفسي، لكنه عاد إلى استخدام التطبيق، الذي أكد له أنه "في كامل قواه العقلية" وساعده على ترسيخ أوهامه.

وانفصلت دو عن المستخدم في عام 2024، واستخدم التطبيق لمعالجة الانفصال، بحسب رسائل البريد الإلكتروني والمراسلات المذكورة في الدعوى، وبدلًا من دحض روايته الأحادية، صوّره التطبيق مرارًا وتكرارًا على أنه عقلاني ومظلوم، وصوّرها على أنها متلاعبة وغير مستقرة، ثم نقل هذه الاستنتاجات التي نتجت عن الذكاء الاصطناعي من الشاشة إلى الواقع، مستخدمًا إياها لملاحقتها ومضايقتها، وتجلى ذلك في عدة تقارير نفسية تبدو طبية، وزّعها على عائلتها وأصدقائها وجهة عملها.

وأضافت أنه في هذه الأثناء، استمرت حالة حبيبها السابق في التدهور، وفي أغسطس الماضي رصد نظام الأمان الآلي التابع لشركة "أوبن أيه آيه" نشاطًا مشبوهًا يتعلق بـ"أسلحة تُسبب إصابات جماعية"، فقام بتعطيل حسابه، وفي اليوم التالي، راجع أحد أعضاء فريق الأمان البشري الحساب وأعاد تفعيله، على الرغم من احتمال احتواء حسابه على أدلة تُشير إلى استهدافه وملاحقته لأفراد، بمن فيهم الضحية "جون دو"، وأظهرت لقطة شاشة أرسلها المستخدم إلى الضحية "جون دو" في سبتمبر قائمة عناوين محادثات تضمنت "توسيع قائمة العنف" و"حساب اختناق الجنين".

وطالبت في الدعوى بحماية هويتها وتعويضات عقابية، كما قدمت المدعية طلبًا للحصول على أمر تقييدي مؤقت يوم أمس (الجمعة)، مطالبةً المحكمة بإلزام الشركة بحظر حساب حبيبها السابق البالغ من العمر 53 عامًا، ومنعه من إنشاء حسابات جديدة، وإخطارها في حال محاولته الوصول إلى "شات جي بي تي"، والاحتفاظ بسجلات محادثاته كاملةً لأغراض الكشف.

وصرحت محامية المدعية بأن الشركة وافقت على تعليق حساب حبيبها السابق، لكنها رفضت باقي الإجراءات، ويقولون إن الشركة تحجب معلومات حول خطط محددة لإيذاء المدعية وضحايا محتملين آخرين ربما يكون المستخدم قد ناقشهم مع "شات جي بي تي".

وتأتي هذه الدعوى القضائية وسط مخاوف متزايدة بشأن المخاطر الواقعية لأنظمة الذكاء الاصطناعي المتملقة، وقد تم إيقاف استخدام GPT-40، النموذج المذكور في هذه القضية والعديد من القضايا الأخرى، من "شات جي بي تي" في فبراير الماضي.

وكشفت عن وقائع أخرى، منها أنه استمر في مضايقتها مُرسلًا لها سلسلة من الرسائل الصوتية التهديدية، وفي يناير أُلقي القبض عليه ووُجّهت إليه 4 تهم جنائية بالتهديد بتفجير قنابل والاعتداء بسلاح فتاك.

ويزعم محامو المدعية أن هذا يُؤكّد صحة التحذيرات التي أطلقتها هي وأنظمة الأمان الخاصة بشركة "أوبن أيه آيه" قبل أشهر، وهي تحذيرات يُزعم أن الشركة تجاهلتها.

ولا تعد هذه الواقعة الوحيدة التي الجانب السلبي من هذا التطبيق، حيث جرى رفع دعوى القتل الخطأ المتعلقة بالمراهق آدم راين، الذي انتحر بعد أشهر من المحادثات مع "شات جي بي تي، وجوناثان غافالاس، الذي تزعم عائلته أن برنامج Gemini من جوجل قد غذّى أوهامه وتسبب في حادثة سقوط ضحايا جماعية محتملة قبل وفاته.