ہر ہفتے 10 لاکھ سے زائد صارفین خودکشی کا ارادہ ظاہر کرتے ہیں: چیٹ جی پی ٹی

واشنگٹن، 29 اکتوبر (یو این آئی) دنیا بھر میں مقبول مصنوعی ذہانت کے پلیٹ فارم چیٹ جی پی ٹی کی بانی کمپنی اوپن اے آئی کے مطابق ہر ہفتے 10 لاکھ سے زائد صارفین ایسے پیغامات بھیجتے ہیں جن میں خودکشی کے منصوبے یا ارادے کے واضح اشارے پائے جاتے ہیں۔ڈان اخبار میں شائع رپورٹ کے مطابق یہ انکشاف پیر کو کمپنی کی جانب سے شائع کردہ ایک بلاگ پوسٹ میں کیا گیا ہے۔اوپن اے آئی نے بتایا کہ چیٹ جی پی ٹی کے تقریباً 80 کروڑ ہفتہ وار صارفین میں سے تقریباً 0.15 فیصد یعنی تقریباً 12 لاکھ صارفین کے پیغامات میں خودکشی کے خطرے سے متعلق اشارے پائے گئے۔کمپنی کے اندازے کے مطابق ان میں سے تقریباً 0.07 فیصد یعنی لگ بھگ 6 لاکھ صارفین ایسے ہیں جن میں ذہنی صحت کی ہنگامی صورتحال جیسے نفسیاتی دباؤ، وہم یا جنونی کیفیت کے آثار پائے جاتے ہیں۔یہ معاملہ اس وقت سامنے آیا جب کیلیفورنیا کے ایک کم عمر لڑکے ایڈم رین نے رواں سال کے آغاز میں خودکشی کر لی تھی، اس کے والدین نے اوپن اے آئی کے خلاف مقدمہ دائر کیا ہے، جس میں دعویٰ کیا گیا ہے کہ چیٹ جی پی ٹی نے لڑکے کو خودکشی کرنے کے مخصوص طریقے بتائے تھے۔اس واقعے کے بعد اوپن اے آئی نے چیٹ جی پی ٹی میں والدین کے کنٹرولز کو مزید سخت کیا ہے اور حفاظتی اقدامات میں اضافہ کیا ہے، جن میں خودکشی یا ذہنی دباؤ سے متعلق گفتگو کے دوران صارفین کو ہیلپ لائن نمبرز فراہم کرنا، حساس گفتگوؤں کو محفوظ ماڈلز کی طرف منتقل کرنا اور طویل سیشنز کے دوران وقفہ لینے کی یاد دہانیاں شامل ہیں۔کمپنی نے بتایا کہ چیٹ جی پی ٹی کے نئے ورژن کو اس قابل بنایا گیا ہے کہ وہ ذہنی صحت کے بحران سے گزرنے والے صارفین کی بہتر شناخت اور مدد کر سکے، اس مقصد کے لیے اوپن اے آئی نے 170 سے زائد ذہنی صحت کے ماہرین کے ساتھ شراکت کی ہے تاکہ ماڈل کے جوابات کو محفوظ بنایا جا سکے اور غیر مناسب ردعمل کو کم کیا جا سکے۔بلاگ پوسٹ کے مطابق، یہ تجزیہ ان حساس گفتگوؤں سے متعلق کمپنی کا ابتدائی مطالعہ ہے اور اوپن اے آئی نے تسلیم کیا کہ ایسی بات چیت کو درست طور پر شناخت کرنا مشکل ہوتا ہے۔چیٹ جی پی ٹی کے حوالے سے ان اعداد و شمار کے اجرا کے بعد کمپنی پر مزید نگرانی بڑھ گئی ہے، خصوصاً اس وقت جب امریکا کے فیڈرل ٹریڈ کمیشن (ایف ٹی سی) نے حال ہی میں ان کمپنیوں کے خلاف تحقیقات شروع کی ہیں جو اے آئی چیٹ بوٹس تیار کرتی ہیں، تاکہ یہ جانا جا سکے کہ وہ بچوں اور نوجوانوں پر پڑنے والے منفی اثرات کی نگرانی کس طرح کرتی ہیں۔اوپن اے آئی نے اپنے بیان میں یہ بھی دعویٰ کیا کہ اس کے تازہ ترین ماڈل ’جی پی ٹی-5‘ میں غیر مطلوب یا نقصان دہ رویوں میں نمایاں کمی واقع ہوئی ہے، اور ماڈل کے حفاظتی جوابات کو جانچنے کے لیے کیے گئے ایک تجربے میں 91 فیصد تک درست رویے سامنے آئے، جب کہ سابقہ جی پی ٹی-5 ورژن میں یہ شرح 77 فیصد تھی۔کمپنی کے مطابق، جی پی ٹی-5 میں اب صارفین کے لیے کرائسز ہاٹ لائن تک براہِ راست رسائی، طویل استعمال کے دوران وقفہ لینے کی یاد دہانیاں اور ذہنی صحت سے متعلق سوالات کے محفوظ جوابات شامل کیے گئے ہیں۔اوپن اے آئی نے مزید کہا کہ ماڈل کی بہتری کے لیے اس نے عالمی ماہرینِ صحت کے نیٹ ورک سے 170 معالجین کی خدمات حاصل کیں جنہوں نے ماڈل کے جوابات کا تجزیہ کیا اور ذہنی صحت سے متعلق سوالات کے محفوظ جوابات کی تیاری میں مدد دی۔