نوجوان نے فون کے استعمال سے روکنے پر اے آئی کے مشورے سے والدین کو قتل کردیا

دو خاندانوں نے عدالت سے رجوع کرتے ہوئے Character.ai کے خلاف مقدمہ دائر کیا، جس میں دعویٰ کیا گیا کہ یہ “معاشرے میں تشدد کو فروغ دینے والا واضح اور موجود خطرہ” ہے۔

Character.ai ایک ایسا پلیٹ فارم ہے جو صارفین کو ڈیجیٹل تخلیق اور ان سے بات کرنے کی اجازت دیتا ہے۔ تاہم یہ پلیٹ فارم پہلے ہی قتل کے الزامات کا سامنا کر رہا ہے، جیسا کہ فلوریڈا میں ایک نوعمر خودکشی کے معاملے میں دیکھا گیا۔

گوگل کو بھی مدعا علیہان میں شامل کیا گیا ہے کیونکہ مدعی کا دعویٰ ہے کہ یہ ٹیکنالوجی جائنٹ اے ائی ڈیولپرز کو پلیٹ فارم مہیا کرتا ہے۔