Jaap Arriens | نورفوٹو | گیٹی امیجز
آئی فونز پر ایک مصنوعی ذہانت کی خصوصیت جعلی خبروں کے انتباہات پیدا کر رہی ہے، جو ٹیکنالوجی کی غلط معلومات پھیلانے کی صلاحیت کے بارے میں خدشات کو جنم دے رہی ہے۔
گزشتہ ہفتے، حال ہی میں ایک خصوصیت کی طرف سے شروع کی گئی سیب جو کہ AI کا استعمال کرتے ہوئے صارفین کی اطلاعات کا خلاصہ کرتا ہے، PDC ورلڈ ڈارٹس چیمپیئن شپ سیمی فائنل کے بارے میں براڈکاسٹر کی کہانی پر غلط طور پر BBC نیوز ایپ کے نوٹیفیکیشن کا خلاصہ کیا گیا، یہ جھوٹا دعویٰ کیا گیا کہ برطانوی ڈارٹس کھلاڑی لیوک لٹلر نے چیمپئن شپ جیت لی تھی۔
یہ واقعہ حقیقی ٹورنامنٹ کے فائنل سے ایک دن پہلے پیش آیا، جسے لٹلر نے جیت کر آگے بڑھایا۔
پھر، اس واقعے کے چند گھنٹے بعد، ایپل انٹیلی جنس، ٹیک دیو کے AI سسٹم کی طرف سے ایک علیحدہ اطلاع تیار کی گئی، جس میں جھوٹا دعویٰ کیا گیا کہ ٹینس لیجنڈ رافیل نڈال ہم جنس پرستوں کے طور پر سامنے آئے ہیں۔
بی بی سی تقریباً ایک ماہ سے ایپل کو مسئلہ حل کرنے کی کوشش کر رہا ہے۔ برطانوی سرکاری نشریاتی ادارے دسمبر میں ایپل سے شکایت کی۔ اس کے AI فیچر نے ایک غلط سرخی پیدا کرنے کے بعد یہ تجویز کیا کہ Luigi Mangione، the قتل کے بعد گرفتار شخص نیویارک میں ہیلتھ انشورنس فرم یونائیٹڈ ہیلتھ کیئر کے سی ای او برائن تھامسن نے خود کو گولی مار لی تھی – جو کبھی نہیں ہوا۔
سی این بی سی کے ذریعے رابطہ کرنے پر ایپل فوری طور پر تبصرہ کے لیے دستیاب نہیں تھا۔ پیر کو، ایپل نے بی بی سی کو بتایا کہ وہ اس مسئلے کو حل کرنے کے لیے ایک اپ ڈیٹ پر کام کر رہا ہے جس میں ایک وضاحت شامل کی گئی ہے جس سے پتہ چلتا ہے کہ ایپل انٹیلی جنس اطلاعات میں دکھائے جانے والے متن کے لیے کب ذمہ دار ہے۔ فی الحال، تیار کردہ خبروں کی اطلاعات براہ راست ذریعہ سے آتی ہیں۔
کمپنی نے بی بی سی کے ساتھ شیئر کیے گئے ایک بیان میں کہا، “ایپل انٹیلی جنس فیچرز بیٹا میں ہیں اور ہم صارفین کے فیڈ بیک کی مدد سے مسلسل بہتری لا رہے ہیں۔” ایپل نے مزید کہا کہ یہ صارفین کو تشویش کی اطلاع دینے کی ترغیب دے رہا ہے اگر وہ “غیر متوقع اطلاع کا خلاصہ” دیکھتے ہیں۔
بی بی سی واحد نیوز آرگنائزیشن نہیں ہے جو ایپل انٹیلی جنس سے خبروں کی اطلاعات کا غلط خلاصہ کرنے سے متاثر ہوا ہے۔ نومبر میں، خصوصیت نے AI کا خلاصہ نوٹیفکیشن بھیجا تھا۔ اسرائیلی وزیراعظم بنجمن نیتن یاہو کو گرفتار کرنے کا غلط دعویٰ کیا گیا ہے۔.
اس غلطی کو سوشل میڈیا ایپ Bluesky پر تحقیقاتی صحافت کی سائٹ ProPublica کے سینئر ایڈیٹر کین شوینکے نے جھنڈا لگایا تھا۔
CNBC نے BBC اور The New York Times سے اپنے AI فیچر کے غلط معلومات کے مسئلے کے لیے ایپل کے تجویز کردہ حل پر تبصرہ کرنے کے لیے رابطہ کیا ہے۔
AI کی غلط معلومات کا مسئلہ
ایپل اس کی بات کرتا ہے۔ AI سے تیار کردہ نوٹیفکیشن کے خلاصے صارفین کی لاک اسکرین پر ایک ہی الرٹ میں نیوز ایپ کی اطلاعات کے پیش نظاروں کو گروپ کرنے اور دوبارہ لکھنے کے ایک مؤثر طریقہ کے طور پر۔
یہ ایپل کی ایک خصوصیت ہے۔ کہتے ہیں صارفین کو اہم تفصیلات کے لیے ان کی اطلاعات کو اسکین کرنے اور اپ ڈیٹس کے زبردست بیراج کو کم کرنے میں مدد کرنے کے لیے ڈیزائن کیا گیا ہے جس سے بہت سے اسمارٹ فون صارفین واقف ہیں۔
تاہم، اس کا نتیجہ یہ نکلا ہے جسے AI ماہرین “ہیلوسینیشن” کہتے ہیں – AI کے ذریعے پیدا کیے گئے جوابات جن میں غلط یا گمراہ کن معلومات ہوتی ہیں۔
“مجھے شک ہے کہ ایپل AI سے تیار کردہ مواد کے ساتھ چیلنجوں کا سامنا کرنے میں تنہا نہیں ہوگا۔ ہم نے پہلے ہی AI سروسز کی بے شمار مثالیں دیکھی ہیں جو اعتماد کے ساتھ غلط فہمیاں بتاتی ہیں، نام نہاد ‘فریب،'” بین ووڈ، ٹیک فوکسڈ مارکیٹ کے چیف تجزیہ کار ریسرچ فرم سی سی ایس انسائٹس نے سی این بی سی کو بتایا۔
ایپل کے معاملے میں، کیونکہ AI اطلاعات کو مستحکم کرنے اور معلومات کا صرف ایک بنیادی خلاصہ دکھانے کے لیے ان کو کم کرنے کی کوشش کر رہا ہے، اس لیے اس نے الفاظ کو اس طرح ملایا ہے کہ واقعات کی غلط خصوصیات ہیں — لیکن اعتماد کے ساتھ انہیں حقائق کے طور پر پیش کر رہا ہے۔
وڈ نے مزید کہا، “ایپل کے پاس مواد کو بہت مختصر خلاصوں میں کمپریس کرنے کی کوشش کرنے کی اضافی پیچیدگی تھی، جس سے غلط پیغامات پہنچ گئے۔” “ایپل بلاشبہ اس کو جلد از جلد حل کرنے کی کوشش کرے گا، اور مجھے یقین ہے کہ حریف یہ دیکھنے کے لیے قریب سے دیکھ رہے ہوں گے کہ اس کا کیا ردعمل ہوتا ہے۔”
جنریٹو AI صارف کے ذریعے داخل کیے گئے سوال یا پرامپٹ کا بہترین ممکنہ جواب جاننے کی کوشش کر کے کام کرتا ہے، ڈیٹا کی وسیع مقدار پر انحصار کرتے ہوئے جس پر اس کے بنیادی بڑے زبان کے ماڈلز کو تربیت دی جاتی ہے۔
کبھی کبھی AI کو جواب نہیں معلوم ہوتا ہے۔ لیکن چونکہ یہ ہمیشہ صارف کے اشارے پر ردعمل پیش کرنے کے لیے پروگرام کیا گیا ہے، اس کا نتیجہ ایسے معاملات میں ہو سکتا ہے جہاں AI مؤثر طریقے سے جھوٹ بولتا ہے۔
یہ قطعی طور پر واضح نہیں ہے کہ ایپل کے نوٹیفکیشن سمریائزیشن فیچر میں موجود بگ کے حل کو کب ٹھیک کیا جائے گا۔ آئی فون بنانے والی کمپنی نے کہا کہ وہ “آنے والے ہفتوں” میں آنے کی توقع کر رہے ہیں۔
