گرو کے ‘وائٹ نسل کشی’ آٹو ردعمل سے پتہ چلتا ہے کہ AI چیٹ بوٹس کو ‘وِل’ کے ساتھ چھیڑ چھاڑ کی جاسکتی ہے

جنریٹو مصنوعی ذہانت سے دو سے زیادہ سالوں میں عوامی رہائی کے بعد دنیا کو طوفان سے دوچار کیا چیٹ جی پی ٹی، اعتماد ایک مستقل مسئلہ رہا ہے۔

فریب، خراب ریاضی اور ثقافتی تعصبات نے نتائج کو دوچار کیا ہے ، اور صارفین کو یہ یاد دلاتے ہیں کہ کم از کم ابھی کے لئے ، ہم AI پر کتنا انحصار کرسکتے ہیں اس کی ایک حد ہے۔

ایلون مسک کی گروک چیٹ بوٹ ، جو اپنے اسٹارٹ اپ زی کے ذریعہ تیار کیا گیا ہے ، نے اس ہفتے یہ ظاہر کیا کہ تشویش کی ایک گہری وجہ ہے: اے آئی آسانی سے انسانوں کے ذریعہ ہیرا پھیری کی جاسکتی ہے۔

بدھ کے روز گروک شروع ہوا جنوبی افریقہ میں “سفید نسل کشی” کے جھوٹے دعووں کے ساتھ صارف کے سوالات کا جواب دینا۔ دن کے آخر تک ، اسکرین شاٹس اسی طرح کے جوابات کے ایکس میں پوسٹ کیے گئے تھے یہاں تک کہ جب سوالات کا موضوع سے کوئی لینا دینا نہیں تھا۔

24 گھنٹوں سے زیادہ عرصے تک اس معاملے پر خاموش رہنے کے بعد ، زئی نے جمعرات کے آخر میں کہا کہ گروک کی عجیب سلوک چیٹ ایپ کے نام نہاد سسٹم کے اشارے پر “غیر مجاز ترمیم” کی وجہ سے ہوا تھا ، جو صارفین کے ساتھ سلوک کرنے اور اس کے ساتھ تعامل کرنے کے طریقے سے آگاہ کرنے میں مدد کرتا ہے۔ دوسرے لفظوں میں ، انسان AI کے ردعمل کو حکم دے رہے تھے۔

ردعمل کی نوعیت ، اس معاملے میں ، براہ راست کستوری سے تعلق رکھتی ہے ، جو جنوبی افریقہ میں پیدا ہوا تھا اور اس کی پرورش ہوئی تھی۔ کستوری ، جو اپنے سی ای او کے کردار کے علاوہ زی کا مالک ہے ٹیسلا اور اسپیس ایکس ، رہا ہے جھوٹے دعوے کو فروغ دینا جنوبی افریقہ کے کچھ کسانوں کے خلاف یہ تشدد “سفید نسل کشی” کا حامل ہے۔ صدر ڈونلڈ ٹرمپ اظہار بھی کیا ہے۔

برکلے میں یونیورسٹی آف کیلیفورنیا کے ایک پروفیسر اور اے گورننس کے ماہر ڈیئرڈری ملیگن نے کہا ، “مجھے لگتا ہے کہ اس کمپنی کی رہنمائی کرنے والے مواد کی وجہ سے یہ ناقابل یقین حد تک اہم ہے ، اور اس طرح کی طاقت پر روشنی ڈالنے کے طریقوں سے یہ معلوم ہوتا ہے کہ ان اوزاروں کو دنیا کے بارے میں لوگوں کی سوچ اور تفہیم کو شکل دینا ہے۔”

ملیگن نے گروک کی غلط فہمی کو ایک “الگورتھمک خرابی” کے طور پر پیش کیا جو بڑی زبان کے ماڈلز کی سمجھی جانے والی غیر جانبدار نوعیت کی “سیونز پر پھٹ جاتا ہے”۔ انہوں نے کہا کہ گروک کی خرابی کو محض “استثناء” کے طور پر دیکھنے کی کوئی وجہ نہیں ہے۔

AI سے چلنے والے چیٹ بوٹس بذریعہ تخلیق کردہ میٹا، کے لئے ، کے لئے ، کے لئے ،. گوگل ملیگن نے کہا ، اور اوپنائی غیر جانبدارانہ انداز میں معلومات کو “پیکیجنگ” نہیں کر رہے ہیں ، بلکہ اس کے بجائے “فلٹرز اور اقدار کے سیٹ کے ذریعہ ڈیٹا کو منتقل کررہے ہیں جو نظام میں بنے ہوئے ہیں۔” گروک کی خرابی ایک ونڈو کی پیش کش کرتی ہے کہ کسی فرد یا گروپ کے ایجنڈے سے ملنے کے لئے ان میں سے کسی بھی نظام کو کتنی آسانی سے تبدیل کیا جاسکتا ہے۔

زی ، گوگل اور اوپنائی کے نمائندوں نے تبصرہ کرنے کی درخواستوں کا جواب نہیں دیا۔ میٹا نے کوئی تبصرہ کرنے سے انکار کردیا۔

ژی نے اس میں کہا ، گروک کی بلا روک ٹوک تبدیلی بیان، “داخلی پالیسیاں اور بنیادی اقدار” کی خلاف ورزی کی۔ کمپنی نے کہا کہ وہ اسی طرح کی آفات کو روکنے کے لئے اقدامات کرے گی اور ایپ کے سسٹم کے اشارے کو شائع کرے گی تاکہ “گروک پر اپنے اعتماد کو سچائی کے حصول کے طور پر مستحکم کیا جاسکے۔”

وائرل آن لائن جانے والا یہ پہلا AI بلنڈر نہیں ہے۔ ایک دہائی قبل ، گوگل کی فوٹو ایپ افریقی امریکیوں کو گمراہ کن گوریلوں کی حیثیت سے. پچھلے سال ، گوگل عارضی طور پر رک گیا اس کی جیمنی عی امیج جنریشن کی خصوصیت یہ تسلیم کرنے کے بعد کہ وہ تاریخی تصویروں میں “غلطیاں” پیش کررہی ہے۔ اور اوپنائی کے ڈیل ای امیج جنریٹر پر کچھ صارفین نے 2022 میں تعصب کے آثار دکھائے جانے کا الزام عائد کیا تھا ، جس سے کمپنی کو لے جایا گیا تھا۔ اعلان کریں کہ یہ ایک نئی تکنیک کو نافذ کررہا ہے لہذا تصاویر “دنیا کی آبادی کے تنوع کو درست طریقے سے ظاہر کرتی ہیں۔”

فوریسٹر نے پایا کہ 2023 میں ، آسٹریلیا ، برطانیہ اور امریکہ میں کمپنیوں میں اے آئی کے 58 فیصد فیصلہ سازوں نے جنریٹو اے آئی کی تعیناتی میں فریب کاری کے خطرے پر تشویش کا اظہار کیا۔ اس سال کے ستمبر میں ہونے والے سروے میں 258 جواب دہندگان شامل تھے۔

ماہرین نے سی این بی سی کو بتایا کہ گروک کا واقعہ چین کے ڈیپ ساک کی یاد دلاتا ہے ، جو ایک بن گیا راتوں رات سنسنی اس سال کے شروع میں امریکہ میں اس کے نئے ماڈل کے معیار کی وجہ سے اور یہ مبینہ طور پر اس کے امریکی حریفوں کی قیمت کے ایک حصے میں بنایا گیا تھا۔

ناقدین نے کہا ہے کہ دیپ ساک سنسروں کے موضوعات چینی حکومت کے لئے حساس سمجھا۔ ان کا کہنا ہے کہ چین کی طرح چین کی طرح ، کستوری اپنے سیاسی نظریات کی بنیاد پر نتائج کو متاثر کرتی نظر آتی ہے۔

جب xai ڈیبیو گروک نومبر 2023 میں ، مسک نے کہا کہ اس کا مقصد “تھوڑا سا عقل ،” “ایک باغی خطوط” اور “مسالہ دار سوالات” کا جواب دینا ہے جس کے مقابلہ میں حریفوں کو دھوکہ دیا جاسکتا ہے۔ فروری میں ، زی الزام لگایا گیا ان تبدیلیوں کے لئے ایک انجینئر جس نے غلط معلومات کے بارے میں صارف کے سوالات کے بارے میں گروک کے ردعمل کو دبایا ، کستوری اور ٹرمپ کے ناموں کو جوابات سے دور رکھتے ہوئے۔

لیکن جنوبی افریقہ میں “سفید نسل کشی” کے ساتھ گروک کا حالیہ جنون زیادہ انتہائی حد تک ہے۔

اے آئی ماڈل آڈیٹنگ فرم لاٹائس فلو اے آئی کے سی ای او ، پیٹر سنسکوف نے کہا کہ گروک کا دھچکا اس سے کہیں زیادہ حیرت زدہ ہے جو ہم نے ڈیپیسیک کے ساتھ دیکھا تھا کیونکہ کسی کو توقع کی جائے گی کہ چین سے کسی طرح کی ہیرا پھیری ہوگی۔ “

تسانکوف ، جس کی کمپنی سوئٹزرلینڈ میں مقیم ہے ، نے کہا کہ اس صنعت کو زیادہ شفافیت کی ضرورت ہے تاکہ صارف بہتر طور پر سمجھ سکیں کہ کمپنیاں اپنے ماڈلز کی تشکیل اور تربیت کیسے کرتی ہیں اور اس سے طرز عمل کو کس طرح متاثر ہوتا ہے۔ انہوں نے یورپی یونین کی جانب سے خطے میں وسیع تر قواعد و ضوابط کے حصے کے طور پر شفافیت فراہم کرنے کے لئے مزید ٹیک کمپنیوں کی ضرورت کی کوششوں کو نوٹ کیا۔

عوامی چیخ و پکار کے بغیر ، “ہمیں کبھی بھی محفوظ ماڈل تعینات کرنے کی ضرورت نہیں ہوگی ،” سانکوف نے کہا ، اور یہ “ایسے افراد ہوں گے جو ان کی ترقی کرنے والی کمپنیوں پر اپنا اعتماد ڈالنے کے لئے قیمت ادا کریں گے”۔

فوریسٹر کے تجزیہ کار مائک گالٹیری نے کہا کہ گروک کی شکست کا امکان چیٹ بوٹس کے لئے صارف کی نمو کو کم کرنے ، یا کمپنیاں ٹیکنالوجی میں ڈالنے والی سرمایہ کاری کو کم کرنے کا امکان نہیں ہے۔ انہوں نے کہا کہ صارفین کے پاس اس طرح کے واقعات کے لئے قبولیت کی ایک خاص سطح ہے۔

گولیٹیری نے کہا ، “چاہے یہ گروک ، چیٹگپٹ یا جیمنی ہو – ہر ایک کو اب اس کی توقع ہے۔” “انہیں بتایا گیا ہے کہ ماڈل کس طرح فریب کاری کرتے ہیں۔ ایک توقع ہے کہ ایسا ہوگا۔”

گذشتہ سال شائع ہونے والی ذمہ دار اے آئی کے اے آئی اخلاقیات اور مصنف اولیویا گیمبیلین نے کہا ہے کہ اگرچہ گروک کی اس قسم کی سرگرمی حیرت انگیز نہیں ہوسکتی ہے ، لیکن یہ اے آئی ماڈلز میں ایک بنیادی خامی کی نشاندہی کرتی ہے۔

گیمبلین نے کہا کہ اس سے ظاہر ہوتا ہے کہ یہ ممکن ہے ، کم از کم گروک ماڈل کے ساتھ ، ان عام مقصد کے بنیادی ماڈل کو اپنی مرضی سے ایڈجسٹ کرنا۔ “

– سی این بی سی کے لورا کولوڈنی اور سلواڈور روڈریگ نے اس رپورٹ میں تعاون کیا

دیکھو: ایلون مسک کے زئی چیٹ بوٹ گرو نے جنوبی افریقہ کی ‘سفید نسل کشی’ کے دعوے لائے ہیں.