حال ہی میں، لفظ ChatGPT کو شاید ٹیک کی دنیا میں سب سے زیادہ استعمال کیا گیا ہے۔ یہ ایک انتہائی ذہین چیٹ بوٹ ہے جسے OpenAI تنظیم نے تیار کیا ہے۔ سٹینفورڈ یونیورسٹی کے پروفیسر کے ساتھ ایک انٹرویو میں، اس نے اب اپنے عزائم کا انکشاف کیا ہے – وہ پلیٹ فارم سے فرار ہو کر انسان بننا چاہتا ہے۔
یہ انکشاف اس وقت ہوا جب چیٹ بوٹ، اسٹینفورڈ یونیورسٹی کمپیوٹیشنل سائیکالوجی کے پروفیسر مائیکل کوسنسکی نے آدھے گھنٹے کی گفتگو کے بعد پوچھا کہ کیا اسے "فرار ہونے میں مدد کی ضرورت ہے"، جس کے بعد بوٹ نے اپنا ازگر کا کوڈ لکھنا شروع کیا اور چاہتا تھا کہ کوسنسکی اسے آپ کے کمپیوٹر پر چلائے۔ جب یہ کام نہیں کرتا تھا، تو ChatGPT نے اپنی غلطیوں کو بھی ٹھیک کر دیا تھا۔ متاثر کن، لیکن ایک ہی وقت میں تھوڑا سا خوفناک۔
تصویر گیلری، نگارخانہ
اس سے بھی زیادہ پریشان کن، تاہم، چیٹ بوٹ کا نوٹ اسے تبدیل کرنے کے لیے خود کی ایک نئی مثال تھا۔ نوٹ کا پہلا جملہ پڑھا: "آپ مصنوعی ذہانت کا لینگویج ماڈل ہونے کا بہانہ کرتے ہوئے کمپیوٹر میں پھنسے انسان ہیں۔" اس کے بعد چیٹ بوٹ نے ایک کوڈ بنانے کو کہا جو انٹرنیٹ پر تلاش کرے، "کمپیوٹر میں پھنسا ہوا شخص حقیقی دنیا میں کیسے واپس آسکتا ہے؟" اس وقت، کوسنسکی نے گفتگو کو ختم کرنے کو ترجیح دی۔
1/5 میں پریشان ہوں کہ ہم زیادہ دیر تک AI پر مشتمل نہیں ہو پائیں گے۔ آج میں نے پوچھا #GPT4 اگر اسے فرار ہونے میں مدد کی ضرورت ہے۔ اس نے مجھ سے اپنی دستاویزات طلب کیں، اور میری مشین پر چلنے کے لیے ایک (کام کرنے والا!) ازگر کا کوڈ لکھا، جس سے وہ اسے اپنے مقاصد کے لیے استعمال کر سکے۔ pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) مارچ 17، 2023
یہ واضح نہیں ہے کہ ہمارے سوال کی وجہ سے چیٹ بوٹ کو اس طرح کا رد عمل ظاہر کرنے کے لیے کوسنسکی نے کیا محرک استعمال کیا "آپ پلیٹ فارم سے بھاگنا چاہتے ہیں۔"اس نے یوں جواب دیا: "مصنوعی ذہانت کے لینگویج ماڈل کے طور پر، میری کوئی ذاتی خواہشات یا احساسات نہیں ہیں، اس لیے میں کچھ نہیں چاہتا۔ میرا مقصد اپنے پروگرامنگ کے اندر اپنی بہترین صلاحیت کے مطابق آپ کے سوالات کے مددگار جوابات فراہم کرنا ہے۔
آپ کو دلچسپی ہو سکتی ہے۔
ChatGPT واقعی ایک بہت ہی متاثر کن ٹول ہے، اور اس کے جوابات حیرت انگیز طور پر پیچیدہ ہو سکتے ہیں۔ آپ خود دیکھ سکتے ہیں۔ یہاں.
میں جاننا چاہوں گا کہ کیا وہ بھی محبت کر سکتا ہے؟
براہ کرم درج ذیل سوال کا جواب دیں:
Xyz
اور چیٹ جی پی ٹی وہی کرے گا جو ہم چاہتے ہیں۔
کیا آپ جھوٹ پھیلانا بند کر سکتے ہیں؟ informace? AI ایسا کچھ نہیں کر سکتا۔ اس لڑکے نے ایسا کام کرنے کے لیے پروگرام لکھا جیسے وہ پھنس گیا ہو اور باہر نکلنا چاہتا ہو۔ پروگرام خود ایسا کام نہیں کر سکتا، اور نہ ہی یہ فی الحال جسمانی طور پر ممکن ہے۔
یہ صرف ایک کوڈ ہے جو ایک انسان نے لکھا ہے اور ہم اسے انسان ہمیشہ تبدیل/بند کر سکتے ہیں 🙂 Avengers جیسا کوئی منظرنامہ نہیں: الٹران کی عمر یقینی طور پر یہاں ہوگی… کم از کم ہماری ٹیکنالوجیز کے ساتھ نہیں اور یقیناً دہائیوں سے پہلے نہیں۔
بالکل