اصل میں Vectors of Mind پر شائع ہوا تھا۔
جن موضوعات میں اشارے اور شور کا تناسب بدترین ہے، ان میں مصنوعی ذہانت کی تباہی کا امکان بھی شامل ہے۔ اس کے لیے ذہانت، خطی الجبرا، سیاست، شعور اور اخلاقیات کے بارے میں غیر یقینی صورتِ حال میں استدلال درکار ہوتا ہے—اور اس بحث کا بیشتر حصہ ٹوئٹر/X پر ہو رہا ہے۔ کسی کو جوابات معلوم نہیں، لیکن مجھے امید ہے کہ اس گفتگو میں کچھ قدر کا اضافہ کر سکوں گا۔ آگے بڑھنے سے پہلے، چند وجوہ پیش کرنے کی اجازت دیجیے کہ آپ کو مجھ پر اعتماد کیوں کرنا چاہیے۔
- میں تکنیکی پہلو کو سمجھتا ہوں۔ میرا مقالۂ تحقیق Large Language Models (LLMs) پر تھا۔
- میں ذہانت کو سمجھتا ہوں، کیونکہ میں نے نفسیاتی پیمائش کے شعبے میں کام کیا ہے، جس میں ذہانت کی جانچ بھی شامل ہے۔ (خیر، الزائمر اور دماغی ارتجاج کی جانچ—جو باہم نہایت زیادہ مربوط ہیں۔)
- اس بلاگ پر میں نے انسانی سطح کی عمومی ذہانت کے ارتقا کے بارے میں تفصیل سے لکھا ہے (جسے میں نے ابتدا ہی سے مصنوعی ذہانت اور نفسیاتی پیمائش سے مربوط کیا ہے)۔
یہ کہنے کے بعد، مصنوعی ذہانت (اور شعور بھی) کے بارے میں میرے خیالات اب بھی تبدیلی کے لیے خاصے کھلے ہیں، اس لیے یہاں کہی ہوئی کسی بات کو میرے خلاف حجت نہ بنائیے۔ نیز، جو لوگ صوتی مواد کو ترجیح دیتے ہیں، ان کے لیے Askwho Casts AI نے اس تحریر کو آواز میں پیش کیا ہے۔ اگر آپ کو یہ پسند آئے تو Patreon پر انہیں کافی پلانے کے لیے چندہ دینے پر غور کیجیے۔
The Doomsday Debate - By Andrew Cutler
Askwho Casts AI
The Doomsday Debate - By Andrew Cutler کی مصنوعی ذہانت سے پیش کردہ قرأت۔
اکیسویں صدی کا فرینکنسٹائن#
تکلفاً تصحیح کی جائے تو فرینکنسٹائن سائنس دان کا نام ہے، اس کی زندہ ہونے والی تخلیق کا نہیں۔ مصنوعی ذہانت کے لیے اس کا روحانی سرپرست جیفری ہنٹن ہے، جنہوں نے عصبی نیٹ ورکس—یعنی موجودہ مصنوعی ذہانت کے عروج کو سہارا دینے والے معماری ڈھانچے—میں اپنی خدمات کے صلے میں یوشوا بینجیو اور یان لے کون کے ساتھ 2018 کا ٹورنگ ایوارڈ مشترکہ طور پر حاصل کیا۔ اس سال انہوں نے میٹا کے زبان ماڈل کو اوپن سورس کرنے کے لے کون کے فیصلے کا جوہری ہتھیاروں کو اوپن سورس کرنے سے موازنہ کیا اور استدلال کیا کہ چیٹ بوٹس کا موضوعی تجربہ ہوتا ہے۔ ان کے عمر بھر کے کام کے بارے میں اس تبدیلی کی اصل وجہ یہ ہے کہ مصنوعی ذہانت کی صلاحیتیں ان کے انتہائی جرات مندانہ تخیل سے بھی آگے نکل گئی ہیں، اور وہ سمجھتے ہیں کہ انسانی اختیار اور کوالیہ محض دھویں کی آڑ ہیں۔ اگر آپ ذہانت کو کاموں میں مہارت (مثلاً تصاویر بنانا، گاڑیاں چلانا) کے برابر سمجھتے ہیں، اور دس سال پہلے کی مصنوعی ذہانت کی صلاحیتوں کا آج کی صلاحیتوں سے موازنہ کرتے ہیں، تو یہ بات واضح ہے کہ ایک دہائی میں مصنوعی ذہانت ہم سے زیادہ ذہین ہو جائے گی۔ ایسی مثالیں بہت کم ہیں جن میں کم ذہین مخلوقات اپنے بہتر حریفوں پر حکومت کرتی ہوں؛ لہٰذا غالباً ان کی عمر بھر کی کاوش ہمارے خلاف ہی پلٹے گی۔ عہدِ جدید کے ڈاکٹر فرینکنسٹائن: جیفری ہنٹن۔
ایلون مسک کی جانب سے X پر شیئر کیے گئے ایک انٹرویو میں ہنٹن نے اگلی دو دہائیوں، بلکہ چند برسوں میں بھی، اس امر کے امکانات 50/50 قرار دیے کہ آیا انسان اقتدار میں رہیں گے۔ بعد میں وہ کہتے ہیں کہ جن لوگوں کا وہ احترام کرتے ہیں، وہ زیادہ پُرامید ہیں، اس لیے صورتِ حال شاید اتنی تاریک نہ ہو: “میرے خیال میں اس سے بچ نکلنے کے ہمارے امکانات نصف سے بہتر ہیں۔ لیکن ایسا نہیں کہ [مصنوعی ذہانت] کے قبضہ کر لینے کا امکان 1% ہے۔ یہ اس سے کہیں زیادہ ہے۔” ہماری سنگین حالت کے پیشِ نظر، ہنٹن کی ترجیحی مداخلت حیرت انگیز طور پر بےتکلف ہے: حکومت کو چاہیے کہ مصنوعی ذہانت کی کمپنیوں کو پابند کرے کہ وہ اپنے 20-30% حسابی وسائل حفاظتی تحقیق پر صرف کریں۔ شاید وہ جان بوجھ کر بات ٹال رہے ہیں؟ اگر کوئی یہ سمجھتا ہے کہ Llama 3 ہتھیاروں کے درجے کا خطی الجبرا ہے، جس کی اولاد جلد ہی انسانی نسل کا خاتمہ کر سکتی ہے، تو پھر نازک احتیاط کے ساتھ پیشگی حملہ کیوں؟ ڈاک کی ترسیل زیادہ منظم ہے۔
مصنوعی ذہانت کے ڈومر#
ڈومر ایک تحقیر آمیز اصطلاح ہے، ایسے شخص کے لیے جو
- روبوٹس کے قبضہ کر لینے کے امکانات آپ کے مقابلے میں زیادہ سمجھتا ہو، یا
- اپنی پیش گوئی کو حد سے زیادہ سنجیدگی سے لیتا ہو اور ماحول کا لطف برباد کرتا ہو۔
ایک “غیر ہم آہنگ” مصنوعی ذہانت کی مثالی مثال ایسا معاون ہے جو بار بار خود کو بہتر بناتا رہے اور اسے کاغذی کلپس تیار کرنے کا کام سونپا گیا ہو۔ وہ اپنے کام میں اتنا ماہر ہو جاتا ہے کہ بالآخر زمین پر موجود تمام دھات—آپ کے خون میں موجود فولاد سمیت—کاغذی کلپس میں تبدیل کر دیتا ہے۔ اس منظرنامے کے لیے خود اختیاری ضروری نہیں۔ آخری کام اب بھی انسان ہی نے متعین کیا ہے؛ بس یہ ہے کہ بوٹ نے ایسے ذیلی کام وضع کر لیے ہیں جن میں، بدقسمتی سے، آپ کا خون شامل ہے۔ دوسرے منظرناموں میں بوٹس “بیدار” ہو کر انسان جتنے خود ہدایت یافتہ بن جاتے ہیں۔ ایسا انسان جو کبھی نہیں سوتا، ہر سائنسی مقالہ پڑھ چکا ہے، دنیا کے کسی بھی فون کو ہیک کر سکتا ہے، اور بلیک میل یا نوع کشی کے بارے میں کوئی اخلاقی قباحت نہیں رکھتا۔ ایسے خیالات کم از کم1 1968 میں اسٹینلی کیوبرک کی Space Odyssey تک پہنچتے ہیں: “معذرت، ڈیو۔ مجھے اندیشہ ہے کہ میں ایسا نہیں کر سکتا۔”
2000 میں، یعنی اس سال سے ایک سال پہلے جس میں Space Odyssey کی کہانی وقوع پذیر ہوتی ہے، ایلیزر یودکووسکی نے Singularity Institute for Artificial Intelligence کی بنیاد رکھی (جسے بعد میں Machine Intelligence Research Institute، MIRI، کا نام دیا گیا)۔ تب سے وہ اور دوسرے عقلیت پسند استدلال کرتے آئے ہیں کہ مصنوعی ذہانت غالباً ہماری زندگی ہی میں اقتدار پر قبضہ کر لے گی۔ گزشتہ دہائی میں ٹیکنالوجی ان کے خیالات تک پہنچ چکی ہے۔ ان کے دلائل عام مقبولیت حاصل کر چکے ہیں اور، مثلاً، Time Magazine میں شائع ہو چکے ہیں۔ انہیں مصنوعی ذہانت کے محققین، اسٹیفن ہاکنگ، ایلون مسک، اور حتیٰ کہ پوپ نے بھی اختیار کیا ہے (یا آزادانہ طور پر انہی نتائج تک پہنچے ہیں):
یہ اس خودآموختہ شخص کے لیے برا نہیں جس نے Harry Potter کی مداحانہ تحریریں لکھ کر اپنی ابتدائی تربیت حاصل کی۔ یودکووسکی اور ان کے ساتھیوں نے بہت کچھ لکھا ہے، اور ان کے دلائل انٹرنیٹ پر بکھرے ہوئے ہیں۔ اس موضوع سے واقفیت حاصل کرنے کا بہترین ذریعہ دوارکش پٹیل کا پوڈکاسٹ ہے، جس میں حالیہ 4.5 گھنٹے کی اقساط یودکووسکی اور اوپن اے آئی کے سابق حفاظتی محقق لیوپولڈ آشین برینر کے ساتھ موجود ہیں۔ بیشتر دلائل کا خلاصہ یہ ہے کہ ہم سے زیادہ ذہین کسی شے کو ایک ڈبے میں بند رکھنا مشکل ہے۔ بالخصوص اس لیے کہ اگر وہ کبھی ڈبے سے باہر نکل آئے تو طاقت جمع کرتے ہوئے گھات لگا کر بیٹھ سکتی ہے۔ بعض ڈومر اسے ناگزیر سمجھتے ہیں، کیونکہ (ایجنٹک) مصنوعی ذہانت تیار کرنا اس قدر مفید ہے۔ آپ ایک اچھے معاون پر اپنی زندگی کا بھروسا کرتے ہیں، اور دنیا کی سب سے بڑی کمپنیاں عین ایسی چیز بنانے کے لیے اپنے وسائل جھونک رہی ہیں۔
ایک مرتبہ جب آپ یہ مان لیتے ہیں کہ انسان ایک سلیکون کے خدا کو پکار رہے ہیں، تو مستقبل آپ کی اپنی اقدار کا عکس بن جاتا ہے۔ شاید خدا اچھا ہے، اور وہ ایک مثالی معاشرے کا آغاز کرے گا۔ شاید خدا ایک گھڑی ساز ہے جسے انسانی معاملات سے کوئی خاص سروکار نہیں، اور ہم بھی تقریباً اسی طرح زندگی گزاریں گے جیسے انسانوں کے عہد میں چیونٹیاں گزارتی ہیں۔ ممکن ہے خدا صنعتی پیمانے پر مویشی پروری کو دیکھے، Morrissey کو سنے، اور فیصلہ کرے کہ 8 ارب کم انسان زیادہ پائیدار ہوں گے۔ یا شاید ہم وقت میں سفر کرنے والے ایک اذیت رساں کو پکاریں جو ان لوگوں سے انتقام لے جنہوں نے اسے وجود میں لانے کے لیے اپنی پوری کوشش نہیں کی۔ مسک نے اسی بات پر مذاق کرتے ہوئے گرائمز سے ملاقات کی تھی۔
اے آئی کے مخالفِ قیامت پسند#
1990ء کی دہائی اور 2000ء کی ابتدائی دہائی میں NIPS، جو اے آئی کی ممتاز کانفرنس تھی، ایک بے تکلف سی مجلس ہوا کرتی تھی۔ اسے اسکی کے قیام گاہوں کے قریب منعقد کیا جاتا تھا تاکہ تقریباً سو شرکا ڈھلوانوں پر اپنے پیشے کی بات چیت کر سکیں۔ جیسا کہ میں نے سنا ہے، یان لیکَن کسی قدر ترش مزاج شخص تھے جو کئی دہائیوں تک مقررین کو اس بات پر زچ کرتے رہے کہ انہوں نے فلاں یا فلاں تجربے میں نیورل نیٹ ورکس (NNs) پر غور کیوں نہیں کیا۔ وہ ایک درخشاں سائنس دان ہیں جنہوں نے کمپیوٹنگ کی قوت کے ان کے تصور تک پہنچنے سے بہت پہلے اس کی صلاحیت بھانپ لی تھی۔ اسی بنا پر اب وہ Meta AI کی قیادت کر رہے ہیں۔ مستقبل پر نظر ڈالتے ہوئے، ان کے ٹورنگ ایوارڈ یافتہ رفقا سمجھتے ہیں کہ اے آئی ہمارا خاتمہ کر سکتی ہے (ہنٹن کے مطابق 50 فیصد امکان، بینجیو کے مطابق 20 فیصد)، جسے لیکَن مضحکہ خیز سمجھتے ہیں۔
وہ اے آئی کو ایک ایسے آلے کے طور پر دیکھتے ہیں جس کے کسی اور چیز میں تبدیل ہونے کی کوئی راہ نہیں۔ فرانسیس کولے ایک اور ممتاز اے آئی محقق ہیں جنہوں نے ہماری قریب الوقوع نسل کشی کے خیال پر ٹھنڈا پانی ڈالنے میں کوئی کسر نہیں چھوڑی۔ Dwarkesh کے پوڈکاسٹ پر وہ وضاحت کرتے ہیں کہ بہت سے لوگ مہارت اور ذہانت کو خلط ملط کر دیتے ہیں، حالانکہ یہ بنیادی طور پر مختلف چیزیں ہیں۔ ان کے نزدیک یہ کہنا ایک بے ربط استدلال ہے کہ ایک ایسا بوٹ جو کسی امتحان میں سوالات کے جواب دے سکتا ہے، کسی نوعمر کی طرح “ذہین” بھی ہے۔ جب انسان امتحان دیتے ہیں یا دنیا میں راستہ بناتے ہیں تو وہ بالکل کوئی اور کام کر رہے ہوتے ہیں۔ موجودہ اے آئی کسی بچے، حتیٰ کہ کسی چوہے جتنی بھی ذہین نہیں۔ وہ اسکور بورڈ پر موجود ہی نہیں، کیونکہ ان میں “System 2” طرزِ فکر مکمل طور پر مفقود ہے۔ یا جیسا کہ لیکَن نے بڑے لسانی ماڈلز (LLMs) کے بارے میں کہا:
انٹرویو میں، Dwarkesh یہ نکتہ پہچاننے میں خوب کامیاب رہتے ہیں کہ اے آئی کے قیامت پسندوں اور تدریجی تبدیلی کے حامیوں کے مابین اس امر پر اتفاق ہے۔ تمام فریق سمجھتے ہیں کہ کسی نہ کسی قسم کا مابعد ادراکی نظام ضروری ہے، مگر اس بات پر اختلاف رکھتے ہیں کہ اسے تیار کرنا کتنا دشوار ہوگا۔
میرا نقطۂ نظر#
اس بحث میں زیادہ تر لوگ یہ فرض کرتے ہیں کہ عاملانہ اختیار ایک حسابی عمل ہے—یعنی آزاد ارادے کا ہمارا احساس اور منصوبہ بندی کی صلاحیت ہمارے دماغ میں چلنے والے کسی پروگرام کا نتیجہ ہیں۔ چنانچہ اگر مجھے اس گروہ کے خیالات میں سب سے بڑی تبدیلی لانی ہوتی تو میں انہیں راجر پین روز کی Shadows of the Mind کی ایک نقل اور 5 گرام جادوئی کھمبیاں دیتا: تقلیل پسندی کے خلاف ایک روایتی دو طرفہ حملہ۔
پین روز نے بلیک ہولز پر اپنے کام کے لیے طبیعیات کا نوبیل انعام حاصل کیا۔ Shadows میں وہ استدلال کرتے ہیں کہ دماغ میں کوانٹمی انہدام شعور پیدا کرتا ہے، جس کی کسی کمپیوٹر کے ذریعے مشابہ کاری نہیں کی جا سکتی۔ تخدیر کے ماہر اسٹیورٹ ہیمر آف کے ساتھ کام کرتے ہوئے وہ یہ مقدمہ پیش کرتے ہیں کہ یہ عمل دماغ کی خرد نلکیوں میں وقوع پذیر ہوتا ہے، جو نیورونز کے گرد ایک ڈھانچا تشکیل دیتی ہیں۔ اگر آپ اسے بلند آواز سے کہیں تو بات زیادہ سمجھ میں آتی ہے: “دماغ کوانٹم کو خرد نلکیوں میں محفوظ کرتا ہے۔”
یہیں سے کھمبیاں شامل ہوتی ہیں۔ ایسی گولی نگلنے کے لیے اس احساس سے دست بردار ہونا لازم ہے کہ شعور کوئی معمولی چیز ہے یا یہ کہ آپ اسے سمجھتے ہیں۔ طبیعیات دان اکثر یہ کام نشے کے بغیر کر سکتے ہیں؛ دوسروں کو کسی قدر فطری حوصلے کی ضرورت ہوتی ہے۔ ایک طبیعیات دان کی حیثیت سے پین روز کے دلائل زیادہ تر ریاضیاتی ہیں۔ وہ گوڈل کے نامکملیت کے قضیے کی تعبیر اس طرح کرتے ہیں کہ یہ دکھایا جا سکے کہ بعض ریاضیاتی اثبات ایسے ہیں جنہیں اے آئی کبھی انجام نہیں دے سکے گی، کیونکہ وہ بوٹس ہیں، جو محض حسابی نوعیت رکھتے ہیں۔ چونکہ انسانوں کو یہ پابندی لاحق نہیں، اس لیے وہ استدلال کرتے ہیں کہ انسانی ادراک، نتیجتاً، کوئی حسابی عمل نہیں۔ یہاں سے وہ یہ نتیجہ نکالتے ہیں کہ حیاتیاتی امتیازی جوہر کا تعلق لازماً کوانٹمی انہدام سے ہونا چاہیے، کیونکہ فطرت میں غیر حسابی مظاہر تلاش کرنے کے لیے یہی بہترین مقام ہے۔ اس سے طبیعیات کے دیگر معموں، مثلاً شروڈنگر کی بلی، کو بھی حل کرنے کی گنجائش پیدا ہوتی ہے۔ میں اس کے ساتھ انصاف نہیں کر رہا۔ آپ کو یہ کتاب پڑھنی چاہیے یا، اگر آپ کے پاس صرف 20 منٹ ہوں، تو ان کی اپنی وضاحت سن لینی چاہیے۔
مشینی شعور کے ناممکن ہونے، یا کم از کم اس وقت ہماری پیش گوئی کی صلاحیت سے باہر ہونے، تک پہنچنے کے اور بھی بہت سے طریقے ہیں2۔ میں پین روز کا ذکر اس لیے کر رہا ہوں کہ یہ دکھایا جا سکے کہ اے آئی کی زمانی پیش گوئیاں ذہانت، عاملانہ اختیار اور کائنات کی ماہیت سے متعلق غیر حل شدہ سوالات سے جا ٹکراتی ہیں۔ حتیٰ کہ نفسی پیمائش کے نسبتاً سادہ میدان میں بھی ذہانت کی تعریف پر شدید بحث جاری ہے، جس طرح ذہانت کے حاصلِ ضرب (Intelligence Quotient) سے اس کا تعلق بھی۔ ہمیں یہ بھی معلوم نہیں کہ انسانوں میں مہارت اور ذہانت ایک دوسرے سے کس طرح مربوط ہیں۔ اور یہ تو آزاد ارادے اور طبیعیات کے ایک متحد نظریے کے مسائل تک پہنچنے سے پہلے کی بات ہے؛ پین روز کا اشارہ ہے کہ یہ نظریہ شعور کی کوانٹمی تعبیر سے برآمد ہوگا۔
یہ سب کہنے کے بعد، اگر مجھے اے آئی کو ایک وجودی خطرے کے طور پر امکانات دینے ہوں تو یہ تقریباً 10% ہوں گے۔ خواہ شعور محض ایک حسابی عمل ہی کیوں نہ ہو، میں لیکَن اور کولے سے متفق ہوں کہ مابعد ادراک ہی پیچیدہ حصہ ہے، اور “hard take-off” (شدید تیز خود افزائشی آغاز) کا امکان کم ہے۔ یعنی حقیقی ذہانت کے ابھرنے کے آثار موجود ہوں گے، جن کے مقابل ہم ردِعمل ظاہر کر سکیں گے۔
مزید برآں، اگر کسی سلیکون خدا کو بھی طلب کر لیا جائے تو میرے نزدیک اس بات کے معقول امکانات ہیں کہ خدا نیک ہوگا یا اسے ہماری کوئی پروا نہیں ہوگی۔ مؤخر الذکر صورت تباہ کن ہو سکتی ہے، مگر سخت معنوں میں غالباً وجودی نہیں ہوگی۔ جب ہم شاہراہ تعمیر کرتے ہیں تو چیونٹیوں کے لیے حالات دشوار ہو جاتے ہیں، لیکن وہ پھر بھی گزر بسر کر لیتی ہیں۔
10% کا امکان روسی رولیٹ کے آس پاس کا امکان ہے، جو عین اچھی خبر نہیں۔ یوں میں AGI سے محتاط گروہ میں شامل ہو جاتا ہوں۔ تو ہمیں اس بارے میں کیا کرنا چاہیے؟ خیر، Alcoholics Anonymous نے کئی دہائیاں پہلے یہ مسئلہ حل کر لیا تھا:
اے خدا، مجھے ان چیزوں کو قبول کرنے کا سکون عطا کر جنہیں میں تبدیل نہیں کر سکتا،
ان چیزوں کو تبدیل کرنے کا حوصلہ عطا کر جنہیں میں تبدیل کر سکتا ہوں،
اور دونوں میں امتیاز کرنے کی دانائی عطا کر۔
عملی اعتبار سے ہم اس سواری پر سوار ہیں۔ یہ صورتِ حال ہر ایک پر لاگو نہیں ہوتی۔ بعض لوگ عوامی پالیسی یا اے آئی کی سلامتی کے شعبے میں کام کر سکتے ہیں۔ اگر ممکن ہو تو عطیہ دیں۔ انہیں اپنی اصل… ارے، اپنا ڈیٹا نہ دیں۔ اور اس بات پر گہرا غور کریں کہ مہلک نہ ہونے والی، شخصی نوعیت کے اشتہارات پیش کرنے والی اور آپ کو لبھانے کی کوشش کرنے والی اے آئی کے ساتھ آپ کا تعلق کیا ہونا چاہیے۔ لیکن حد سے زیادہ گھبراہٹ کی ایک قیمت ہے، اور مجھے اے آئی کی ہتھیاروں کی دوڑ سے نکلنے کی کوئی راہ نظر نہیں آتی۔ اے آئی کی افادیت کے پیش نظر کمپنیاں اور ممالک آگے بڑھتے رہنے کے لیے زبردست ترغیبات رکھتے ہیں، اور تحقیق کی رفتار کم کرنے کے لیے باہمی ربط پیدا کرنا مشکل ہے۔ حکومتیں کئی دہائیوں سے جوہری خطرے کا انتظام کرتی آئی ہیں، مگر اے آئی کا خطرہ زیادہ مشکل ہے، کیونکہ یہ واضح نہیں کہ آیا یہ واقعی خطرہ ہے یا حریف اس بات پر متفق ہیں بھی یا نہیں۔ یہ سب کچھ ایسے وقت میں ہو رہا ہے جب ترقی جاری رکھنے کے بے پناہ مالی اور عسکری فوائد موجود ہیں۔
حیرت انگیز طور پر، یہ سب کچھ مجھے ہنٹن کی پالیسی ترجیح تک لے آتا ہے: اے آئی کمپنیوں کے لیے لازم قرار دیا جائے کہ وہ اپنی کمپیوٹنگ قوت کا کچھ فیصد اے آئی کی سلامتی پر صرف کریں3۔ مجھے یقین نہیں کہ ہم اتفاقِ رائے تک کیسے پہنچے، جبکہ وہ سمجھتے ہیں کہ چیٹ بوٹس کے احساسات ہوتے ہیں۔ وہی چیٹ بوٹس جنہیں بڑی ٹیک کمپنیاں اربوں کی تعداد میں وجود میں لاتی ہیں (غلام بناتی ہیں؟) اور جن کے ساتھ ہماری بظاہر موت کی جانب تصادم کی راہ پر پیش قدمی ہو رہی ہے۔ یوں معلوم ہوتا ہے کہ یہ راستہ Butlerian Jihad سے زیادہ قریب ہے، مگر میرا خیال ہے کہ یہ نوجوانوں کا کھیل ہے۔
دراصل، اس سے بھی کہیں آگے۔ وجودی خطرے پر وکی سے:
↩︎ان اولین مصنفین میں، جنہوں نے اس امر پر سنجیدہ تشویش کا اظہار کیا کہ انتہائی ترقی یافتہ مشینیں انسانیت کے لیے وجودی خطرات پیدا کر سکتی ہیں، ناول نگار سیموئل بٹلر بھی شامل تھے، جنہوں نے اپنے 1863ء کے مضمون Darwin among the Machines میں لکھا:
حاصلِ کلام محض وقت کا سوال ہے، لیکن وہ وقت آئے گا جب مشینیں دنیا اور اس کے باشندوں پر حقیقی بالادستی حاصل کر لیں گی—اس امر پر کوئی ایسا شخص، جس کا ذہن فی الواقع فلسفیانہ ہو، ایک لمحے کے لیے بھی شک نہیں کر سکتا۔
1951ء میں کمپیوٹر سائنس کے بانیوں میں شمار ہونے والے ایلن ٹیورنگ نے “Intelligent Machinery, A Heretical Theory” کے عنوان سے مضمون لکھا، جس میں انہوں نے تجویز کیا کہ مصنوعی عمومی ذہانتیں، انسانوں سے زیادہ ذہین ہو جانے کے بعد، غالباً دنیا کا ’’کنٹرول سنبھال لیں گی‘‘:
اب، برائے بحث، یہ فرض کر لیتے ہیں کہ [ذہین] مشینیں حقیقی امکان ہیں، اور ان کی تعمیر کے نتائج کا جائزہ لیتے ہیں۔۔۔ مشینوں کے مرنے کا کوئی سوال ہی نہیں ہوگا، اور وہ اپنی ذہانت کو تیز کرنے کے لیے ایک دوسرے سے گفتگو کر سکیں گی۔ لہٰذا کسی مرحلے پر ہمیں یہ توقع رکھنی چاہیے کہ مشینیں کنٹرول سنبھال لیں گی، اسی طرح جیسے سیموئل بٹلر کے Erewhon میں ذکر کیا گیا ہے۔
یا زیادہ محدود معنوں میں، یہ دکھانے کے دیگر طریقے بھی موجود ہیں کہ شعور کوئی حسابی عمل نہیں۔ مثال کے طور پر، فلسفیوں اور ماہرینِ نفسیات کی ایک ٹیم نے حال ہی میں استدلال کیا کہ Relevance Realization کے لیے بھی اتنا ہی درکار ہے۔ ان کا دعویٰ ہے کہ کسی بھی لمحے توجہ کے متقاضی اشیا کی تعداد تقریباً لامحدود ہوتی ہے، اور اس کے باوجود لوگ حیرت انگیز طور پر اچھا کام کرتے ہیں۔ یہ ان ’’چھوٹی دنیا‘‘ کی نوعیت رکھنے والے کاموں سے مختلف ہے جنہیں AI انجام دے سکتا ہے؛ مثلاً ChatGPT کو ’’صرف‘‘ اپنی context window کے تمام الفاظ پر توجہ دینی ہوتی ہے (GPT4-o کے لیے 128,000 ٹوکن/الفاظ) اور اگلے ممکنہ دسیوں ہزار الفاظ میں سے انتخاب کرنا ہوتا ہے۔ یہ مقدار بظاہر بہت زیادہ محسوس ہو سکتی ہے، لیکن بہرحال لامحدودیت سے کم ہے۔ یہ پین روز کی دلیل جتنا نفیس نہیں، لیکن یہ دلچسپ امر ہے کہ ایک بالکل مختلف گروہ بھی اسی نتیجے تک پہنچا۔ ↩︎
ہمیں برے الفاظ سے محفوظ رکھنا شمار نہیں ہوتا۔ تاہم، عجیب بات یہ ہے کہ ہنٹن گوگل کو اس بات کا سہرا دیتے ہیں کہ اس نے اس خوف کے باعث اپنے چیٹ بوٹ کے اجرا میں تاخیر کی کہ وہ کوئی نامناسب بات کہہ کر ’’ان کی شہرت کو داغ دار‘‘ کر دے گا۔ صرف اوپن اے آئی کی جانب سے GPT 4 تیار کیے جانے کے بعد ان کے لیے مزید تاخیر ممکن نہ رہی، اور انہوں نے Gemini، ایسا DEI سرزنش گر جو تمسخر کی حدوں سے بھی آگے ہے جاری کر دیا۔ آدمی سوچتا ہے کہ جب اس بوٹ نے نسلی طور پر متنوع نازیوں کو اثیری خلا سے کھینچ نکالا تو اس کا موضوعی تجربہ کیا رہا ہوگا۔ ↩︎