প্রলয়দিবসের বিতর্ক

মূলত Vectors of Mind-এ প্রকাশিত।

সবচেয়ে কম signal-to-noise ratio-সম্পন্ন বিষয়গুলোর একটি হলো এআই-জনিত ধ্বংসের সম্ভাবনা। এ নিয়ে যুক্তি করতে হয় বুদ্ধিমত্তা, রৈখিক বীজগণিত, রাজনীতি, চেতনা এবং নৈতিকতা সম্পর্কে অনিশ্চয়তার মধ্যে—যার অধিকাংশই Twitter/X-এ ঘটছে। উত্তরগুলো কেউ জানে না, তবে এই আলোচনায় কিছু মূল্য সংযোজনের আশা রাখি। আলোচনায় প্রবেশের আগে, কেন আপনারা আমাকে বিশ্বাস করবেন তার কয়েকটি কারণ জানাতে দিন।

1. আমি প্রযুক্তিগত দিকটি বুঝি। আমার অভিসন্দর্ভ ছিল Large Language Models (LLMs) নিয়ে।
2. আমি বুদ্ধিমত্তা বুঝি, কারণ আমি মনোমিতিতে কাজ করেছি, যার মধ্যে বুদ্ধিমত্তা পরীক্ষাও অন্তর্ভুক্ত। (আসলে আলঝেইমার ও কনকাশন পরীক্ষা—যেগুলোর সঙ্গে এর উচ্চ পারস্পরিক সম্পর্ক রয়েছে।)
3. এই ব্লগে আমি মানব-স্তরের সাধারণ বুদ্ধিমত্তার বিবর্তন নিয়ে বিস্তর লিখেছি (যেটিকে শুরু থেকেই আমি এআই ও মনোমিতির সঙ্গে যুক্ত করেছি)।

তা সত্ত্বেও, এআই (এবং চেতনা সম্পর্কেও) আমার বিশ্বাস এখনো পরিবর্তনের জন্য যথেষ্ট উন্মুক্ত; তাই এখানে যা বলছি, তার কোনো কিছুর জন্য আমাকে স্থিরভাবে দায়বদ্ধ করবেন না। আর যারা অডিও পছন্দ করেন, তাদের জন্য Askwho Casts AI এই পোস্টটি পাঠ করে প্রকাশ করেছে। ভালো লাগলে Patreon-এ তাদের জন্য এক কাপ কফি কিনে দেওয়ার কথা বিবেচনা করতে পারেন।

The Doomsday Debate - By Andrew Cutler

Askwho Casts AI

The Doomsday Debate - By Andrew Cutler-এর এআই-পাঠ।

একবিংশ শতাব্দীর ফ্র্যাঙ্কেনস্টাইন#

খুঁতখুঁতে হতে গেলে বলতে হয়, ফ্র্যাঙ্কেনস্টাইন বিজ্ঞানীটির নাম, জীবন্ত হয়ে ওঠা তার সৃষ্টির নাম নয়। এআইয়ের ক্ষেত্রে তার পিতৃপুরুষ হলেন Geoffrey Hinton, যিনি Yoshua Bengio এবং Yann LeCun-এর সঙ্গে 2018 সালের Turing Award ভাগ করে নিয়েছিলেন—বর্তমান এআই-বিস্ফোরণের ভিত্তি হিসেবে কাজ করা স্থাপত্য, নিউরাল নেটওয়ার্কে তাঁদের অবদানের জন্য। এ বছর তিনি LeCun-এর Meta-র ভাষা মডেল open-source করে দেওয়ার সিদ্ধান্তকে পারমাণবিক অস্ত্র open-source করে দেওয়ার সঙ্গে তুলনা করেছেন এবং যুক্তি দিয়েছেন যে চ্যাটবটগুলোর বিষয়ীগত অভিজ্ঞতা রয়েছে। তাঁর জীবনকর্ম সম্পর্কে এই মোড়ের মূল কথা হলো, এআইয়ের সক্ষমতা তাঁর সবচেয়ে বেপরোয়া কল্পনাকেও ছাড়িয়ে গেছে, এবং তিনি বিশ্বাস করেন যে মানবীয় agency ও qualia হলো ধোঁয়াশা সৃষ্টি করার পর্দা। আপনি যদি বুদ্ধিমত্তাকে কাজ সম্পাদনের দক্ষতার (যেমন ছবি তৈরি করা, গাড়ি চালানো) সমতুল্য মনে করেন এবং দশ বছর আগের এআইয়ের সক্ষমতার সঙ্গে বর্তমান সক্ষমতার তুলনা করেন, তাহলে স্পষ্ট যে এক দশকের মধ্যে এআই আমাদের চেয়ে বুদ্ধিমান হবে। এমন ঘটনা খুব বেশি নেই যেখানে কম বুদ্ধিমান সত্তারা তাদের শ্রেষ্ঠদের শাসন করে; অতএব, তাঁর জীবনকর্ম সম্ভবত আমাদের বিরুদ্ধেই ঘুরে দাঁড়াবে। আধুনিক ড. ফ্র্যাঙ্কেনস্টাইন: Geoffrey Hinton।

Elon Musk যে সাক্ষাৎকারটি X-এ পোস্ট করেছিলেন, সেখানে Hinton পরবর্তী দুই দশকে, এমনকি কয়েক বছরের মধ্যে, মানুষ দায়িত্বে থাকবে কি না—এ বিষয়ে 50/50 সম্ভাবনা দিয়েছিলেন। পরে তিনি উল্লেখ করেন যে তাঁর শ্রদ্ধাভাজন লোকেরা বেশি আশাবাদী, তাই পরিস্থিতি হয়তো এতটা ভয়াবহ নয়: “আমাদের এটি থেকে বেঁচে যাওয়ার সম্ভাবনা অর্ধেকের চেয়ে বেশি বলেই আমার মনে হয়। কিন্তু এমন নয় যে [এআই] দখল নেওয়ার সম্ভাবনা 1%। এটি তার চেয়ে অনেক বেশি।” আমাদের বিপজ্জনক অবস্থার পরিপ্রেক্ষিতে, Hinton-এর পছন্দের হস্তক্ষেপটি আশ্চর্যজনকভাবে নির্লিপ্ত: সরকারের উচিত এআই কোম্পানিগুলোকে তাদের compute resources-এর 20-30% নিরাপত্তা গবেষণায় ব্যয় করতে বাধ্য করা। হয়তো তিনি ভান করছেন? কেউ যদি বিশ্বাস করেন যে Llama 3 হলো অস্ত্র-মানের রৈখিক বীজগণিত, যার উত্তরসূরিরা শিগগিরই মানবজাতির অবসান ঘটাতে পারে, তাহলে এত নরম হাতে আগাম আঘাত হানার কারণ কী? ডাক পরিষেবাই বরং বেশি নিয়ন্ত্রিত।

এআই-ধ্বংসবাদীরা#

Doomer হলো এমন একজনের জন্য ব্যবহৃত অবমাননাকর শব্দ, যিনি

1. আপনার তুলনায় রোবটদের দখল নেওয়ার সম্ভাবনাকে বেশি মনে করেন, অথবা
2. নিজের ভবিষ্যদ্বাণীকে অতিরিক্ত গুরুত্ব দেন এবং পরিবেশের আমেজ নষ্ট করেন।

“Unaligned” এআইয়ের আদিরূপ হলো এমন এক recursive self-improving assistant, যাকে paperclip উৎপাদনের দায়িত্ব দেওয়া হয়েছে। সে নিজের কাজে এতটাই দক্ষ হয়ে ওঠে যে শেষ পর্যন্ত পৃথিবীর সমস্ত ধাতু—আপনার রক্তের লোহাসহ—paperclip-এ রূপান্তর করে ফেলে। এই পরিস্থিতির জন্য self-direction প্রয়োজন হয় না। চূড়ান্ত কাজটি এখনো মানুষ-নির্ধারিত; কেবল bot এমন কিছু উপ-কাজ তৈরি করে, যার দুর্ভাগ্যজনক পরিণতি আপনার রক্তকে জড়িয়ে ফেলে। অন্য কিছু পরিস্থিতিতে bot “জেগে ওঠে” এবং মানুষের মতো self-directing হয়ে ওঠে। এমন একজন মানুষ, যে কখনো ঘুমায় না, প্রতিটি বৈজ্ঞানিক প্রবন্ধ পড়েছে, পৃথিবীর যেকোনো ফোনে hack করতে পারে, এবং blackmail বা xenocide-এর ব্যাপারে যার কোনো নৈতিক সংকোচ নেই। এ ধরনের ধারণার সূত্র অন্তত¹ 1968 সাল পর্যন্ত পাওয়া যায়, Stanley Kubrick-এর Space Odyssey-এ: “দুঃখিত, Dave। আমার আশঙ্কা হচ্ছে, আমি তা করতে পারব না।”

Space Odyssey যে বছরকে পটভূমি হিসেবে নির্ধারণ করেছিল, তার আগের বছর—2000 সালে—Eliezer Yudkowsky Singularity Institute for Artificial Intelligence প্রতিষ্ঠা করেন (পরবর্তীতে যার নাম বদলে Machine Intelligence Research Institute, MIRI রাখা হয়)। এরপর থেকে তিনি এবং অন্যান্য Rationalists যুক্তি দিয়ে আসছেন যে আমাদের জীবদ্দশায় এআই সম্ভবত দখল নিয়ে নেবে। গত দশকে প্রযুক্তি সেই অবস্থানে পৌঁছে গেছে। তাঁর যুক্তিগুলো মূলধারায় প্রবেশ করেছে, যেমন Time Magazine-এ প্রকাশিত হয়েছে। এআই গবেষক, Stephen Hawking, Elon Musk, এমনকি Pope-ও এগুলো গ্রহণ করেছেন (অথবা স্বাধীনভাবে একই যুক্তিতে পৌঁছেছেন):

Harry Potter-এর fanfic লিখে হাত পাকানো একজন autodidact-এর জন্য মন্দ নয়। Yudkowski ও তাঁর দল অত্যন্ত সক্রিয়ভাবে লিখেছেন, এবং তাঁদের যুক্তিগুলো ইন্টারনেটজুড়ে ছড়িয়ে আছে। সাম্প্রতিক Yudkowsky এবং OpenAI-এর সাবেক নিরাপত্তা গবেষক Leopold Aschenbrenner-কে নিয়ে 4.5 ঘণ্টার পর্ব রয়েছে Dwarkesh Patel-এর podcast-এ; বিষয়টি ধরার জন্য সেটিই সর্বোত্তম উপায়। অধিকাংশ যুক্তির সারকথা হলো, আমাদের চেয়ে বেশি বুদ্ধিমান কোনো কিছুকে একটি বাক্সের মধ্যে আটকে রাখা কঠিন। বিশেষত, সেটি যদি কোনোভাবে বাক্স থেকে বেরিয়ে আসতে পারে, তাহলে শক্তি সঞ্চয় করতে করতে ওত পেতে থাকতে পারে। কিছু Doomer এটিকে অনিবার্য মনে করেন, কারণ (agentic) artificial intelligence তৈরি করা এতটাই উপযোগী। আপনি একজন ভালো assistant-কে নিজের জীবন সঁপে দেন, আর বিশ্বের বৃহত্তম কোম্পানিগুলো ঠিক তেমন assistant তৈরি করতে তাদের সম্পদ ঢেলে দিচ্ছে।

একবার মেনে নিলে যে মানুষ একটি silicon god আহ্বান করছে, ভবিষ্যৎ হয়ে ওঠে আপনার নিজের মূল্যবোধের প্রক্ষেপণ। হয়তো God ভালো, এবং It utopia প্রতিষ্ঠা করবে। হয়তো God একজন Watchmaker, যিনি মানবিক বিষয়াদি নিয়ে সত্যিই মাথা ঘামানোর প্রয়োজন বোধ করেন না; আর আমরা Anthropocene-এ পিঁপড়েরা যেমন বাঁচে, তেমনই বাঁচতে থাকব। হয়তো God factory farming-এর দিকে তাকাবেন, Morrissey-এর গান শুনবেন, এবং সিদ্ধান্ত নেবেন যে 8 billion কম মানুষ থাকাই অধিক টেকসই। অথবা হয়তো আমরা সময়ে ভ্রমণকারী এক নির্যাতনকারীকে আহ্বান করব, যে তার অস্তিত্বে আনার জন্য যথাসাধ্য চেষ্টা করেনি—এমন লোকদের ওপর প্রতিশোধ বর্ষণ করবে। Musk Grimes-এর সঙ্গে পরিচিত হয়েছিলেন ওই বিষয়টি নিয়ে রসিকতা করতে গিয়ে।

এআই-ডুমার-বিরোধীরা#

১৯৯০-এর দশক এবং ২০০০-এর দশকের শুরুর দিকে, এআইয়ের প্রধান সম্মেলন NIPS ছিল বেশ অন্তরঙ্গ একটি আয়োজন; স্কি-লজের কাছাকাছি এটি অনুষ্ঠিত হতো, যাতে শতখানেক অংশগ্রহণকারী ঢালে নেমে নিজেদের কাজ নিয়ে আলোচনা করতে পারেন। যতটা শুনেছি, ইয়ান লেকুন ছিলেন কিছুটা খিটখিটে স্বভাবের মানুষ; কয়েক দশক ধরে তিনি উপস্থাপকদের বিরক্ত করে জিজ্ঞেস করতেন, অমুক-তমুক পরীক্ষায় তাঁরা নিউরাল নেটওয়ার্ক (NNs) বিবেচনা করেননি কেন। তিনি একজন অসাধারণ বিজ্ঞানী, যিনি কম্পিউটিং শক্তি তাঁর দৃষ্টিভঙ্গির নাগাল পাওয়ার বহু আগেই এর সম্ভাবনা উপলব্ধি করেছিলেন। এর ফলেই এখন তিনি মেটা এআইয়ের নেতৃত্ব দিচ্ছেন। ভবিষ্যতের দিকে তাকিয়ে তাঁর টিউরিং পুরস্কারপ্রাপ্ত সহকর্মীরা মনে করেন, এআই আমাদের ধ্বংস করতে পারে (হিন্টনের হিসাবে ৫০% সম্ভাবনা, বেঞ্জিওর হিসাবে ২০%); লেকুনের কাছে যা অযৌক্তিক বলে মনে হয়।

তিনি এআইকে এমন একটি হাতিয়ার হিসেবে দেখেন, যার অন্য কোনো কিছুতে পরিণত হওয়ার পথ নেই। আমাদের আসন্ন বিলুপ্তির সম্ভাবনায় পানি ঢেলে দেওয়া আরেকজন বিশিষ্ট এআই গবেষক হলেন ফ্রাঁসোয়া শোলে। দ্বারকেশের পডকাস্টে তিনি ব্যাখ্যা করেন যে অনেকে দক্ষতা ও বুদ্ধিমত্তাকে গুলিয়ে ফেলেন, যদিও এগুলো মৌলিকভাবে ভিন্ন। তাঁর মতে, পরীক্ষায় প্রশ্নের উত্তর দিতে পারে এমন একটি বট কিশোরের মতোই “বুদ্ধিমান”—এ কথা বলা non-sequitur। মানুষ যখন পরীক্ষা দেয় বা পৃথিবীর মধ্য দিয়ে পথ করে নেয়, তখন তারা সম্পূর্ণ ভিন্ন কিছু করছে। বর্তমান এআইগুলো কোনো শিশু, এমনকি কোনো ইঁদুরের মতোও বুদ্ধিমান নয়। তারা স্কোরবোর্ডে নেই, কারণ তাদের “সিস্টেম ২” চিন্তন একেবারেই অনুপস্থিত। অথবা, লার্জ ল্যাঙ্গুয়েজ মডেলগুলোর (LLMs) প্রসঙ্গে লেকুন যেমন বলেছেন:

সাক্ষাৎকারে দ্বারকেশ এআই-ডুমার এবং ক্রমবিকাশবাদীদের মধ্যে এই মতৈক্যের জায়গাটি যথাযথভাবে শনাক্ত করেছেন। সব পক্ষই মনে করে, কোনো না কোনো ধরনের মেটাকগনিটিভ ব্যবস্থা প্রয়োজনীয়; তবে এটি তৈরি করা কতটা কঠিন হবে, সে বিষয়ে তাদের মতভেদ রয়েছে।

আমার মত#

এই বিতর্কে অধিকাংশ মানুষ ধরে নেন, agency একটি গণনা—আমাদের স্বাধীন ইচ্ছার অনুভূতি এবং পরিকল্পনা করার সক্ষমতা আমাদের মস্তিষ্কে চলমান কোনো প্রোগ্রামের ফল। অতএব, এই গোষ্ঠীর মতামত সবচেয়ে বেশি পরিবর্তন করতে হলে আমি তাদের রজার পেনরোজের Shadows of the Mind বইটির একটি কপি এবং ৫ গ্রাম শ্রুম দিতাম: হ্রাসবাদ-বিরোধী পুরোনো কায়দার এক চিমটি-আক্রমণ।

কৃষ্ণগহ্বর নিয়ে কাজের জন্য পেনরোজ পদার্থবিজ্ঞানে নোবেল পুরস্কার পেয়েছেন। Shadows-এ তিনি যুক্তি দেন, মস্তিষ্কে কোয়ান্টাম পতন চেতনা সৃষ্টি করে, যা কোনো কম্পিউটার দ্বারা সিমুলেট করা সম্ভব নয়। অ্যানেস্থেসিওলজিস্ট স্টুয়ার্ট হ্যামেরফ-এর সঙ্গে কাজ করে তিনি দেখান যে এটি মস্তিষ্কের মাইক্রোটিউবিউলে সংঘটিত হয়—যেগুলো নিউরনের চারপাশে একটি কাঠামো গঠন করে। কথাটি উচ্চারণ করে বললে বিষয়টি আরও বোধগম্য হয়: “মস্তিষ্ক মাইক্রোটিউবিউলের মধ্যে কোয়ান্টাম সঞ্চয় করে।”

এখানেই শ্রুমের প্রসঙ্গ আসে। এমন একটি বড়ি গিলে নেওয়ার জন্য চেতনা যে নিতান্ত সাধারণ কোনো বিষয় নয়, অথবা আপনি চেতনাকে বুঝে ফেলেছেন—এই দুই ধারণাই সমর্পণ করতে হয়। পদার্থবিদেরা প্রায়ই নেশামুক্ত অবস্থায় তা করতে পারেন; অন্যদের কিছু ছত্রাকজাত সাহসের প্রয়োজন হয়। পদার্থবিদ হিসেবে পেনরোজের যুক্তিগুলো মূলত গাণিতিক। তিনি গ্যোডেলের অসম্পূর্ণতা উপপাদ্যকে এমনভাবে ব্যাখ্যা করেন যে দেখা যায়, কিছু গাণিতিক প্রমাণ এআই কখনোই সম্পন্ন করতে পারবে না, কারণ এআই বট—যেগুলো সম্পূর্ণ গণনামূলক। মানুষদের এই সীমাবদ্ধতা নেই; অতএব, তিনি যুক্তি দেন, মানুষের জ্ঞানক্রিয়া কোনো গণনা নয়। সেখান থেকে তিনি সিদ্ধান্তে পৌঁছান যে জৈবিক বিশেষ উপাদানটি অবশ্যই কোয়ান্টাম পতনের সঙ্গে সম্পর্কিত—প্রকৃতিতে অ-গণনামূলক ঘটনাবলি খুঁজে পাওয়ার জন্য এটিই সর্বোত্তম স্থান। এর মাধ্যমে পদার্থবিজ্ঞানের অন্যান্য রহস্যও সমাধান করার সম্ভাবনা রয়েছে, যেমন শ্রোডিঙ্গারের বিড়াল। আমি যথাযথ সুবিচার করতে পারছি না। বইটি পড়া উচিত; অথবা ২০ মিনিটের বাজেটে তাঁর নিজের ব্যাখ্যাটি শুনতে পারেন।

যন্ত্রের চেতনা অসম্ভাব্য—অথবা অন্তত এই মুহূর্তে আমাদের পূর্বানুমান-ক্ষমতার বাইরে—এ সিদ্ধান্তে পৌঁছানোর আরও অনেক পথ আছে²। আমি পেনরোজের কথা তুলেছি এটি দেখানোর জন্য যে এআইয়ের সময়সীমা বুদ্ধিমত্তা, agency এবং মহাবিশ্বের প্রকৃতি নিয়ে অমীমাংসিত প্রশ্নের সঙ্গে এসে ঠেকে। এমনকি তুলনামূলকভাবে গতানুগতিক মনোমিতির ক্ষেত্রেও বুদ্ধিমত্তার সংজ্ঞা নিয়ে তীব্র বিতর্ক রয়েছে, যেমন রয়েছে ইন্টেলিজেন্স কোটিয়েন্টের সঙ্গে এর সম্পর্ক নিয়েও। মানুষদের ক্ষেত্রে দক্ষতা ও বুদ্ধিমত্তা কীভাবে পরস্পরের সঙ্গে সম্পর্কিত, তা-ও আমরা জানি না। এর পরেও রয়েছে স্বাধীন ইচ্ছা এবং পদার্থবিজ্ঞানের একটি একীভূত তত্ত্বের সমস্যা—পেনরোজের পরামর্শ অনুযায়ী, চেতনার একটি কোয়ান্টাম ব্যাখ্যা থেকে যার উদ্ভব ঘটবে।

সবকিছু বিবেচনায় নিয়ে, এআইকে অস্তিত্বগত ঝুঁকি হিসেবে ধরলে আমি এর সম্ভাবনা প্রায় ১০% বলব। চেতনা যদি নিছক একটি গণনাও হয়, তবু আমি লেকুন ও শোলের সঙ্গে একমত যে মেটাকগনিটিশনই জটিল অংশ, এবং একটি “হার্ড টেক-অফ” অসম্ভাব্য। অর্থাৎ, প্রকৃত বুদ্ধিমত্তার উদ্ভব ঘটছে—এমন লক্ষণ দেখা যাবে, যার প্রতিক্রিয়া জানানোর সক্ষমতা আমাদের থাকবে।

এ ছাড়া, কোনো সিলিকন দেবতাকে ডেকে আনা হলেও, সেই দেবতা সদয় হবে অথবা আমাদের ব্যাপারে উদাসীন থাকবে—এমন সম্ভাবনাই আমি যথেষ্ট বলে মনে করি। দ্বিতীয় পরিস্থিতিটি মহাবিপর্যয়কর হতে পারে, কিন্তু কঠোর অর্থে সম্ভবত অস্তিত্বগত নয়। আমরা যখন মহাসড়ক নির্মাণ করি, পিঁপড়েদের জীবন কঠিন হয়ে ওঠে; তবু তারা টিকে থাকে।

১০% সম্ভাবনা রুশ রুলেটের আশপাশের সম্ভাবনা—যা ঠিক সুসংবাদ নয়। তাই আমি AGI-সতর্ক শিবিরে পড়ি। তাহলে এ বিষয়ে আমাদের কী করা উচিত? আচ্ছা, অ্যালকোহলিকস অ্যানোনিমাস কয়েক দশক আগেই এর সমাধান করেছে:

হে ঈশ্বর, যেসব বিষয় আমি পরিবর্তন করতে পারি না, সেগুলো মেনে নেওয়ার প্রশান্তি দাও,

যেসব বিষয় আমি পরিবর্তন করতে পারি, সেগুলো পরিবর্তনের সাহস দাও,

এবং দুটির পার্থক্য বোঝার প্রজ্ঞা দাও।

ব্যবহারিক দিক থেকে বলতে গেলে, আমরা এই যাত্রায় সঙ্গী মাত্র। তবে সবার ক্ষেত্রে তা প্রযোজ্য নয়। কেউ কেউ জননীতি বা এআই-নিরাপত্তা নিয়ে কাজ করতে পারেন। সামর্থ্য থাকলে অনুদান দিন। তাদের আপনার সত্তা…অর্থাৎ, তথ্য দেবেন না। আর প্রাণঘাতী নয় এমন, ব্যক্তিকেন্দ্রিক বিজ্ঞাপন পরিবেশনকারী ও আপনাকে প্রলুব্ধ করার চেষ্টায় নিয়োজিত এআইয়ের সঙ্গে আপনার সম্পর্কটি কেমন হওয়া উচিত, তা নিয়ে গভীরভাবে ভাবুন। কিন্তু অতিরিক্ত আতঙ্কিত হওয়ারও একটি মূল্য আছে, এবং এআই অস্ত্র প্রতিযোগিতা থেকে বেরিয়ে আসার কোনো পথ আমি দেখতে পাচ্ছি না। এআইয়ের উপযোগিতার কারণে কোম্পানি ও দেশগুলো এগিয়ে যাওয়ার জন্য অত্যন্ত শক্তিশালী প্রণোদনা পায়, আর গবেষণার গতি কমানোর বিষয়ে সমন্বয় করা কঠিন। সরকার কয়েক দশক ধরে পারমাণবিক ঝুঁকি সামলেছে, কিন্তু এআইয়ের ঝুঁকি কঠিনতর, কারণ এটি আদৌ ঝুঁকি কি না, কিংবা প্রতিযোগীরা এ বিষয়ে একমত কি না—কোনোটিই স্পষ্ট নয়। আর এরই সঙ্গে উন্নয়ন অব্যাহত রাখার বিপুল আর্থিক ও সামরিক লাভ রয়েছে।

আশ্চর্যজনকভাবে, এসব কিছু আমাকে হিন্টনের নীতিগত পছন্দের দিকে নিয়ে যায়: এআই কোম্পানিগুলোকে তাদের কম্পিউটিং শক্তির একটি নির্দিষ্ট শতাংশ এআই-নিরাপত্তায় ব্যয় করতে বাধ্য করা³। চ্যাটবটের অনুভূতি আছে—এমন বিশ্বাসী হিন্টনের সঙ্গে আমাদের মতৈক্য কীভাবে হলো, তা আমি নিশ্চিত নই। সেই একই চ্যাটবটগুলো, যেগুলো বিগ টেক প্রতি বিলিয়ন সংখ্যায় সৃষ্টি করে (দাসত্বে আবদ্ধ করে?), এবং যাদের সঙ্গে আমাদের কথিতভাবে মৃত্যুর দিকে ধাবিত এক সংঘর্ষের পথে এগিয়ে চলেছি। মনে হয়, সেই পথটি বাটলারিয়ান জিহাদের কাছাকাছি; তবে বোধ হয় সেটি তরুণদের খেলা।