مناظرة يوم القيامة

نُشر أصلًا بواسطة Vectors of Mind.

من الموضوعات ذات أسوأ نسبة بين الإشارة والضجيج احتمال هلاك العالم بسبب الذكاء الاصطناعي. فهو يتطلب الاستدلال في ظل عدم اليقين بشأن الذكاء، والجبر الخطي، والسياسة، والوعي، والأخلاق—ومعظم ذلك يجري على تويتر/إكس. لا أحد يعرف الإجابات، لكنني آمل أن أضيف بعض القيمة إلى النقاش. قبل أن أبدأ، اسمحوا لي أن أقدم بضعة أسباب تدعوكم إلى الثقة بي.

1. أفهم الجانب التقني. كانت أطروحتي للدكتوراه عن نماذج اللغة الكبيرة (LLMs).
2. أفهم الذكاء، إذ عملت في القياس النفسي، بما في ذلك اختبار الذكاء. (حسنًا، اختبارات ألزهايمر والارتجاج، وهي شديدة الارتباط بذلك.)
3. كتبت في هذه المدوّنة بإسهاب عن تطور الذكاء العام بمستوى الإنسان (الذي ربطته بالذكاء الاصطناعي وبالقياس النفسي منذ البداية).

ومع ذلك، لا تزال آرائي بشأن الذكاء الاصطناعي (والوعي أيضًا) قابلة للتغيير بدرجة كبيرة، لذا لا تحاسبوني على أي شيء أقوله هنا. وكذلك، لمن يفضلون الصوت، روى Askwho Casts AI هذا المنشور. إذا استمتعتم به، ففكروا في شراء قهوة لهم على Patreon.

The Doomsday Debate - By Andrew Cutler

Askwho Casts AI

AI Narration of The Doomsday Debate - By Andrew Cutler.

فرانكنشتاين القرن الحادي والعشرين #

وللدقة، فرانكنشتاين هو العالِم، لا مخلوقه الذي يدب فيه الحياة. أما بالنسبة إلى الذكاء الاصطناعي، فأبوه الروحي هو جيفري هينتون، الذي تقاسم جائزة تورنغ لعام 2018 مع يوشوا بنجيو ويان لوكون لإسهاماتهم في الشبكات العصبية، وهي البنية التي تقوم عليها الطفرة الحالية في الذكاء الاصطناعي. وقد قارن هذا العام قرار لوكون إتاحة نموذج ميتا اللغوي كمصدر مفتوح بإتاحة الأسلحة النووية كمصدر مفتوح، وذهب إلى أن روبوتات الدردشة تمتلك خبرة ذاتية. وخلاصة التحول في موقفه من عمل حياته هي أن قدرات الذكاء الاصطناعي تجاوزت أجرأ مخيلاته، وأنه يعتقد أن الفاعلية البشرية والكواليا ليستا سوى ستار دخان. فإذا ساويت الذكاء بالمهارات اللازمة لأداء المهام (مثل توليد الصور وقيادة السيارات)، وقارنت قدرات الذكاء الاصطناعي قبل عشر سنوات بقدراته الآن، فمن الواضح أن الذكاء الاصطناعي سيكون أذكى منا خلال عقد. وليست هناك حالات كثيرة تحكم فيها كيانات أقل ذكاءً من هم أفضل منها؛ ومن ثم، فمن المرجح أن ينقلب عمل حياته علينا. د. فرانكنشتاين المعاصر: جيفري هينتون.

في مقابلة نشرها إيلون ماسك على إكس، قدّر هينتون الاحتمال بـ50/50 في ما إذا كان البشر سيظلون أصحاب القرار خلال العقدين المقبلين، أو حتى خلال بضع سنوات. ولاحقًا، أشار إلى أن أشخاصًا يحترمهم أكثر تفاؤلًا، ولذلك قد لا يكون الوضع قاتمًا إلى ذلك الحد: «أعتقد أن فرصتنا في النجاة من هذا أفضل من خمسين في المئة. لكن الأمر ليس كما لو أن هناك احتمالًا قدره 1% أن يستولي [الذكاء الاصطناعي] على السلطة. إنه أكبر بكثير من ذلك.» وبالنظر إلى مأزقنا الحرج، فإن التدخل الذي يفضله هينتون فاتِر على نحو مفاجئ: ينبغي للحكومة أن تلزم شركات الذكاء الاصطناعي بإنفاق 20-30% من مواردها الحوسبية على أبحاث السلامة. ربما يتظاهر بالتغابي؟ فإذا كان المرء يعتقد أن Llama 3 جبر خطي بمستوى الأسلحة، وأن نسله قد ينهي الجنس البشري قريبًا، فلماذا يشن ضربة استباقية بقفازات حريرية؟ إن تسليم البريد أكثر تنظيمًا.

المتشائمون بشأن الذكاء الاصطناعي #

«المتشائم بشأن الذكاء الاصطناعي» وصف ازدرائي لشخص

1. يقدّر احتمال استيلاء الروبوتات على السلطة بدرجة أعلى منك، أو
2. يأخذ تنبؤه على محمل الجد أكثر من اللازم، فيفسد الأجواء.

المثال النموذجي على الذكاء الاصطناعي «غير المتوافق» هو مساعد يتحسن تكراريًا، ومهمته إنتاج مشابك الورق. يصبح بارعًا في مهمته إلى حد ينتهي معه الأمر إلى تحويل كل معدن على الأرض—بما في ذلك الحديد الموجود في دمك—إلى مشابك ورق. ولا يتطلب هذا السيناريو توجيهًا ذاتيًا. فالمهمة النهائية لا تزال محددة بشريًا؛ كل ما في الأمر أن الروبوت يطوّر مهام فرعية تنطوي، لسوء الحظ، على دمك. وفي سيناريوهات أخرى، «يستيقظ» الروبوت ليصبح موجهًا ذاتيًا بقدر الإنسان. إنسان لا ينام قط، قرأ كل بحث علمي، يستطيع اختراق أي هاتف في العالم، ولا تؤنبه ضمائرُه بشأن الابتزاز أو إبادة الأجناس. وتعود أفكار من هذا القبيل إلى عام 1968 على الأقل¹، في فيلم ستانلي كوبريك أوديسة الفضاء: «آسف يا ديف. أخشى أنني لا أستطيع فعل ذلك.»

في عام 2000، أي السنة السابقة للأحداث التي تدور فيها أوديسة الفضاء، أسس إليعازر يودكوفسكي معهد التفرد للذكاء الاصطناعي (الذي أُعيدت تسميته لاحقًا معهد أبحاث ذكاء الآلة، MIRI). ومنذ ذلك الحين، جادل هو وغيره من العقلانيين بأن الذكاء الاصطناعي سيستولي على السلطة على الأرجح خلال حياتنا. وخلال العقد الماضي، لحقت التكنولوجيا بالركب. وقد وصلت حججه إلى التيار السائد، فظهرت، مثلًا، في مجلة تايم. وقد تبناها (أو توصلوا إليها بالاستدلال المستقل) باحثون في الذكاء الاصطناعي، وستيفن هوكينغ، وإيلون ماسك، وحتى البابا:

ليس سيئًا بالنسبة إلى عصامي شحذ موهبته بكتابة قصص معجبين عن هاري بوتر. كان يودكوفسكي ورفاقه غزيري الإنتاج، وحججهم مبعثرة عبر الإنترنت. وأفضل طريقة لمواكبتها هي بودكاست دواركش باتيل، الذي يضم حلقات حديثة مدتها 4.5 ساعات مع يودكوفسكي وليوبولد أشينبرينر، الباحث السابق في سلامة الذكاء الاصطناعي لدى OpenAI. وتتلخص معظم الحجج في صعوبة وضع شيء أذكى منا داخل صندوق. ولا سيما بالنظر إلى أنه إذا خرج من الصندوق يومًا، فإنه يستطيع التربص منتظرًا وبناء قوته. ويعتبر بعض المتشائمين ذلك حتميًا، نظرًا إلى أن إنتاج ذكاء اصطناعي (agentic) مفيد للغاية. فأنت تثق بمساعد جيد في حياتك، وأكبر شركات العالم تلقي مواردها لبناء مثل هذا المساعد تحديدًا.

ما إن تقبل أن البشر يستدعون إلهًا من السيليكون، حتى يصبح المستقبل إسقاطًا لقيمك أنت. ربما يكون الله خيرًا، فيقودنا إلى اليوتوبيا. وربما يكون الله صانع ساعات لا يعنيه حقًا أن ينشغل بالشؤون البشرية، فنواصل حياتنا إلى حد كبير كما تعيش النمل في الأنثروبوسين. وربما ينظر الله إلى تربية الحيوانات في المصانع، ويستمع إلى موريسي، ويقرر أن تقليص عدد البشر بمقدار 8 مليارات أكثر استدامة. أو ربما نستدعي معذبًا مسافرًا عبر الزمن يوزع الانتقام على من لم يبذلوا قصارى جهدهم لإيجاده. وقد التقى ماسك بغرايمز بعد أن مازحها بشأن ذلك.

مناهضو متشائمي الذكاء الاصطناعي #

في تسعينيات القرن العشرين ومطلع الألفية الثانية، كان مؤتمر NIPS، وهو أرفع مؤتمرات الذكاء الاصطناعي، مناسبة ودية تُعقد بالقرب من نُزُل التزلج، كي يتمكن الحاضرون، الذين كان عددهم نحو مئة، من تبادل الحديث عن شؤون المهنة على المنحدرات. حسبما سمعت، كان يان لو كون من ذلك النوع المتذمر الذي ظل، لعقود، يلحّ على مقدمي العروض بالسؤال عن سبب عدم تفكيرهم في الشبكات العصبية في هذه التجربة أو تلك. إنه عالم لامع رأى إمكاناتها قبل أن تلحق القدرة الحاسوبية برؤيته بزمن طويل. ولهذا، يقود اليوم قسم Meta AI. أما عند النظر إلى المستقبل، فإن زميليه الحائزين جائزة تورنغ يعتقدان أن الذكاء الاصطناعي قد يقضي علينا (هينتون باحتمال 50%، وبنجيو باحتمال 20%)، وهو ما يراه لو كون سخيفًا.

إنه يرى الذكاء الاصطناعي أداةً لا سبيل لها إلى أن تصبح شيئًا آخر. وفرانسوا شوليه باحث بارز آخر في الذكاء الاصطناعي صبّ الماء البارد على فكرة انقراضنا الوشيك. في بودكاست دواركش، يشرح أن كثيرين يخلطون بين المهارة والذكاء، مع أنهما مختلفان اختلافًا جوهريًا. ويرى أن القول إن روبوتًا يستطيع الإجابة عن أسئلة اختبار ما هو بالقدر نفسه من «الذكاء» الذي يتمتع به مراهق، قول لا يترتب بعضه على بعض. فعندما يخوض البشر اختبارًا أو يشقون طريقهم في العالم، فإنهم يفعلون شيئًا مختلفًا تمامًا. والذكاءات الاصطناعية الحالية ليست أذكى من طفل، بل ليست أذكى حتى من جرذ. إنها لا تظهر على لوحة النتائج لأنها تفتقر افتقارًا تامًا إلى التفكير بـ«النظام 2». أو كما عبّر لو كون عن الأمر فيما يخص نماذج اللغة الكبيرة (LLMs):

في المقابلة، أحسن دواركش حين أدرك نقطة الاتفاق هذه بين متشائمي الذكاء الاصطناعي والتدريجيين. فجميع الأطراف ترى أن نوعًا من النظام فوق المعرفي ضروري، لكنها تختلف في مدى صعوبة إنتاجه.

وجهة نظري #

يفترض معظم المشاركين في هذه المناظرة أن الفاعلية حسابٌ ما—أي إن إحساسنا بالإرادة الحرة وقدرتنا على التخطيط ناتجان عن برنامج يعمل في أدمغتنا. ولذلك، لو كان عليّ أن أغيّر آراء هذه المجموعة بأكبر قدر ممكن، لأعطيتهم نسخة من كتاب روجر بنروز Shadows of the Mind، مع 5 غرامات من الفطر المخدّر: هجوم كماشي قديم الطراز على الاختزالية.

حصل بنروز على جائزة نوبل في الفيزياء عن عمله على الثقوب السوداء. وفي كتاب Shadows of the Mind، يجادل بأن انهيار الحالة الكمومية في الدماغ ينتج الوعي، الذي لا يمكن محاكاته بأي حاسوب. وبالعمل مع طبيب التخدير ستيوارت هامروف، يقدّم حجة مفادها أن ذلك يحدث في الأنيبيبات الدقيقة للدماغ، وهي التي تكوّن سقالةً حول العصبونات. ويصبح الأمر أكثر منطقية إذا نطقت به بصوت عالٍ: «يخزّن الدماغ الكمّ في الأنيبيبات الدقيقة».

وهنا يأتي دور الفطر المخدّر. فابتلاع حبة كهذه يتطلب التخلي عن أي إحساس بأن الوعي أمر عادي أو أنك تفهمه. يستطيع الفيزيائيون غالبًا فعل ذلك وهم في كامل وعيهم؛ أما الآخرون فيحتاجون إلى شيء من الشجاعة الفطرية. وبصفته فيزيائيًا، فإن حجج بنروز رياضية في معظمها. وهو يفسّر مبرهنة غودل في عدم الاكتمال ليبيّن أن ثمة براهين رياضية معينة لن يتمكن الذكاء الاصطناعي قط من إنجازها لأنه روبوت، أي كيان حسابي محض. وبما أن البشر لا يعانون هذا القيد، فإنه يجادل بأن الإدراك البشري ليس، لذلك، عملية حسابية. ومن هناك، يستنتج أن المكوّن السحري البيولوجي لا بد أن يكون مرتبطًا بانهيار الحالة الكمومية، وهو أفضل موضع للعثور على ظواهر غير حسابية في الطبيعة. وقد يتيح هذا حلّ ألغاز أخرى في الفيزياء، مثل قطة شرودنغر. لكنني لا أنصفه في عرضي. عليك أن تقرأ الكتاب، أو، إذا كانت ميزانيتك الزمنية 20 دقيقة، أن تستمع إلى عرضه.

وثمة طرق أخرى كثيرة للوصول إلى أن الوعي الآلي مستبعد، أو على الأقل يتجاوز قدرتنا الحالية على التنبؤ². وأذكر بنروز لأبيّن كيف تصطدم الجداول الزمنية للذكاء الاصطناعي بأسئلة مفتوحة عن طبيعة الذكاء والفاعلية والكون. وحتى في مجال القياس النفسي، وهو مجال أكثر تواضعًا نسبيًا، يظل تعريف الذكاء موضع جدل كبير، وكذلك علاقته بنسبة الذكاء. فنحن لا نعرف حتى كيف تتوافق المهارة والذكاء لدى البشر. وهذا قبل أن نصل إلى مشكلات الإرادة الحرة ونظرية موحّدة للفيزياء، وهي النظرية التي يقترح بنروز أنها ستنبثق من تفسير كمومي للوعي.

ومع ذلك كله، لو كان عليّ أن أضع احتمالًا لكون الذكاء الاصطناعي خطرًا وجوديًا، لقلت إنه نحو 10%. وحتى لو كان الوعي مجرد عملية حسابية، فإنني أتفق مع لو كون وشوليه على أن ما وراء المعرفة هو الجزء المراوغ، وأن «hard take-off» مستبعد. أي ستكون هناك مؤشرات على بزوغ ذكاء حقيقي، وسنتمكن من الاستجابة لها.

إضافة إلى ذلك، حتى لو استُحضر إله من السيليكون، فإنني أضع احتمالًا معقولًا لأن يكون الإله صالحًا أو غير مبالٍ بنا. وقد يكون الاحتمال الثاني كارثيًا، لكنه على الأرجح ليس وجوديًا، بالمعنى الدقيق للكلمة. فالنمل يعاني الأمرّين عندما نبني طريقًا سريعًا، لكنه يواصل تدبّر أمره.

إن احتمال 10% يقع في جوار الروليت الروسية، وهذا ليس خبرًا سارًا تمامًا. ولذلك أجد نفسي في معسكر الحذر من الذكاء الاصطناعي العام. فماذا ينبغي أن نفعل حيال ذلك؟ حسنًا، لقد حلّت مدمنو الكحول المجهولون هذه المسألة قبل عقود:

يا الله، امنحني السكينة لقبول الأشياء التي لا أستطيع تغييرها،

والشجاعة لتغيير الأشياء التي أستطيع تغييرها،

والحكمة لأعرف الفرق.

عمليًا، نحن في رحلة لا نملك إلا أن نرافقها. وهذا لا ينطبق على الجميع. فبعض الناس يستطيعون العمل في السياسات العامة أو في مجال سلامة الذكاء الاصطناعي. تبرّع إن استطعت. احجب عنهم جوهرَك… أقصد، بياناتك. وفكّر مليًا في طبيعة العلاقة التي تريدها مع ذكاء اصطناعي غير قاتل، يعرض إعلانات مخصّصة ويحاول إغواءك. لكن ثمة كلفة للهلع، ولا أرى سبيلًا للخروج من سباق التسلح في مجال الذكاء الاصطناعي. ونظرًا إلى فائدة الذكاء الاصطناعي، فإن الشركات والدول لديها حوافز قوية للمضي قدمًا، كما أن تنسيق وتيرة بحثية مخفّضة أمر صعب. لقد تمكّنت الحكومات من إدارة الخطر النووي لعقود، لكن خطر الذكاء الاصطناعي أصعب لأن من غير الواضح ما إذا كان خطرًا أصلًا أو ما إذا كان المنافسون يتفقون على ذلك. وكل هذا في ظل المكاسب المالية والعسكرية الهائلة التي يتيحها استمرار التطوير.

ومن المدهش أن كل هذا يقودني إلى تفضيل هينتون السياسي: إلزام شركات الذكاء الاصطناعي بإنفاق نسبة مئوية من قدرتها الحاسوبية على سلامة الذكاء الاصطناعي³. لست متأكدًا من كيف انتهينا إلى الاتفاق، بالنظر إلى أنه يعتقد أن روبوتات الدردشة لها مشاعر. وهي الروبوتات نفسها التي تستحضرها شركات التقنية الكبرى (وتستعبدها؟) بالمليارات، والتي نحن، ظاهريًا، في مسار تصادمي معها حتى الموت. يبدو أن هذا المسار أقرب إلى الجهاد البتلري، لكنني أفترض أن تلك لعبة الشبان.