Kıyamet Tartışması

İlk olarak Vectors of Mind tarafından yayımlanmıştır.

Sinyal-gürültü oranının en kötü olduğu konulardan biri, yapay zekâ kıyameti olasılığıdır. Bu konu; zekâ, lineer cebir, siyaset, bilinç ve ahlak üzerine belirsizlik altında akıl yürütmeyi gerektirir—bunların çoğu da Twitter/X’te gerçekleşmektedir. Hiç kimse yanıtları bilmiyor, ancak tartışmaya bir miktar katkıda bulunmayı umuyorum. Konuya girmeden önce, bana güvenmeniz için birkaç neden sunmama izin verin.

1. Teknik tarafı anlıyorum. Doktora tezim Büyük Dil Modelleri (LLM’ler) üzerineydi.
2. Zekâyı anlıyorum; psikometri alanında çalışmalar yaptım ve bunlara zekâ testleri de dahildi. (Gerçi Alzheimer ve beyin sarsıntısı testleri; bunlar zekâyla yüksek korelasyon gösteriyor.)
3. Bu blogda insan düzeyinde genel zekânın evrimi hakkında kapsamlı biçimde yazdım (başlangıçtan beri bunu yapay zekâ ve psikometri ile ilişkilendirdim).

Bununla birlikte, yapay zekâ (ve bu bağlamda bilinç) hakkındaki inançlarım hâlâ değişime oldukça açık; dolayısıyla burada söylediklerimi değişmez biçimde üzerime almayın. Ayrıca, sesli içeriği tercih edenler için Askwho Casts AI bu yazıyı seslendirdi. Hoşunuza giderse Patreon üzerinden onlara bir kahve ısmarlamayı düşünebilirsiniz.

Kıyamet Tartışması - Andrew Cutler

Askwho Casts AI

Kıyamet Tartışması’nın yapay zekâ anlatımı - Andrew Cutler.

21. yüzyıl Frankenstein’ı#

Titiz davranacak olursak, Frankenstein hayata gelen yaratık değil, bilim insanıdır. Yapay zekâ açısından onun vaftiz babası, günümüzdeki yapay zekâ patlamasının temelini oluşturan mimari olan sinir ağlarına katkıları nedeniyle Yoshua Bengio ve Yann LeCun ile birlikte 2018 Turing Ödülü’nü paylaşan Geoffrey Hinton’dır. Bu yıl, LeCun’un Meta’nın dil modelini açık kaynak hâline getirme kararını nükleer silahları açık kaynak hâline getirmeye benzetti ve sohbet botlarının öznel deneyime sahip olduğunu savundu. Hayatının eserine ilişkin dönüşün özü şudur: Yapay zekânın yetenekleri, onun en çılgın hayal gücünü bile aşmıştır ve insan failiyetinin yanı sıra qualia’nın da bir sis perdesi olduğuna inanmaktadır. Zekâyı görevlerdeki becerilerle (ör. görsel üretmek, araba kullanmak) eşitlerseniz ve yapay zekânın on yıl önceki yetenekleriyle bugünkü yeteneklerini karşılaştırırsanız, yapay zekânın on yıl içinde bizden daha akıllı olacağı açıktır. Daha az zeki varlıkların kendilerinden üstün olanlara hükmettiği pek çok örnek yoktur; dolayısıyla onun hayatının eseri muhtemelen bize karşı dönecektir. Modern Dr. Frankenstein: Geoffrey Hinton.

Elon Musk tarafından X’te paylaşılan bir röportajda, Hinton, önümüzdeki yirmi yıl içinde, hatta birkaç yıl içinde insanların yönetimi elinde bulundurup bulundurmayacağı konusunda olasılığı 50/50 olarak değerlendirdi. Daha sonra, saygı duyduğu insanların daha umutlu olduğunu ve dolayısıyla durumun o kadar da vahim olmayabileceğini belirtiyor: “Bundan sağ çıkma ihtimalimizin yarıdan daha yüksek olduğunu düşünüyorum. Ancak [yapay zekânın] yönetimi ele geçirme ihtimali %1 değil. Bundan çok daha yüksek.” İçinde bulunduğumuz vahim koşullar göz önüne alındığında, Hinton’ın tercih ettiği müdahale şaşırtıcı derecede kayıtsız: Hükûmet, yapay zekâ şirketlerinin hesaplama kaynaklarının %20-30’unu güvenlik araştırmalarına ayırmasını zorunlu kılmalı. Yoksa çekingen mi davranıyor? Llama 3’ün, çocukları yakında insan ırkının sonunu getirebilecek, silah düzeyinde bir lineer cebir olduğuna inanılıyorsa, neden kadife eldivenlerle önleyici bir saldırı düzenlensin? Posta teslimatı daha sıkı biçimde düzenleniyor.

Yapay zekâ kıyametçileri#

Kıyametçi, şu özelliklerden birine sahip kişi için kullanılan aşağılayıcı bir terimdir:

1. Robotların yönetimi ele geçirme olasılığına senden daha yüksek bir pay veren kişi veya
2. Öngörüsünü fazla ciddiye alıp ortamın havasını bozan kişi.

“Uyumsuz” bir yapay zekânın prototip örneği, kâğıt ataç üretmekle görevlendirilmiş ve kendini yinelemeli olarak geliştiren bir asistandır. İşinde o kadar başarılı olur ki, dünyadaki bütün metalleri—kanınızdaki demir de dâhil—kâğıt ataçlara dönüştürür. Bu senaryo öz-yönelimi gerektirmez. Nihai görev hâlâ insanlar tarafından belirlenmiştir; yalnızca bot, talihsiz biçimde kanınızı da içeren alt görevler geliştirir. Başka senaryolarda botlar “uyanır” ve bir insan kadar kendi kendilerini yönlendirebilir hâle gelir. Hiç uyumayan, her bilimsel makaleyi okumuş, dünyadaki herhangi bir telefonu hackleyebilen ve şantaj ya da xenocide konusunda hiçbir vicdan azabı taşımayan bir insan. Bu tür fikirlerin en az¹ 1968’e, Stanley Kubrick’in 2001: Bir Uzay Destanı filmine kadar uzanan bir geçmişi vardır: “Üzgünüm Dave. Korkarım bunu yapamam.”

Uzay Destanı’nın geçtiği yıldan bir önceki yıl olan 2000’de Eliezer Yudkowsky, Yapay Zekâ Tekillik Enstitüsü’nü kurdu (daha sonra adı Makine Zekâsı Araştırma Enstitüsü, MIRI olarak değiştirildi). O zamandan beri kendisi ve diğer Rasyonalistler, yapay zekânın bizim yaşam süremiz içinde muhtemelen yönetimi ele geçireceğini savunuyor. Son on yılda teknoloji bu görüşlere yetişti. Onun argümanları ana akım hâline geldi; örneğin Time Magazine’de yer aldı. Bu argümanlar yapay zekâ araştırmacıları, Stephen Hawking, Elon Musk ve hatta Papa tarafından benimsendi (ya da onlara bağımsız olarak ulaşıldı):

Harry Potter hayran kurgusu yazarak kendini yetiştirmiş biri için hiç fena değil. Yudkowsky ve ekibi üretken kişilerdi ve argümanları internetin dört bir yanına dağılmış durumda. Konuya yetişmenin en iyi yolu, Dwarkesh Patel’in podcast’idir; bu podcast’in yakın zamanda Yudkowsky ve eski OpenAI güvenlik araştırmacısı Leopold Aschenbrenner ile yaptığı 4,5 saatlik bölümleri bulunuyor. Argümanların çoğu, bizden daha zeki bir şeyi bir kutunun içinde tutmanın zor olduğu düşüncesinde birleşir. Hele ki o şey bir gün kutudan çıkarsa, pusuda bekleyip gücünü artırabilir. Bazı kıyametçiler, (failiyet sahibi) yapay zekâ üretmenin son derece yararlı olması nedeniyle bunun kaçınılmaz olduğunu düşünür. İyi bir asistana hayatınızı emanet edersiniz ve dünyanın en büyük şirketleri tam da bunu inşa etmek için kaynaklarını seferber ediyor.

İnsanların silikon bir tanrıyı çağırdığı fikrini kabul ettiğinizde gelecek, kendi değerlerinizin bir yansımasına dönüşür. Belki Tanrı İyidir ve O, ütopyayı başlatacaktır. Belki Tanrı bir Saatçidir ve insan meseleleriyle gerçekten ilgilenemeyecek kadar meşguldür; biz de tıpkı karıncaların Antroposen’de yaşadığı gibi yaşamaya devam ederiz. Belki Tanrı, fabrika çiftçiliğine bakar, Morrissey’i dinler ve 8 milyar daha az insanın daha sürdürülebilir olduğuna karar verir. Ya da belki, zaman yolculuğu yapan bir işkenceciyi çağırırız; o da varlığa gelmesini sağlamak için ellerinden geleni yapmayanlardan intikam alır. Musk, Grimes’la bu konu hakkında şaka yaparak tanıştı.

Yapay Zekâ Kıyametçiliği Karşıtları#

1990’larda ve 2000’lerin başında, önde gelen yapay zekâ konferansı olan NIPS, kayak tesislerinin yakınında düzenlenen ve yüz kadar katılımcının pistlerde meslek meseleleri üzerine konuşabildiği, samimi bir buluşmaydı. Duyduğuma göre Yann LeCun, onlarca yıl boyunca sunum yapanlara şu ya da bu deneyde neden sinir ağlarını (NN’leri) göz önünde bulundurmadıklarını sorup duran, biraz huysuz biriydi. Hesaplama gücü vizyonuna yetişmeden çok önce, bunların potansiyelini gören parlak bir bilim insanıdır. Bu nedenle bugün Meta AI’ın başında bulunuyor. Geleceğe baktıklarında, Turing Ödülü’nü paylaşan meslektaşları yapay zekânın sonumuzu getirebileceğini düşünüyor (Hinton %50 olasılık, Bengio %20); bu ise LeCun’a saçma geliyor.

LeCun, yapay zekâyı başka bir şeye dönüşmesinin hiçbir yolu olmayan bir araç olarak görüyor. Francois Chollet da yaklaşan yok oluşumuz konusunda soğukkanlı olmamızı sağlayan bir diğer önde gelen yapay zekâ araştırmacısı. Dwarkesh’in podcast’inde, birçok kişinin beceri ile zekâyı birbirine karıştırdığını ve bunların temelden farklı olduğunu açıklıyor. Ona göre, bir testte soruları yanıtlayabilen bir botun bir ergen kadar “akıllı” olduğunu söylemek mantıksal açıdan konu dışıdır. İnsanlar bir teste girdiklerinde veya dünyada yollarını bulduklarında, tamamen başka bir şey yaparlar. Mevcut yapay zekâlar bir çocuk, hatta bir fare kadar bile zeki değil. “Sistem 2” düşüncesinden bütünüyle yoksun oldukları için puan tablosunda yer almıyorlar. Ya da LeCun’un Büyük Dil Modelleri (LLM’ler) için ifade ettiği gibi:

Dwarkesh, röportajda yapay zekâ Kıyametçileri ile tedricî ilerleme yanlıları arasındaki bu uzlaşma noktasını fark etmekte başarılı oluyor. Tüm taraflar, bir tür üstbilişsel sistemin gerekli olduğunu düşünüyor; ancak bunu üretmenin ne kadar zor olacağı konusunda anlaşamıyorlar.

Benim görüşüm#

Bu tartışmadaki insanların çoğu, eyleyiciliğin bir hesaplama olduğunu varsayıyor; yani özgür irade duygumuzun ve plan yapma becerimizin, beynimizde çalışan bir programın sonucu olduğunu düşünüyor. Bu nedenle, bu grubun görüşlerini en fazla değiştirmem gerekseydi, onlara Roger Penrose’un Shadows of the Mind kitabının bir nüshasını ve 5 gram mantar verirdim: indirgemeciliğe karşı eski usul bir kıskaç saldırısı.

Penrose, kara delikler üzerine çalışmaları nedeniyle Nobel Fizik Ödülü’nü aldı. Shadows’ta, beyindeki kuantum çöküşünün bilinci ürettiğini ve bilincin hiçbir bilgisayar tarafından simüle edilemeyeceğini savunuyor. Anesteziyolog Stuart Hameroff ile birlikte bunun, nöronların çevresinde bir iskele oluşturan beynin mikrotübüllerinde gerçekleştiğini öne sürüyor. Bunu yüksek sesle söylediğinizde daha anlamlı geliyor: “Beyin kuantumu mikrotübüllerde depolar.”

Mantarlar da işte bu noktada devreye giriyor. Böyle bir hapı yutmak, bilincin sıradan bir şey olduğuna veya onu anladığınıza ilişkin her türlü duygudan vazgeçmeyi gerektirir. Fizikçiler bunu çoğu zaman ayıkken yapabilir; diğerlerinin ise biraz mantarsal cesarete ihtiyacı vardır. Bir fizikçi olarak Penrose’un argümanları çoğunlukla matematiksel. Gödel’in eksiklik teoremini, yapay zekânın asla gerçekleştiremeyeceği bazı matematiksel kanıtlar olduğunu gösterecek şekilde yorumluyor; çünkü yapay zekâ botlardan oluşuyor ve botlar bütünüyle hesaplamaya dayalı. İnsanlarda böyle bir sınırlama bulunmadığından, insan bilişinin dolayısıyla bir hesaplama olmadığını savunuyor. Buradan hareketle, biyolojik özel cevherin kuantum çöküşüyle ilişkili olması gerektiği sonucuna varıyor; zira doğada hesaplamaya dayalı olmayan olguları bulmak için en iyi yer burası. Bu yaklaşım, Schrödinger’in kedisi gibi fizikteki diğer gizemleri de çözme potansiyeline sahip. Hakkını veremiyorum. Kitabı okumalısınız ya da 20 dakikalık bir bütçeyle onun anlatımını dinleyebilirsiniz.

Makinelerin bilincine sahip olmasının olası görünmediği ya da en azından şu anda bunu öngörme kapasitemizin ötesinde olduğu sonucuna ulaşmanın başka pek çok yolu var². Penrose’u anmamın nedeni, yapay zekâ takvimlerinin zekânın, eyleyiciliğin ve evrenin doğasına ilişkin açık sorularla nasıl kesiştiğini göstermek. Psikometri gibi görece sıradan bir alanda bile zekânın tanımı son derece tartışmalı; Zekâ Katsayısı’yla ilişkisi de öyle. Becerinin ve zekânın insanlarda nasıl örtüştüğünü bile bilmiyoruz. Bu, Penrose’un bilincin kuantum açıklamasından çıkacağını öne sürdüğü özgür irade ve birleştirici fizik kuramı sorunlarına gelmeden önceki durum.

Bütün bunlara rağmen, yapay zekânın varoluşsal bir risk oluşturma olasılığı üzerine bahis oynayacak olsaydım, oranı yaklaşık %10 verirdim. Bilinç yalnızca bir hesaplamadan ibaret olsa bile, üstbilişin güçlük arz eden kısım olduğu ve “hard take-off”un olası görünmediği konusunda LeCun ve Chollet’a katılıyorum. Yani gerçek zekânın ortaya çıktığına dair işaretler olacak ve bunlara karşılık verebileceğiz.

Ayrıca, bir silikon tanrı çağrılsa bile, Tanrı’nın iyi olması ya da bizimle ilgilenmemesi ihtimaline makul bir oran veriyorum. İkincisi felaket niteliğinde olabilir, ancak kelimenin tam anlamıyla muhtemelen varoluşsal olmayacaktır. Bir otoyol inşa ettiğimizde karıncalar zor durumda kalıyor, ama yine de hayatlarını sürdürüyorlar.

%10, Rus ruletine yakın bir oran; bu da tam olarak iyi haber sayılmaz. Bu nedenle kendimi AGI konusunda temkinli kampta buluyorum. Peki bu konuda ne yapmalıyız? Aslında, Anonim Alkolikler bunu onlarca yıl önce çözdü:

Tanrım, değiştiremeyeceğim şeyleri kabullenmem için huzur,

Değiştirebileceğim şeyleri değiştirmem için cesaret,

Ve aralarındaki farkı anlayabilmem için bilgelik ver.

Pratik açıdan bakıldığında, bu yolculuğa eşlik ediyoruz. Bu, herkes için geçerli değil. Bazı insanlar kamu politikası veya yapay zekâ güvenliği alanında çalışabilir. Yapabiliyorsanız bağış yapın. Onlara özünüzü—şey, verilerinizi—vermeyin. Ayrıca, kişiselleştirilmiş reklamlar sunan ve sizi baştan çıkarmaya çalışan ölümcül olmayan yapay zekâyla ilişkinizin nasıl olmasını istediğiniz üzerine derinlemesine düşünün. Fakat dehşete kapılmanın bir bedeli var ve yapay zekâ silahlanma yarışından çıkış yolu göremiyorum. Yapay zekânın faydaları göz önüne alındığında, şirketler ve ülkeler ilerlemeyi sürdürme konusunda büyük teşviklere sahip; araştırma hızının düşürülmesi konusunda eşgüdüm sağlamak da zor. Hükümetler nükleer riski onlarca yıldır yönetiyor, ancak yapay zekâ riski daha zor; çünkü bunun gerçekten bir risk olup olmadığı veya rakiplerin bu konuda anlaşmaya varıp varmadığı belirsiz. Bütün bunlar, gelişmeyi sürdürmenin sağladığı muazzam mali ve askerî kazanımların olduğu bir ortamda gerçekleşiyor.

Şaşırtıcı biçimde, bütün bunlar beni Hinton’ın politika tercihine götürüyor: yapay zekâ şirketlerinin hesaplama kaynaklarının belirli bir yüzdesini yapay zekâ güvenliğine ayırmasını zorunlu kılmak³. Sohbet botlarının duyguları olduğunu düşündüğü düşünüldüğünde, nasıl olup da aynı fikirde buluştuğumuzdan emin değilim. Büyük Teknoloji şirketlerinin milyarlarca ürettiği (köleleştirdiği?) ve sözde ölümüne çarpışma rotasında olduğumuz aynı sohbet botları. Görünüşe göre bu yol Butlerci Cihat’a daha yakın; ama sanırım bu gençlerin işi.