İlk olarak Vectors of Mind’da yayımlanmıştır.
Brian Kulis, Boston University’de Makine Öğrenimi profesörüdür (aynı zamanda eski danışmanımdır). Ayrıca sektörde, Amazon’un “uyandırma” sözcüğünden sorumlu seçkin ekipte çalışmıştır. Yapay zekânın tarihini, araştırmalarda sektör ile akademinin rollerini ve yapay zekâ güvenliğini ele alıyoruz. Alanının, köpek ve kedi görüntülerini sınıflandırmayı başaramayan küçük bir matematik meraklıları grubundan, gezegendeki en gözde teknolojiye (hepimizi öldürebilecek bir teknolojiye) dönüşmesini izledi. Lisansüstü öğrencisiyken, Astral Codex Ten’de yapay zekânın kıyametine ilişkin bilimkurgu tartışmalarını okur, bazen bunları Brian ve diğer profesörlerle paylaşırdım (partilerde eğlenceli biriydim). Şimdi ise bu senaryolar Yeshua Bengio gibi isimler tarafından ciddiye alınıyor.
Yapay zekâ güvenliği hakkında çoğunlukla, konuya ilişkin iyi geliştirilmiş görüşlere sahip sesli bir azınlıktan haber alıyoruz. Bu konuda bir görüş sahibi olmayı ve bunu kamuoyu önünde tartışmayı, kendileri için önemli uğraşlardan biri hâline getirmiş kişilerden. Ancak bunlar, büyük ölçüde, AGI ve sonuçları hakkındaki geniş ölçüde atıf alan anketleri yanıtlayan kişiler değil. Bu metin, kadrolu bir makine öğrenimi araştırmacısının bu konu hakkında nasıl düşündüğüne dair böyle değerli bir anlık görüntü sunuyor.
Fakat bunu p(doom) hakkında bir saatlik bir sohbet olarak sunmak istemiyorum; zamanın çoğunu daha az fantastik meselelerle geçiriyoruz. ChatGPT’nin konuşma özeti:
- BU Bilgi İşlem ve Veri Bilimi Fakültesi: Kulis, BU’da bilgi işlem ve veri bilimine odaklanan bu yeni birimin kuruluşundan söz etti. Bu birim, disiplinler arası iş birliğini ve çeşitli bölümlerden öğrenci alımını kolaylaştırıyor.
- Makine Öğreniminin Evrimi: Makine öğreniminin tarihi, 1940’larda McCulloch ve Pitts’in nöronlara ilişkin matematiksel modeliyle başlayan süreç ele alındı. Kulis, ilk modellerden günümüzdeki derin öğrenme dalgasına geçişi açıklayarak, on yıllar boyunca makine öğrenimi paradigmalarında yaşanan değişimleri vurguladı.
- Uzman Sistemlerden Günümüz Makine Öğrenimi Modellerine Geçiş: Kulis, 1970’lerde ve 1980’lerde yaygın olan uzman sistemlerden günümüz makine öğrenimi modellerine geçişi anlattı. İlk uzman sistemlerin sınırlı ve kırılgan olduğunu, bu nedenle gerçek dünya uygulamaları için uygun olmadıklarını belirtti.
- Makine Öğrenimi Araştırmaları ve Sektör: Sohbette, yapay zekâ ve makine öğrenimi yeteneklerinin akademi ile sektör arasında hareket etmesine değinildi. Kulis, çoğu zaman sektör rollerine yönelen yapay zekâ öğretim üyelerini akademide tutmanın akademinin karşılaştığı güçlüklerden söz etti.
- İstatistiksel Yapay Zekâ ve Çekirdek Yöntemleri: Görüşmede, makine öğrenimi tarihindeki rolü vurgulanarak istatistiksel yapay zekâ ele alındı. Kulis, istatistiksel yapay zekâdaki olasılıksal modeller kavramını ve bunların denetimsiz öğrenmedeki güçlü yönlerini açıkladı.
- Makine Öğrenimi Araştırmalarında Akademinin Rolü: Kulis, makine öğrenimi araştırmalarının mevcut görünümünde akademinin rolü üzerine düşündü. Akademinin karşılaştığı, kaynak kısıtları nedeniyle büyük modeller eğitememek gibi güçlüklerden ve araştırmalarda uzun vadeli düşünmenin öneminden söz etti.
- Yapay Zekânın Varoluşsal Riskleri: Sohbette ayrıca yapay zekâ ve varoluşsal riskler konusu, Hinton ve LeCun gibi tanınmış isimlerin görüşleri de dâhil olmak üzere, makine öğrenimi topluluğundaki tartışmalara ve kanaatlere atıfla ele alındı.
- Makine Öğreniminin Geleceği: Kulis, büyük dil modelleri, pekiştirmeli öğrenme, AGI ve kişiselleştirilmiş tıp dâhil olmak üzere makine öğreniminin çeşitli yönlerine ilişkin görüşlerini ifade etti. Alanında neyin abartıldığını veya yeterince takdir edilmediğini düşündüğüne dair kanaatlerini paylaştı.