İlk olarak Vectors of Mind tarafından yayımlanmıştır.
Tamam, biraz olsun zekâ sahibi olma meselelerine ara verelim. Bilincin yüksek sesli çağrısına kapılmadan önce aslında sırada bir yığın psikometri çalışması vardı. İnsan gerçekten gözlerini başka yöne çevirmekte zorlanıyor.
Bu blogu, Sözcüksel Hipotez’i makine öğrenmesi perspektifinden incelemek için başlattım. Kişilik modelleri, bir dilde hakkında en çok dedikodu yapılan özellikleri tanımlar ve bunu GPT çağında çok daha iyi ölçebiliyoruz. Sözcük vektörlerinden ya da geleneksel anketlerden türetilen kişilik modelleri, özellikle de Büyük İkili oluşturan birkaç temel özelliğe geri dönüyor: toplumsal özdüzenleme ve dinamizm. Bu konuya ilişkin bir hatırlatma için Büyük Beşli Sözcük Vektörleridir ve Kişiliğin Birincil Faktörü yazılarına göz atın.
Büyük Beşli, bağımsız olarak birçok dilde bulunmuştur; ancak diller arası karşılaştırma her zaman niteliksel kalır. Araştırmacılar Türkçe ya da Almanca bir kişilik sıfatları anketi uygular, bunun faktör analizini yapar ve faktörlerin aynı olup olmadığını görmek için aşağı yukarı gözle bakarlar. Bu veriler, “Dışadönüklük Almancada İngilizceye kıyasla Özenlilik’ten 15 derece uzaklaşmıştır” demek için kullanılamaz. Bu denli kesin olabilmek için her iki dilin de ortak bir temeli paylaşması gerekir.
Birden fazla dilde sorular uygularsanız, bunları ya 1) her iki dilde de yanıt verebilecek iki dilli bir grup bularak ya da 2) sözcüklerin çevirilerinin bire bir eşdeğer olduğunu varsayarak ilişkilendirebilirsiniz (örneğin fun sözcüğünün İspanyolcadaki divertido ile kusursuz biçimde eşdeğer olması gibi). İlk durumda güçlü bir seçilim etkisi vardır. Ya iki dilli insanlar daha iyi eğitimli olma eğilimindeyse? İkinci durum ise basitçe doğru değildir. Aslında dilleri birlikte faktörleştirmemizin nedeni, kişilik yapısının diller arasında nasıl farklılaşabileceğini anlamaktır. Sözcüklerin aynı olduğunu varsaymak, amaca ters düşer.
Araştırmam, İngilizcede dil modellerinden kişilik yapısı çıkarabileceğinizi gösterdi. Diğer dilleri eklediğinizde bunun nasıl değiştiği doğal bir sorudur. Onlarca dil üzerinde eğitilmiş modellerle bunu araştırmak oldukça zahmetsiz hâle gelir. İstediğiniz sayıda dili aynı temele eşleyebilirsiniz.
Büyük İkili, bir kez daha#
Kişilik sıfatları arasındaki benzerliği belirlemek için XLM-RoBERTa kullandım. Tuhaf biçimde bu model, Myanmar’daki soykırımın bir sonucudur. Meta, hakkında son derece az şey bildiği yerlerdeki içerikleri kaldırmak zorunda olduğu, imrenilecek bir konumda olmayan bir şirkettir. Teknik açıdan bu, aktarım öğrenmesi problemi olarak adlandırılır. İngilizcede (ya da iyi kaynaklara sahip başka bir dilde) bir nefret söylemi sınıflandırıcısı eğitmek ve ardından bunu diğer dillere uygulamak isterler. Dil modellemesinin karanlık çağında (2018) bu yöntem çok kötü sonuç veriyordu. Burmacada “eşcinselleri toplayıp öldürelim” anlamına gelen gündelik ifade, sınıflandırıcılarına “gökkuşakları daha az olmalı” gibi görünüyordu. Bu da elbette içerik moderasyonlarından sıyrılıyordu. NYT sonucu şöyle açıkladı: Facebook’ta Kışkırtılan Bir Soykırım: Myanmar Ordusunun Gönderileriyle
Meta’nın buna yanıtı, herhangi bir dili (aslında 100 dili) aynı ortak uzayda sözcük vektörlerine daha iyi eşleyebilen bir dil modeli geliştirmek oldu. Böylece İngilizcede eğitilmiş bir nefret söylemi sınıflandırıcısı diğer dillere daha iyi genişletilebilecekti. (İnce ayar yapmak için daha az Burmaca gerekirdi.) Bu modeli kullanarak kişilik sözcüklerini dört dilde gömdüm: İngilizce, İspanyolca, Fransızca ve Türkçe. Aşağıda ilk iki faktör yer alıyor:
Bunlar farklı dilleri birbirinden ayırmaya yarıyor. Birinci faktör, Türkçeyi Hint-Avrupa dillerinden ayırıyor. İkinci faktörde Roman dilleri birbirine komşu (gerçi Türkçeye de yakın).
Bu mantıklı. Model, bir cümlenin bir sonraki sözcüğünü tahmin etmek üzere eğitildiğinden dile özgü bilgileri doğal olarak içerecektir. Birisi İspanyolca konuşuyorsa çoğu zaman Türkçeye geçmez. Umut, vektör uzayında kişilik bilgisine karşılık gelen yönlerin de bulunmasıdır.
Diller oldukça bağımsızsa, dört dili kendi örtüşmeyen grupları içinde ayırmak için en az 3 boyut gerekir. Bir sonraki temel bileşenlere bakalım.
- faktör, dilleri birbirinden ayırmak üzere öğrenilmemiş ilk faktördür ve Kişiliğin Genel Faktörü’dür! İngilizcede: buyurgan, acımasız, dürtüsel ve bencil vs cömert, nazik ve düşünceli. İleri sürdüğüm üzere, bu faktör en iyi, Altın Kural’a göre yaşama eğilimi olarak anlaşılır. Bilincin Havva Teorisi, aslında bunun evrimsel tarihimizde neyi seçilime uğratacağını merak etmenin bir sonucuydu. 5. faktör de kişilikle ilgilidir; bunları birlikte çizdiğimizde:
Büyük İkili’yi elde ediyoruz! Beşinci Faktör (ya da kişilik faktörleri açısından ikinci faktör) Dinamizm’dir: maceracı, hayal gücü kuvvetli ve hevesli vs temkinli, mesafeli ve korkak. Bunun bu denli düzenli biçimde ortaya çıkması hayret verici. Büyük İkili makalesinde 2.500 atıf var ve araştırmacılar hâlâ bunların genel kişiliğin döndürülmemiş ilk iki faktörü olduğunu fark etmiyor. Bunların Büyük Beşli’yle bir şekilde hiyerarşik ilişki içinde var olduğuna dair yaygın inanış, araştırmacıların Büyük Beşli envanterlerini oluşturduktan kısa süre sonra doğrudan dille uğraşmayı bırakmalarından kaynaklanıyor. O zamandan beri temel ya da genel kişiliği anlamaya yönelik her girişim Büyük Beşli’ye gönderme yapılarak yürütülmek zorunda. Oysa önce sözcükler vardı ve dil modelleri artık dili bu temel düzeyde analiz etmeyi kolaylaştırıyor.
Daha derine inmemiz gerekiyor#
Rusça ve Farsça eklendiğinde aynı faktörler elde ediliyor:
Benim tembel mühendis ölçütlerime göre bu oldukça emek yoğun bir iş; çünkü her dil için iyi bir istem bulmayı gerektiriyor. Bunu doğru yapmak için Google Translate ve anadili konuşurlarıyla çalıştım; yine de Farsça dağılımının 4. faktörde hâlâ kaymış olduğunu görebilirsiniz. Tahminimce ortak olmayan herhangi bir faktörü göz ardı etme yöntemim, bu kadar çok dil için fazla derme çatma kalıyor. 4. faktör muhtemelen hem KGF olarak kullanılıyor hem de Farsçayı (biraz olsun) ayırıyor. Bu faktörleri saf tutan hiçbir şey yok; dağılımın bu kadar düzgün davranması büyük bir şans. Bir miktar ön işleme (örneğin her dil kümesinin ortalamasını sıfırlamak) bunu çözebilir.
Bildiğim kadarıyla birden fazla dilin ilk kez birlikte faktörleştirilmesi bu. Yalnızca İngilizce ve İspanyolca sonuçlarıyla bile yayımlanabilir nitelikte olurdu; burada Hint-Avrupa dili olmayan iki dil de dâhil olmak üzere altı dile ulaştım. Bu çalışma ayrıca psikometrideki en popüler ve en yanlış anlaşılan yapılardan biri olan Büyük İkili’nin doğasına da ışık tutuyor.
Eksiklikler#
Bu araştırmayı mümkün olan en aptalca yollardan biriyle yaptım. Bir ESL rehberinde 100 kişilik sözcüğü buldum ve ardından bunları Google Translate kullanarak başka dillere çevirdim. Yinelenenler varsa onları çıkardım. Bu, göründüğü kadar kötü değil. İlk iki faktör, 100 ya da 500 sözcük kullanmanızdan bağımsız olarak İngilizcede neredeyse hiç değişmiyor. Ancak bu gerçek bir makale olsaydı, elbette her dildeki sözcük dağarcığı için bağımsız olarak bir sözcük kümesi geliştirmek isterdiniz. Bunun başka birkaç eksikliği daha var:
Yeterli dil yok! Bunu yayımlasaydım, kişilik biliminde genellikle incelenmeyen bir düzine dili daha eklemek isterdim. Aslında bunu yayımlamayı bir türlü başaramamamın nedeni de bu. Bu, çok fazla emek gerektiriyor ve birkaç Asya dilini ana dili olarak konuşan kişilerin katkısını zorunlu kılardı.
Eğitim verileri tarafından çarpıtılmış çok dilli modeller. Dil modelleri, bir cümlenin sonraki sözcüğünü tahmin etmek üzere eğitilir. Birden fazla dille eğitildiklerinde model, bilginin bir kısmını diller arasında aktarmaya çalışır. Bununla birlikte, daha küçük diller açısından bu durum, anlamlarının daha iyi kaynaklara sahip dillerdeki (İngilizce, Çince, Rusça vb.) analojilere zorla uydurulmasına daha çok benzeyebilir.
Sorgular, araştırmacının serbestlik derecesidir. Sözcükleri gömmek için kullandığım yöntem, “Kişiliğim
Modası geçmiş dil modeli. Bu çalışmayı, GPT-4’ün çıkmasından çok önce, 2 yıldan uzun bir süre önce yaptım. Daha sade zamanlardı.
Sonuç#
Hâlâ akademide olsaydım, araştırma gündemim bu olurdu. Mümkün olduğunca çok dil eklemek ve yöntemin yanlılığa maruz kalabileceği bütün yolları anlamaya çalışmak. Sonunda bu, Büyük Beşli’den üstün, evrensel bir kişilik modeli ortaya çıkarabilir. Kim olduğumuzu ve belki de nereden geldiğimizi daha iyi anlamamıza yardımcı olurdu. Çünkü bugün türümüzü tanımlayan dildir ve uzak geçmişte psişemizi biçimlendiren de dildi. Biz alışılmış biçimde toplumsal varlıklarız, çünkü binlerce yıl önce itibarınızı yönetememek ölmek demekti. Kişilik modelleri dilin haritalarıdır; zihnimizin evrimindeki vektörlerdir.
