원래 Vectors of Mind에 게재된 글입니다.


좋습니다. 잠시 지성에 관한 이야기에서 벗어나 봅시다. 사실 의식의 우렁찬 부름에 이끌리기 전까지 심리측정학에 관한 글을 한 무더기 준비해 두고 있었습니다. 도무지 시선을 돌리기가 어렵습니다.

Personality around the world의 이미지
[율리시스와 세이렌](https://en.wikipedia.org/wiki/Ulysses_and_the_Sirens_(Waterhouse), John William Waterhouse의 그림

나는 기계학습의 관점에서 어휘 가설(Lexical Hypothesis)을 탐구하기 위해 이 블로그를 시작했습니다. 성격 모형은 한 언어에서 가장 많이 소문나는 특성들을 정의하며, GPT의 시대에는 그 정도를 훨씬 더 잘 측정할 수 있습니다. 단어 벡터에서 도출한 성격 모형이든 전통적인 설문조사에서 도출한 성격 모형이든, 결국 몇 가지 동일한 특성으로 수렴하며, 특히 두 개의 큰 요인, 즉 사회적 자기조절과 역동성으로 수렴합니다. 이를 복습하려면 빅 파이브는 단어 벡터다성격의 주요 요인을 참고하십시오.

빅 파이브는 여러 언어에서 독립적으로 발견되었지만, 언어 간 비교는 늘 질적인 수준에 머뭅니다. 연구자들은 터키어나 독일어로 성격 형용사 설문을 실시하고, 이를 요인분석한 다음, 요인들이 동일한지 확인하기 위해 대략 눈대중으로 비교합니다. 이 데이터로는 “독일어에서 외향성은 영어에 비해 성실성으로부터 15도 이동해 있다”고 말할 수 없습니다. 이처럼 정밀하게 말하려면 두 언어가 어떤 공통 기반을 공유해야 합니다.

여러 언어로 질문을 실시할 경우, 언어들을 서로 연결하는 방법은 1) 두 언어 모두로 답할 수 있는 이중언어 집단을 찾거나, 2) 단어의 번역이 일대일로 대응한다고 가정하는 것입니다(예를 들어 fun이 스페인어의 divertido와 완전히 동등하다고 가정하는 식입니다). 전자의 경우에는 강한 선택 효과가 발생합니다. 이중언어 사용자가 더 높은 교육 수준을 갖는 경향이 있다면 어떻게 될까요? 후자는 그저 사실이 아닙니다. 사실 언어들을 함께 요인분석하는 이유는 언어마다 성격 구조가 어떻게 달라질 수 있는지를 이해하기 위해서입니다. 단어들이 동일하다고 가정하면 목적 자체를 무너뜨리게 됩니다.

나의 연구는 영어의 언어 모형에서 성격 구조를 추출할 수 있음을 보여 주었습니다. 그렇다면 다른 언어를 추가할 때 이 구조가 어떻게 달라지는가? 이는 자연스러운 질문입니다. 수십 개 언어로 학습된 모형을 사용하면 이 문제를 상당히 수월하게 탐구할 수 있습니다. 얼마든지 많은 언어를 동일한 기반에 사상할 수 있습니다.

다시 보는 두 개의 큰 요인#

나는 성격 형용사들 사이의 유사도를 부여하기 위해 XLM-RoBERTa를 사용했습니다. 이상하게도 이 모형은 미얀마의 집단학살의 결과물입니다. Meta는 자신이 거의 이해하지 못하는 지역에서 콘텐츠를 삭제해야 하는 난처한 처지에 있습니다. 기술적으로 이는 전이학습 문제라고 합니다. Meta는 영어(또는 자료가 더 풍부한 다른 언어)로 혐오 발언 분류기를 학습한 뒤, 그것을 다른 언어에도 적용하고자 합니다. 언어 모형의 암흑기(2018년)에는 이 방식이 매우 형편없이 작동했습니다. 버마어로 “게이들을 모조리 잡아들여 죽이자”라고 말하는 구어체 표현이 분류기에는 “무지개가 더 적어야 한다”는 말처럼 보였습니다. 물론 이는 콘텐츠 조정을 그대로 통과했습니다. NYT는 그 결과를 다음과 같이 설명했습니다. 페이스북에서 선동된 집단학살, 미얀마 군부의 게시물과 함께

Meta의 대응은 어떤 언어든(정확히는 100개 언어를) 동일한 공유 공간의 단어 벡터로 더 잘 사상할 수 있는 언어 모형을 구축하는 것이었습니다. 그렇게 하면 영어로 학습한 혐오 발언 분류기를 다른 언어로 더 잘 확장할 수 있습니다. (이를 미세 조정하는 데 필요한 버마어의 양도 줄어듭니다.) 나는 이 모형을 사용하여 영어, 스페인어, 프랑스어, 터키어의 네 언어로 된 성격 단어를 임베딩했습니다. 아래는 처음 두 요인입니다.

Personality around the world의 이미지

이 요인들은 서로 다른 언어들을 분리하는 역할을 합니다. 첫 번째 요인은 터키어와 인도유럽어족 언어들을 구분합니다. 두 번째 요인에서는 로망스어들이 서로 인접해 있습니다(터키어와도 가깝기는 합니다).

이는 타당합니다. 이 모형은 문장의 다음 단어를 예측하도록 학습되므로, 자연스럽게 언어별 정보를 포함하게 됩니다. 누군가 스페인어로 말하고 있다면 터키어로 전환하는 경우는 많지 않습니다. 벡터 공간에도 성격 정보에 대응하는 방향이 존재하기를 기대할 수 있습니다.

언어들이 상당히 독립적이라면, 네 언어를 서로 겹치지 않는 각자의 집단으로 분리하는 데에는 최소 3개의 차원이 필요합니다. 다음 주성분들을 살펴봅시다.

Personality around the world의 이미지

요인 4는 언어들을 분리하도록 학습되지 않은 최초의 요인이며, 성격 일반 요인(General Factor of Personality)입니다! 영어로는 domineering, ruthless, compulsiveselfish generous, gentle,thoughtful입니다. 나는 이 요인을 황금률에 따라 살아가려는 경향으로 이해하는 것이 가장 적절하다고 주장해 왔습니다. 의식의 이브 이론은 실제로 이것이 우리의 진화사에서 무엇을 선택했을지 고민한 결과였습니다. 요인 5 역시 성격에 관한 요인입니다. 이를 함께 도표로 나타내면 다음과 같습니다.

Personality around the world의 이미지

두 개의 큰 요인을 얻습니다! 요인 5(또는 성격 요인 중에서는 요인 2)는 역동성입니다. adventurous, imaginative,enthusiastic cautious, reserved,cowardly입니다. 이것이 이토록 규칙적으로 나타난다는 사실은 놀랍습니다. 두 개의 큰 요인 논문에는 2,500개의 인용이 있지만, 연구자들은 여전히 이것들이 성격 일반의 회전되지 않은 최초의 두 요인일 뿐이라는 사실을 깨닫지 못하고 있습니다. 이들이 어떻게든 빅 파이브와 위계적 관계에 있다는 통념은, 연구자들이 빅 파이브 검사 목록을 만든 직후 언어를 직접 다루는 일을 포기한 데서 비롯됩니다. 그 이후로 기초적 성격이나 일반적 성격을 이해하려는 모든 시도는 빅 파이브를 기준으로 이루어져야 했습니다. 그러나 먼저 존재한 것은 단어였고, 이제 언어 모형을 사용하면 그 근본적인 수준에서 언어를 쉽게 분석할 수 있습니다.

더 깊이 들어가야 한다#

러시아어와 페르시아어를 추가해도 동일한 요인들이 나옵니다.

단어를 더 잘 보려면 이미지를 내려받아 확대하십시오.
단어를 더 잘 보려면 이미지를 내려받아 확대하십시오.

게으른 엔지니어인 나의 기준으로 보면, 이는 각 언어에 적합한 프롬프트를 찾아야 하므로 상당히 노동집약적입니다. 나는 Google 번역과 모어 화자들의 도움을 받아 이를 제대로 처리했지만, 요인 4에서 페르시아어의 분포가 여전히 어긋나 있음을 볼 수 있습니다. 공유되지 않는 요인은 모두 무시하는 나의 방법이 이렇게 많은 언어에는 지나치게 엉성한 것일 가능성이 있다는 것이 내 추측입니다. 요인 4는 아마 성격 일반 요인으로 사용되는 동시에 페르시아어를 (조금이나마) 분리하는 데에도 사용될 것입니다. 이 요인들을 순수하게 유지해 주는 것은 아무것도 없으며, 분포가 이처럼 양호하게 유지되는 것은 정말 운이 좋은 일입니다. 전처리(각 언어 군집을 평균 0으로 만드는 것 등)를 수행하면 이 문제가 해결될 수도 있습니다.

내가 아는 한, 여러 언어를 함께 요인분석한 것은 이번이 처음입니다. 영어와 스페인어만으로도 이 결과는 출판할 수 있을 텐데, 여기서는 인도유럽어족이 아닌 두 언어를 포함하여 최대 여섯 개 언어까지 다루었습니다. 또한 심리측정학에서 가장 널리 알려져 있으면서도 가장 오해받는 구성개념 중 하나인 두 개의 큰 요인의 본질을 밝히는 데에도 도움이 됩니다.

한계점#

나는 이 연구를 가능한 한 가장 서투른 방식으로 진행했다. ESL 안내서에서 성격을 나타내는 단어 100개를 찾은 다음, Google 번역을 사용해 그것들을 다른 언어로 번역했다. 중복된 항목이 있으면 제거했다. 보기만큼 나쁜 방식은 아니다. 100개 단어를 사용하든 500개 단어를 사용하든, 영어에서 처음 두 요인은 사실상 변하지 않는다. 하지만 이것이 실제 논문이었다면, 각 어휘에서 독립적으로 단어 집합을 개발하고자 했을 것이 분명하다. 그 밖에도 몇 가지 한계가 있다.

언어가 충분히 많지 않다! 이 연구를 발표한다면, 성격과학에서 일반적으로 연구되지 않는 언어를 열두 개쯤 더 추가하고 싶다. 사실 이것이 내가 결국 이 연구를 발표하지 못한 이유다. 엄청난 작업이 필요하고, 여러 아시아 언어의 모어 화자들이 필요했을 것이다.

훈련 데이터에 의해 왜곡된 다언어 모델. 언어 모델은 문장의 다음 단어를 예측하도록 훈련된다. 여러 언어를 사용해 훈련하면, 모델은 지식의 일부를 서로 전이하려고 한다. 그러나 규모가 작은 언어의 경우, 이는 해당 언어의 의미가 더 풍부한 자료를 가진 언어들(영어, 중국어, 러시아어 등) 안의 유사성에 억지로 맞춰지는 것처럼 나타날 수 있다.

질의문은 연구자의 자유도에 해당한다. 단어를 임베딩하는 데 내가 사용한 방법은 “My personality can be described as and [word]”이며, 여기서 [word]는 성격을 나타내는 단어 중 하나다. 문장이 작성된 방식 때문에 모델은 마스크 토큰에 순수한 성격 정보를 불러온 다음 그것을 임베딩한다. 내 박사학위 논문에서는 이 방식이 가장 잘 작동했다. 물론 이와 관련해서는 무한히 많은 변형이 가능하며, 그중 하나를 선택해야 한다. 이론적으로 연구자는 특정한 결과를 염두에 둔 뒤, 그 결과를 뒷받침하는 질의문을 찾아낼 수도 있다. 내 생각에는 이것이 지나치게 큰 위험은 아니다. 이 결과가 설문조사 방법이 산출하는 결과와 매우 유사하기 때문이다. 우리는 요인분석을 통해 어떤 성격 구조를 발견할지에 대해 상당히 강한 사전적 기대를 갖고 있다. 이 방법이 그러한 구조를 재현한다는 사실은 이 방법이 작동한다는 증거다.

시대에 뒤떨어진 언어 모델. 나는 이 작업을 2년보다도 더 전에, GPT-4가 나오기 훨씬 전에 했다. 더 단순했던 시절이다.

결론#

내가 아직 학계에 있었다면, 이것이 내 연구 의제가 되었을 것이다. 가능한 한 많은 언어를 추가하고, 이 방법이 편향될 수 있는 모든 방식을 이해하려고 할 것이다. 결국 이 방법은 빅 파이브보다 우월한 보편적 성격 모형을 산출할 수도 있다. 이는 우리가 누구인지, 어쩌면 우리가 어디에서 왔는지도 더 잘 이해하는 데 도움이 될 것이다. 지금 우리 종을 규정하는 것은 언어이며, 먼 과거에 우리의 정신을 단련해 만든 것 또한 언어였기 때문이다. 수천 년 전에는 자신의 평판을 관리하지 못하면 죽음을 맞이했기 때문에, 우리는 습관적으로 사회적 존재가 되었다. 성격 모형은 언어의 지도이며, 우리 정신의 진화 속에 놓인 벡터다.

전 세계의 성격에서 가져온 이미지