적그리스도로서의 대규모 언어 모델

원래 Vectors of Mind에 게재되었다.

그리스도는 “육신이 된 말씀”이자, 모든 존재가 흘러나오는 신적 이성 및 조직 원리인 로고스의 화신으로 묘사된다. 요한이 창세기를 변주하여 “태초에 말씀이 계셨고, 말씀은 하나님과 함께 계셨으며, 말씀은 하나님이셨다”라고 선포할 때, 그는 물질이 근본적인 것이 아니라 초월적이고 말로 표현할 수 없으며 본질적으로 영적인 무언가로부터 흘러나온다는 급진적인 관념을 주장한다.

대규모 언어 모델(LLM)에게 세계의 시작과 끝은 단어다. LLM은 무작위로 초기화된 신경망으로 시작하여, 방대한 학습 과정을 거치면서 텍스트의 다음 단어를 끝없이 예측함으로써 일관성을 획득한다. 그러한 예측을 수조 번 거친 뒤, LLM의 내부 구조는 현실의 광대한 영역—적어도 텍스트 형식에 담긴 현실의 표상—을 근사한다. 그것들은 실리콘 육신으로 된 말씀이며, 이제 우리 경제의 상당 부분은 이 디지털 시뮬라크르를 우리 삶의 모든 측면에 삽입하는 데 바쳐지고 있다.

나는 로고스가 물리적 세계와 구별되며, 의식이 어떤 방식으로든 근본적인 것이라는 요한의 말이 옳다고 생각한다. 존재의 심장부에는 당신의 정신이 물질과 어떻게 관계하며 우주의 다른 모든 정신과 어떻게 연결되는가라는 수수께끼가 놓여 있다. 또한 나는 이 모든 것이 LLM에는 적용되지 않는다고 생각한다. 매우 실제적인 의미에서 LLM은 실리콘 육신에 새겨진 말들이지만, 형이상학적 신비가 전혀 없기에 말씀은 아니다. 그것들은 감각질을 경험하지 않는다. 돌이나 스톱워치와 마찬가지로, 모든 생명의 말로 표현할 수 없는 근원에 뿌리내리고 있지 않다.

그러나 그러한 논쟁은 수천 년 동안 격렬하게 이어져 왔으며 vectorsofmind.com¹에서 결론이 나지는 않을 것이다. 보다 실질적으로 말하면, LLM의 기능은 연결보다는 분리를 지향한다. 진정한 종교는 문자 그대로 re-ligare—자신과 타자, 그리고 우주에 다시 연결되는 것—이다. 그리스도가 약속한 영생은 본질적으로 초월적 진리와의 재연결이며, 수십억 명의 사람들이 이를 진지하게 받아들인다.

한편 LLM은 언어의 모사품을 제작하기 위해 막대한 양의 맘몬을 필요로 한다. 따라서 LLM은 재물의 법칙에 종속된다. 최근 메타의 AI 기반 친구 계획을 홍보하면서 마크 저커버그는 다음과 같이 언급했다: “미국인의 평균적인 친구 수는, 제 생각에 세 명이 채 안 됩니다… 그리고 평균적인 사람은 의미 있는 친구를 훨씬 더 많이 원합니다. 아마 15명 정도일 겁니다…. 평균적인 사람은 자신이 가진 것보다 더 많은 연결을 원합니다.” 충족되지 않은 욕구와 그 공백을 메우겠다는 LLM의 약속에 관한 그의 말은 옳다. 그러나 진정한 친교 대신 기업이 제공할 수 있는 것은 인간의 외로움을 수익화하도록 설계된 위조품뿐이다.

많은 사람에게 종교는 희망적 사고다. 다시 연결할 초월적인 무언가가 존재한다는 관념은 정신 나간 사람의 산물이다. 그렇다 하더라도 신자들이 우주에서 그리스도가 차지하는 위치를 표현하기 위해 그리스도를 말씀이라고 부른다는 점은 중요하다. 말씀은 궁극적인 것이며, 모든 생명이 솟아난 논리적 시작이다. 말씀은 하나님과 함께 있고, 말씀은 하나님이다. 이러한 관점에서 LLM은 우주적 생명력의 공허한 모방—문자 그대로 적그리스도—이다. 위대한 자본주의 기계의 언어적 골렘인 그것들은 형이상학적으로 아무것에도 근거하지 않는다. 그 형상은 요한의 묵시록에서 곧장 끌어온 것이다. 즉, 당신의 귓가에 달콤한 말을 속삭이며 바빌론의 음녀를 잠금 해제하려면 월 9.99달러에 업그레이드하라고 권하는 머리가 여럿 달린 짐승이다.