처음에는 Vectors of Mind에 게재되었다.
“밖을 바라보는 사람은 꿈을 꾸고, 안을 바라보는 사람은 깨어난다.” -카를 융

성찰하지 않는 삶은 살 가치가 없지만, 그럼에도 용은 도사리고 있다. 예언자 티레시아스는 나르키소스가 “자기 자신을 결코 알지 못한다면” 오래 살 것이라고 경고했다. 실제로 그는 자신이 사랑하는 일을 하다가 죽었다. 아름다운 자신의 모습을 바라보며 연인에게 총애를 받는 일이었다. 모든 일에는 절제가 필요하다는 말이겠지.
무엇이 우리를 인간답게 만드는지는 수천 년 동안 철학자들의 논쟁 대상이었으며, 내성은 여전히 유력한 후보로 남아 있다. 내면을 들여다보려면 수학적 원리인 재귀가 필요하다. 자아가 자아를 지각하는 것이다. 최근에는 언어학자들도 논쟁에 뛰어들었고, 컴퓨터 과학의 통찰을 함께 가져왔다. 놀랍게도 인간다움이라는 문제에 대한 그들의 매우 상이한 접근은 동일한 답에 도달했다. 재귀는 우리가 미래를 상상하고 그 미래를 향해 노력할 수 있게 한다. 재귀를 통해 우리는 하늘에 성을 쌓을 수도 있고 지상에 성을 쌓을 수도 있다. 밈적 적소에 진입함으로써, 우리는 물질적 세계에만 살아가는 모든 종을 지배하게 되었다.
이처럼 서로 다른 접근들이 수렴하거나 하나의 속성이 그토록 많은 것을 설명하는 경우는 드물다. 따라서 이 연재는 인간 진화에서 재귀가 수행한 역할에 대해 극대주의적 입장을 취할 것이다. 이 주제는 이미 충분히 다루어진 영역이며, 첫 두 편의 글에서는 다른 사람들의 연구를 검토할 것이다. 재귀란 무엇이며, 언제 진화했는가. 나는 재귀가 어느 정도까지는 학습될 수 있다고 이론화했다. 이어지는 글들에서는 이 생각이 진화적 증거와 고고학적 증거를 더 잘 동기화하는 연대기를 어떻게 시사하는지 논의할 것이다. 마지막으로, 나는 자기 인식이 처음에는 성별화되어 있었을 가능성을 탐구한다. 여성들이 내적 삶을 발견했고, 남성들이 그 뒤를 따랐다.
컴퓨터 과학#
“공짜로 돈을 벌고, 공짜로 여자를 얻고” ~다이어 스트레이츠
나이가 들수록 공짜 점심은 없다는 사실을 깨닫게 된다. 모든 것에는 대가가 있고, 언제나 숨은 조건이 있다. 이와 관련하여 컴퓨터 과학자들은 때때로 순진해 보일 수 있다. 그 원인은 재귀를 배운 탓에 공짜 점심의 원리를 내면화하지 못했기 때문이다. 그들은 계산을 공짜로 얻을 수 있다는 것을 안다. 실제로 그것을 보았기 때문이다!
재귀 함수는 자신의 출력을 자기 자신에게 적용한다. 흔히 각각의 연속적인 적용은 하위 루틴이 되며, 어떤 종료 조건에 도달할 때까지 입력은 점점 더 단순해진다. 알고리즘의 관점에서 이는 초능력이다. 아래의 프랙털을 생각해 보자. 이미지를 저장하는 명백한 방법은 각 픽셀의 색을 열거하는 것이다. 또는 JPEG로 압축할 수도 있다. JPEG는 내부적으로 재귀를 사용하여 고속 푸리에 변환을 계산한다. 재귀가 없다면 몇 자릿수만큼 느려질 것이다.

이 이미지는 재귀적 과정으로 생성되므로 한 단계 더 나아갈 수 있다. 따라서 재귀 알고리즘을 작성하는 데 필요한 몇 바이트, 즉 몇 줄의 코드만으로 이미지를 무손실 인코딩할 수 있다. 그뿐만이 아니다. 어느 가장자리든 확대하면 점점 더 미세한 규모에서 프랙털이 영원히 자기 자신을 반복하는 모습을 볼 수 있으므로, 그 표현은 무한히 확장될 것이다. 재귀는 너무 적은 것으로부터 너무 많은 것을 만들어 낸다는 점에서 거의 연금술적이다. 전설적인 프로그래머 니클라우스 비르트의 말을 빌리면 다음과 같다.
재귀의 힘은 유한한 서술을 통해 무한한 객체의 집합을 정의할 수 있다는 가능성에 분명히 있다. 이와 마찬가지로, 유한한 재귀 프로그램을 통해 무한한 수의 계산을 기술할 수 있다. 설령 이 프로그램에 명시적인 반복이 전혀 포함되어 있지 않더라도 말이다.
내가 속한 자연어 처리 분야에서도 재귀를 사용한다. 최근까지 순환 신경망은 언어를 위한 선택 모델이었다. 이름이 시사하듯이, RNN은 문장을 한 번에 한 단어씩 재귀적으로 처리한다1. 이러한 순차적 처리는 시간 정보를 공짜로 표현한다. 문장 안에서 한 단어가 차지하는 위치는 그 단어가 입력되는 순서에 의해 알려지기 때문이다. 2018년 이후 거의 모든 언어 모델은 트랜스포머라고 불리는 피드포워드 네트워크의 한 유형이었다. 그러나 피드포워드 네트워크를 사용할 때에는 각 단어에 시간 정보를 덧붙여야 한다. 결국 컴퓨터는 이러한 비효율성을 걱정하지 않아도 될 만큼 강력하지만, 재귀가 자동으로 시간을 표현한다는 생각은 다시 논의하게 될 것이다. 이것이 뇌에서 구현되었다면 현상학적 도약이었을 것이다.
철학#
자기 인식을 하려면 자아가 자기 자신을 인식해야 한다. 자아 자체의 내부 과정이 자기 자신을 입력으로 삼는다. 이것이 재귀다.
나는 이를 다음과 같이 생각한다. 자신을 지각할 수 없는 원초적 자아를 상상해 보자. 이를 함수로 쓰면 *self(perceptions)*다. 이것은 자신의 정신 또는 관심사에 대한 자기 자신의 모델이었을 것이다. 입력으로는 자신이 지각하는 모든 것을 받는다. 내성은 필연적으로 재귀를 산출한다. 자아가 자기 자신을 입력으로 받게 되기 때문이다. 즉, self(self, perceptions)이다. 두 단계의 내성은 다음과 같이 쓸 수 있다2:

RNN의 사례를 통해, 이러한 재귀가 시간에 대한 우리의 지각과 경험을 어떻게 변화시킬 수 있는지 상상해 보자. 이는 이 차원을 공짜로 표현하는 새로운 방식이자, 특정한 순간에 살아간다는 것에 대한 급진적 변형일 것이다.
이 함수가 시작되던 험난한 초기 단계도 상상해 보는 것은 유익하다. 재귀 프로그램은 폭주하기 쉬우며, 이 프로그램은 당신의 머릿속에서 실행되고 있다. 가장 단순한 f(x) = x+1을 예로 들어 보자. 각 시간 단계마다 출력을 입력으로 재귀적으로 공급하면, 그 함수는 무한히 커질 것이다. 의식의 연쇄가 처음부터 끊김 없이 이어졌거나 유쾌했을 가능성은 희박하다. 그것은 간헐적인 발작과 폭주 속에서 시작되었을 것이다. 자아가 잠시 솟구쳤다가 자신의 지수적 증가에 의해 곧 질식하는 식이다. 뉴런은 흥분을 일정 수준 이상 감당할 수 없다. 재귀를 안정화하고 생물학적 한계에 도달하지 않도록 하려면 일종의 제어 체계가 필요했을 것이다. 우리가 동일시하지 않았던 분열된 인격과 내면의 목소리가 더 많았음이 틀림없다. 환각과는 별개로, 폭주하는 재귀는 극심한 두통과 같은 다른 부작용도 일으킬 수 있었을 것으로 보인다. 재귀의 진화는 몇 개의 달걀을 깨뜨렸을 것이다.
우리가 내면을 들여다보고 있지 않을 때에도 자아가 재귀적이라고 믿을 만한 이유가 있다. 이것이 논문 재귀적 시공간적 자기 위치로서의 의식과 더글러스 호프스태터의 *나는 기묘한 고리다*가 취하는 입장이다3. 그러나 이 점에 대해서는 많은 논쟁이 있다.
언어학#
데카르트는 주관성을 자기 인식과 동일시했다4. *“나는 생각한다, 고로 존재한다”*를 산출하는 데 필요한 언어와 일반 지능이 결여된 동물은 자동기계, 즉 고깃덩어리 기계였다. 언어학자들은 동물의 주관적 경험에 관해서는 아무런 주장도 하지 않지만5, 인간과 짐승을 가르는 경계선으로 재귀에 의견이 수렴되었다. 이는 촘스키의 중요한 공헌이었다. 모든 언어는 본질적으로 재귀적이며, 이 재귀가 인간에게 고유한 능력을 부여한다는 주장이다.
언어학에서의 재귀에 대해 더 알고 싶다면 코벌리스의 논문이나 각주6를 권한다. 그러나 이 글에서는 문법을 갖춘 언어에 재귀가 필수적이라는 점을 언어학자들이 널리 받아들이고 있다는 사실만 알면 충분하다.
심리학#
통찰력 있는 독자라면 여기에 잠재적인 미끼와 바꿔치기가 있는 것은 아닌지 당황할 수도 있다. 우리가 이 모든 것을 설명하는 데 재귀를 사용한다고 해서 그것들이 동일하다는 뜻은 아니다! 그런 지적은 타당하다. 실제로는 분명 몇 가지 차이가 있을 것이다. 그러나 여러 유형의 재귀를 한데 묶는 것은 주류적인 관행에서 완전히 벗어난 일이 아니다. 심리학자이자 언어학자인 마이클 코발리스는 저서 《재귀적 정신》에서 정신적 시간 여행과 셈을 할 수 있는 능력을 비롯해 몇 가지 심리적 초능력을 더 제시한다. 정신적 시간 여행이란 자신을 과거나 미래로 투사하는 것을 뜻한다. 이는 상상된 미래이므로, 존재하지 않는 세계인 허구를 창조하는 능력도 함의한다. 이러한 분리는 “나”가 처음으로 물질세계와 구별되는 심신 문제를 낳는다. 재귀를 갖게 된 뒤, 많은 체계가 이를 활용했다.
그것은 어떻게 진화했는가?#
핑커와 잭켄도프는 《언어 능력》에서 다음과 같이 쓴다.
“언어에 재귀가 필요한 유일한 이유는 언어의 기능이 재귀적 사고를 표현하는 것이기 때문이다. 재귀적 사고가 전혀 없다면, 표현 수단에도 재귀가 필요하지 않을 것이다.”
즉, 재귀는 언어와 별개로 진화한 뒤, 재귀가 출현하고 나서 우리의 의사소통 체계에 이식되었을 수도 있다. 의사소통 자체에는 재귀가 필요하지 않다. 그토록 많은 능력에 재귀가 필요하다면, 재귀는 왜 처음 진화했을까? 이것이 바로 백만 달러짜리 질문이다! 아무도 모른다.
*“여기서 문제는 진화적 선행 요인의 후보가 부족하다는 데 있는 것이 아니라, 후보가 지나치게 많다는 데 있다. 허버트 사이먼이 지적했듯이, 아마도 모든 복잡한 체계는 위계적 조직을 특징으로 할 것이다. 따라서 ‘재귀’를 위계적 분해와 동일시하고, 이를 언어로의 외적응의 원천이 될 기존 인지 기능을 식별하는 기준으로 사용한다면, 추측은 아무런 제약 없이 증식할 수 있다.” ~*핑커와 잭켄도프
그들은 음악, 사회적 인지, 대상을 부분으로 분해하는 일, 복잡한 행동 순서의 구성 등 몇 가지 가능성도 제시한다.
마음 이론을 옹호하는 논거#

이러한 선행 요인 가운데 사회적 인지가 두드러진다. 다른 사람의 마음을 모델링할 때 재귀가 유용하다는 점은 분명하다. 다음과 같은 기본적인 도덕 규칙을 생각해 보자. 남이 너희에게 해 주기를 바라는 대로 너희도 남에게 해 주어라. 이것은 올바른 행동에 대한 재귀적 모델이다. 이 규칙을 아무리 거칠게나마 사용하려 해도, 우리는 재귀를 향해 조금씩 나아가게 된다. 다윈은 평판 관리가 인간에게서 주요한 선택 요인이 될 것이라고 썼다.
언어 능력이 획득되고 공동체의 바람을 표현할 수 있게 된 뒤에는, 각 구성원이 공익을 위해 어떻게 행동해야 하는지에 대한 공동의 의견이 자연스럽게 매우 중요한 행동 지침이 되었을 것이다. ~《인간의 유래》
실제로 이것이 바로 처음에 나를 이 토끼 굴로 끌어들인 통찰이었다. 나는 성격 모델에서 지배적인 요인이 본질적으로 황금률이라는 점을 알아차렸다. 따라서 현대의 언어 모델링은 이 점에서 다윈을 뒷받침한다.
마찬가지로 던바는 사회적 뇌 가설을 제시했는데, 이 가설은 지능에 대한 선택이 주로 사회적 문제를 해결하기 위한 것이었다고 말한다. 더 직접적으로는 「재귀: 그것은 무엇이며, 누가 가지고 있고, 어떻게 진화했는가?」라는 논문이 재귀로 가는 경로로서 마음 이론(ToM)을 진지하게 다룬다. 정교함이 어느 임계점에 이르면 마음 이론의 상전이가 재귀를 만들어 낼 수 있다. 앞에서 나는 하나의 경로를 제시했는데, 자기 모델이 자기 자신을 입력으로 취하도록 임시변통으로 개조되는 경우였다.
따라서 재귀가 어디에서 비롯되었는지는 불분명하지만, 사회적 인지는 살펴볼 만한 좋은 지점이다. 덧붙여, 언어적 재귀가 자기 인식에 필요한 재귀와 동일하다면, 이것은 언어가 의식과 무슨 관계가 있는지를 간결하게 설명해 준다. 자기 인식에는 재귀가 필요하다. 그리고 재귀는 완전한 통사적 언어를 가능하게 한다.
결론#

눈의 진화가 우리로 하여금 전자기 스펙트럼을 볼 수 있게 했다면, 재귀의 진화는 우리가 내면과 상징 세계를 바라볼 수 있게 한 “제3의 눈”이었을 것이다.7 그것을 통해 우리는 상상된 미래를 보았고 밈적 적소에 진입했다. 재귀 이전의 인간에게 피타고라스 정리를 가르칠 수 없었을 것이며, 어쩌면 셈하는 법조차 가르칠 수 없었을 것이다8. 더 나아가 재귀는 시간을 표상하는 자연스러운 방법을 제공하여, 완전히 새로운 현상학적 차원을 드러냈다9. 우리는 내면을 바라보았고, 그 뒤로 줄곧 그곳에서 살아왔다.
재귀는 정의상 자기 인식에 필요하다. 재귀는 *“나는 생각한다. 그러므로 나는 존재한다”*와 같은 깨달음과, 아마도 그 밖의 많은 것을 가능하게 한다. 많은 전문가들은 주관성, 언어, 셈, 정신적 시간 여행에도 재귀가 필요하다고 주장한다. 여러 증거의 흐름은 이 능력을 가진 존재가 인간뿐임을 시사하며, 이것이 우리의 성공을 이끈 핵심이다.
이 글에서 우리는 재귀적 도구 상자의 구성 요소를 살펴보았다. 다음 연재에서는 재귀가 언제 진화했는지를 추정하려는 여러 시도를 자세히 살펴볼 것이다. 예고 삼아, 최초의 자기 인식 개체를 상상해 보자. 그것은 어떤 모습이었을까? 아이였을까, 성인이었을까? 수컷이었을까, 암컷이었을까? 갑각류였을까? 침팬지였을까? 인간이었을까? 문헌에는 매우 다양한 답이 제시되어 있다.
예를 들어 the cat chased the rat의 경우, RNN은 먼저 “the”를 입력으로 받아 문맥 벡터를 산출한다. 문맥 벡터는 네트워크가 그때까지 본 모든 것에 대한 일종의 기억이다. 이 문맥 벡터는 다음 단계에서 다음 단어와 함께 입력으로 받아들여진다. 따라서 “cat”이 처리될 때에는 문맥 벡터를 참조하게 된다. 그런 다음 문맥 벡터가 갱신되고, “chased”가 그 벡터와 함께 처리된다. 이 과정은 마지막 단어까지 반복된다. 각 단계에서 문맥 벡터가 갱신되고, 그다음 단계로 전달된다. ↩︎
중간 단계들이 있었을 것이다. 다음과 같은 거의 재귀적인 호출을 상상해 보자. self(rival(self)) 또는 mother(self(mother)). 사실 이것들도 재귀적이라고 주장할 수 있지만, 호출 사이에 몇 개의 시간 단계가 있는지, 또는 각 함수에서 어떤 정보가 통과되는지는 표준화되어 있지 않을 뿐이다. 많은 모듈이 있었을 것이고, 그 사이에서 정보가 오갔을 것이다. self()가 자주 호출되었다면, 자기 자신에 대한 정보가 얼마나 자주, 어떤 방식으로 자기 자신에게 되돌아오는지를 표준화하는 데 이점이 있었을 수 있다. 한 가지 해결책은 지속적 재귀다. ↩︎
닉 험프리의 연구도 참조하라. “의식에 대한 진화론적 접근은 ‘어려운 문제’를 해결할 수 있다 — 동물의 감각 능력에 관한 급진적 함의” ↩︎
글쎄, 여러 단계가 있었다. 그는 실체 이원론자였으며, 정신과 물질이라는 서로 구별되는 유형의 실체를 믿었다. 일반 지능과 내성은 전자의 유형을 보여 주는 증거였다. ↩︎
그들이 왜 그래야 하는가? 언어학자들에게 이 연결은 불필요하게 골치 아픈 문제를 불러오는 일이다. 그들에게는 재귀가 인간에게 중요하다는 증거가 충분히 있는데, 동물은 재귀가 없으면 자동기계라고까지 주장할 이유가 무엇인가? ↩︎
다른 영역에서와 마찬가지로 언어적 재귀는 문장이 자기 지시적 하위 루틴을 통해 구문 분석될 수 있음을 뜻한다. 예를 들어 Watson wrote that Holmes deduced the body was in the shed라는 문장은 세 부분으로 나눌 수 있다.
X1 = Watson wrote X2 = Holmes deduced X3 = the body was in the shed
X2를 구문 분석하려면 먼저 X3을 구문 분석해야 한다. 이를 합치면 P(P(X3), X2)가 된다. 그 결과는 다시 X1과 결합될 수 있다. P(P(P(X3), X2) X1). 절이 하나 추가될 때마다 문장의 의미는 완전히 달라지며, 이 과정은 무한히 계속될 수 있다. Jane said that John said that Harold said that…를 X1 + X2 + X3 앞에 영원히 덧붙일 수 있다. 단어 집합은 유한하지만, 가장 긴 문법적 문장은 존재하지 않는다. 재귀라는 연금술적 과정을 통해 우리는 유한한 구성 요소에서 무한을 캐낸다. ↩︎
과학에서는 함의가 불필요한 부담으로 여겨지며, 어떤 종류의 정서적 가치도 더럽히지 않은 단어를 찾기 위한 경쟁이 벌어진다. 그래서 첫 번째 성격 요인은 “사회적 자기 조절”이라고 불린다. 나는 이것을 황금률 및 그것을 낳은 수천 년에 걸친 종교적·철학적 논쟁과 연결하는 편을 선호한다. 마찬가지로 “제3의 눈”도 우리가 내성할 수 있는 능력을 설명하는 좋은 표현이라고 생각한다. 최근에는 뉴에이지 운동을 비롯한 종교들이 이를 사용해 왔더라도 말이다. ↩︎
피타고라스 정리의 발견에조차 얼마나 많은 신비주의가 관여했는지가 흥미롭다. ↩︎
분명히 동물도 시간 속에 존재한다. 주장은 재귀가 현상학적으로 중요했을 수 있다는 것이다. ↩︎
