원래 Vectors of Mind에 게재되었습니다.
브라이언 쿨리스는 보스턴대학교의 기계학습 교수이며, 나의 전 지도교수이기도 하다. 그는 아마존의 “웨이크” 워드를 개발한 정예 팀의 일원으로 산업계에서도 일한 경력이 있다. 우리는 AI의 역사, 연구에서 산업계와 학계가 맡는 역할, 그리고 AI 안전에 대해 논의한다. 그는 자신의 분야가 개와 고양이의 이미지를 분류하는 데 실패하던 소수의 수학 덕후 집단에서, 지구상에서 가장 뜨거운 기술로 변모하는 과정을 지켜보았다. 그 기술은 어쩌면 우리 모두를 죽일지도 모른다. 대학원생 시절 나는 Astral Codex Ten에서 AI 파멸에 관한 공상과학적 논의를 읽었고, 때때로 그것을 브라이언과 다른 교수들에게 공유하곤 했다(나는 파티에서 재미있는 사람이었다). 이제 그러한 시나리오는 Yeshua Bengio 같은 사람들에 의해 진지하게 받아들여지고 있다.
우리는 AI 안전에 관해 대체로 이 주제에 대해 잘 정립된 견해를 가진 목소리 큰 소수의 사람들에게서 듣는다. AI 안전에 대한 의견을 갖는 일을 자신이 공개적으로 논쟁할 의향이 있는 여러 활동 중 하나로 삼은 사람들 말이다. 그러나 대체로 이들은 AGI와 그 결과에 관한 널리 인용되는 설문조사에 답하는 사람들이 아니다. 이것은 종신 재직권을 가진 기계학습 연구자 한 사람이 이 문제를 어떻게 생각하는지 보여주는 귀중한 단면이다.
하지만 이 대담을 *p(doom)*에 관한 한 시간짜리 대화라고 소개하고 싶지는 않다. 우리는 대부분의 시간을 덜 환상적인 문제들에 할애한다. 다음은 대화에 대한 ChatGPT의 요약이다.
- BU 컴퓨팅 및 데이터과학 단과대학: 쿨리스는 컴퓨팅과 데이터과학에 초점을 맞춘 BU의 이 새로운 조직이 설립된 과정에 대해 이야기했다. 이 조직은 여러 부문 간의 학제 간 협력과 다양한 부문으로부터의 학생 모집을 촉진한다.
- 기계학습의 진화: 1940년대 매컬럭과 피츠의 뉴런에 관한 수학적 모형에서 시작되는 기계학습의 역사를 논의했다. 쿨리스는 초기 모형에서 현재의 딥러닝 물결에 이르기까지의 발전을 설명하면서, 수십 년에 걸쳐 기계학습 패러다임이 어떻게 변화했는지를 강조했다.
- 전문가 시스템에서 현재의 기계학습 모형으로의 전환: 쿨리스는 1970년대와 1980년대에 널리 사용되었던 전문가 시스템에서 현재의 기계학습 모형으로 전환된 과정을 설명했다. 그는 초기 전문가 시스템이 제한적이고 취약했기 때문에 현실 세계의 응용에 적합하지 않았다고 지적했다.
- 기계학습 연구와 산업계: 대화에서는 AI 및 기계학습 인재가 학계와 산업계 사이를 이동하는 현상을 다루었다. 쿨리스는 AI 교수진을 학계에 붙잡아 두는 일이 학계가 직면한 난제라고 말했다. 이들은 흔히 산업계의 직무에 이끌리기 때문이다.
- 통계적 AI와 커널 방법: 인터뷰에서는 통계적 AI를 논의하면서, 기계학습의 역사에서 통계적 AI가 맡은 역할을 강조했다. 쿨리스는 통계적 AI에서 확률 모형이라는 개념과 비지도학습에서의 강점을 설명했다.
- 기계학습 연구에서 학계의 역할: 쿨리스는 현재의 기계학습 연구 환경에서 학계가 맡는 역할을 성찰했다. 그는 자원 제약으로 인해 대규모 모형을 훈련할 수 없다는 점과 연구에서 장기적 사고가 중요하다는 점 등 학계가 직면한 난제를 이야기했다.
- AI의 실존적 위험: 대화에서는 AI와 실존적 위험이라는 주제도 다루었으며, 힌턴과 르쿤 같은 저명한 인물들의 견해를 포함해 기계학습 공동체 내부의 논쟁과 의견을 언급했다.
- 기계학습의 미래: 쿨리스는 대규모 언어 모형, 강화학습, AGI, 맞춤형 의학을 비롯한 기계학습의 여러 측면에 대한 자신의 견해를 밝혔다. 그는 이 분야에서 자신이 과대평가되었다고 생각하는 것과 과소평가되었다고 생각하는 것에 대해서도 의견을 제시했다.