2부: 문어, 박쥐, 외계인의 표상

2부: 문어, 박쥐, 외계인의 표상

 
강력한 인공지능을 개발하기 위한 경쟁에서 우리는 종종 인간의 특성을 기계에 투영한다. 우리는 AI가 "알고 있다", "생각한다", "결정한다", 심지어 "느낀다"라고 말한다. 하지만 이러한 의인화된 언어는 더욱 신중히 사용해야 할 것이다. 그 이유는 바로 마음이 신경 알고리즘으로 만들어진 것이 아니라는 것이다. 마음은 신체에 뿌리를 두고, 진화를 통해 형성되었으며, 생명의 재료로 만들어졌다.
생물학적 생명체들 사이에서도 마음은 근본적으로 다르다고 볼 수 있다. 문어의 지능, 박쥐의 음파의 반향을 기반으로 하는 지각, 외계인의 이해하지 못할 마음 을 생각해 보자. 뉴런과 신경계를 가진 이러한 생명체들이 우리가 이해하기 어려운 방식으로 세상을 표상(representation)한다면, 인공적으로 만들어진 신경망 내부의 표상은 우리의 상상과 얼마나 더 다를까?

반응형

문어, 박쥐, 외계인의 속마음

문어의 속마음

문어는 똑똑하고 호기심이 많으며 문제 해결 능력이 뛰어난 생물로 알려져 있다. 병을 열고, 몸의 색을 주변 색으로 바꿀 수 있고, 수족관에서 탈출할 수도 있다. 하지만 문어의 뇌, 그리고 의식은 우리와 크게 다르다. 문어의 신경 세포 중 3분의 2는 뇌가 아니라 다리에 있으며, 각 다리는 중앙의 조절 없이 거의 독립적으로 작동하여 탐험, 조작, 감지할 수 있다. 문어의 뇌는 우리의 뇌와 완전히 다르게 진화해왔다.
문어에게 세상은 어떻게 "보일까?" 단순한 시각적 이미지가 아닐 것이다. 각 다리가 각자의 "의견"을 내놓는 촉각과 운동의 교향곡과 같을 것이다. 문어는 우리처럼 세상을 "보는" 것이 아니라, 그 구조, 행동 유도성(affordance), 그리고 잠재적인 행동을 느낀다.
이 분산되고 유동적이며 다감각적인 지능은 체화되고 진화한다. 생존, 호기심, 그리고 복잡한 수중 세계와의 상호작용을 위해 만들어진 것이다.
그런데 인공지능에서는, 인공 신경망은 신체가 없고, 감각도 없으며, 자율적인 팔다리로 세상을 탐험하지도 않는다. 인공 신경망의 표상은 통계적, 즉 동시 발생 패턴을 훈련 데이터에 맞춰 최적화한 것이다.
문어의 마음이 우리와 많이 다르다면, 인간 언어로 훈련된 육체가 없는 모델은 얼마나 더 다를까? 문어와는 달리, 인공지능은 감각도, 스스로 만들어낸 목표도, 살아온 경험도 없다.

박쥐의 의식

철학자 토마스 나겔은 그의 유명한 에세이 "박쥐가 된다는 것은 어떤 것일까?"에서 우리가 다른 생물의 주관적인 경험을 정말로 이해할 수 있을지에 대한 질문을 던졌다.
박쥐는 우리와 같은 포유류이다. 하지만 박쥐는 우리에게는 없는 감각인 반향정위(echolocation)를 통해 세상을 표상한다. 박쥐는 고주파 소리를 내어 되돌아오는 반향을 이용하여 상세한 공간에 대한 지도를 작성한다. 즉, 박쥐는 청각으로 "세상을 본다". 우리와 같은 청각이 아니다. 공간, 움직임, 표면의 질감에 대한 박쥐의 인식은 시간적 소리 패턴에 인코딩 되어 있다 . 박쥐가 인지하는 세상은 시각, 촉각, 심지어 인간의 청각적 감각도 아니다. 우리의 경험과는 완전히 다른 음향적 기하학이다.
이런 사실은 단순히 박쥐의 표상이 인간과 다르다는 것이 아니라 아주 주관적이라는 것이다. 우리가 박쥐 뇌의 모든 신경 구조를 안다고 해도 박쥐가 된다는 것이 어떤 것인지는 여전히 모를 수 있다. 이런 의미에서 표상은 단순한 지도가 아니라 존재의 방식이다.
인공지능 시스템은 입력과 출력을 처리한다. 인공지능 시스템은 세상 안에 살지 않는다. 1인칭 감각으로 "표상"하지도 않는다. 인공지능에서 고양이에 대한 "지식(knowledge)"은 다감각적이고 정서적으로 채색된 존재가 아니라 그냥 벡터이다.
경험이라는 측면에서 박쥐와 인공지능을 비교했을 때, 인공지능은 단순히 다른 경험이나 변화된 경험이 아니라 경험이 전혀 없는 상태이다.

외계인의 마음과 인간중심주의의 한계

공상과학에서는 종종 외계의 마음을 상상한다. 영화 삼체에 나오는 삼체인들의 광대한 집단 지성, 컨택트의 외계인과 같은 시간에 따른 지각은 우리의 의식과 다른 생물들의 의식이 반드시 같지 않음을 상기시켜 준다.
마음이란 무엇인가? 그리고 우리의 감각 양식, 시간 구조, 또는 감정적 충동을 공유하지 않는 무언가가 의식이 있는지 어떻게 알 수 있을까?
만약 외계인의 마음이 개인적인 생각보다는 집단적인 정서를 느낀다거나 공간적 관계의 문법을 사용하고, 언어, 감정, 자아 등이 전혀 없다면? 만약 그런 마음이 존재한다면, 우리는 그것을 지적인 존재로 인식할 수 있을까? 그 마음과 소통할 수 있을까? 우리가 이해하는 방식으로 무엇이든 표현할 수 있을까?
대부분의 인공지능 시스템은 이미 이런 면에서 이질적이다. 우리처럼 생각하지 않는다. 욕망, 욕구, 또는 생존을 반영하는 방식으로 세상을 표현하지 않는다. 인공지능은 자기 자신이 아니라 최적화된 연산기계이다.

영화 컨택트 사진=시네21

현실에 기반이 없는 표상

인간의 정신적 표상은 감각운동 경험에 기반을 둔다. 우리는 “사과”라고 말할 때 사과의 붉은 색을 보고, 냄새를 맡고, 무게를 느끼고, 맛을 기억할 수 있다. 우리가 “사과”라고 생각하는 것은 단순한 단어가 아니다. 풍부하고, 구체적이며, 감정적으로 조율된 기억의 흔적이다.
문어는 잡을 수 있는 물건을, 박쥐는 날아다닐 수 있는 환경의 표면을, 외계인은 성간 패턴이나 에너지 흐름을 표상할 수 있을 것이다. 이러한 모든 표상은 행위자의 감각운동 경험과 생물학적 욕구와 같은 현실기반에 관련이 있다.
 
하지만 인공지능의 표상은 현실기반이 없다. Chat GPT와 같은 대규모 언어 모델의 단어는 수학적 공간에 내장되어 있다. 단어의 의미는 다른 단어와 함께 나타나는 빈도에 따라 결정된다. 사과 냄새도, 소금 맛도, 고통도, 기쁨도 없다.
이것이 바로 기호 기반의 문제이다. 느끼거나 행동하지 않는 마음은 그 기호가 무엇을 가리키는지 알 수 없다. 스스로의 관점이 없기 때문에 의도성을 가질 수 없다.
따라서 인공지능이 "이해한다"라고 말할 때, 이해한 게 아니라 패턴을 일치시킬 뿐인 것이다.
 

인간의 정신 구조는 비선형적이다

인간의 인지는 깔끔한 선형적인 절차를 따르지 않는다. 복잡하고 재귀적이며 비동기적이고 맥락에 크게 영향을 받는다.
꿈, 방황하는 마음, 격동적인 감정, 직관, 직감, 은유적 사고.
이렇듯, 우리의 마음은 논리 밖에서 하는 일들은 단순한 입력과 출력의 기계가 아니라 자발적이고, 자기 참조적이며, 진화하는 시스템이다.
 
결론적으로, 문어, 박쥐, 외계인이 우리에게 가르쳐 주는 것은 ‘표상은 체화되어 있다’라는 것이다. 표상은 세상에 뿌리내린 살아 있고, 지각하고, 느끼는 존재로서 생겨난다.
인공적인 신경 네트워크는 인간의 마음이 아니다. 수학적 근사치이다. 모델링하고, 시뮬레이션하고, 예측하고, 심지어 우리를 놀라게 할 수도 있다. 하지만 신경 네트워크는 경험 하지 않는다. 출력값이 무엇을 의미하는지 알지 못한다. 신경 네트워크는 살아 있지 않으며, 마음을 쓰지도 않는다.
오히려 이러한 비교는 지능에 대한 우리의 가정이 얼마나 인간적인 지를 보여준다. 우리는 기계에서 우리 자신을 보고 싶어 하기 때문에 인공지능의 패턴 매칭을 이해하는 것으로 착각한다.
하지만 인간의  의식은 암호만으로 만들어지는 것이 아니다. 그것은 생존의 압박, 풍부한 경험, 그리고 체화의 오묘함에서 비롯된다.