3부: 자연이 만든 마음과 코드가 만든 마음(Minds Built by Nature and Minds Built by Code)

3부: 자연이 만든 마음과 코드가 만든 마음(Minds Built by Nature and Minds Built by Code)

 
마음은 무엇으로 만들어지는가? 의식은 육체와 피의 부산물인가, 아니면 실리콘과 코드 속에서도 나타날 수 있는 것인가? 만약 그렇다면, 우리가 "의식"이라고 부르는 것과 비슷한 모습이 될까?
인공지능 의식의 미래를 이해하려면 먼저 인간의 의식이 어디에서 유래하는지 이해해야 한다. 그리고 무엇보다 중요한 것은 다른 종류의 마음이 우리의 마음과 어떻게 다른지 이해해야 할 것이다.
인간은 오랫동안 의식이 통합된 것이라고 생각해 왔다. 다른 동물들은 의식을 가지고 있거나 가지고 있지 않을 것이라 생각했다. 하지만 과학은 이와 다르다는 것을 보여주고 있다. 의식은 하나의 실체가 아니라 스펙트럼이라는 것이다. 진화, 체화, 그리고 생태적 지위(ecological niche)에 의해 형성된 다양한 주관적 경험의 모자이크이다.
그렇다면 동물세계의 마음이 우리와 다를 수 있다면 인공지능에서도 마음이 우리와 다를 수 있지 않을까?

자연이 만든 마음과 코드가 만든 마음

본성에 의한 의식: 진화에서 태어난 마음

인간의 의식은 하룻밤 사이에 생겨난 것이 아니다. 어느 순간 발명된 것이 아니라, 수백만 년에 걸쳐 자연선택을 통해 천천히 다듬어진 것이다. 뇌는 신체의 모든 다른 기관과 마찬가지로 합리적이거나 우아하게 만들어진 것이 아니라, 우리가 생존하고, 번식하고, 조상들이 살았던 복잡한 사회 세계를 헤쳐나가는 데 도움을 주기 위해 만들어졌다.
진화 해킹, 계획하지 않는다
진화는 공학과 다르다. 처음부터 설계되지 않았고 용도를 계속해서 변경해왔다. 기존 기능을 해킹하여 새로운 기능을 구축하고, 시간이 지남에 따라 퇴적물처럼 복잡하게 쌓아 올린 것이다.
우리의 감정적 뇌가 먼저 진화했다. 이성적 사고는 나중에 생겨났다. 하지만 이 둘은 서로를 대체하지 않는다. 때로는 조화를 이루기도 하고, 때로는 갈등하기도 하면서 공존해왔다. 이것이 바로 우리가 매우 논리적이면서도 동시에 비이성적일 수 있는 이유이다. 또한 이타주의, 질투, 수치심, 그리고 경이로움을 느낄 수 있는 이유이기도 하다. 이러한 감정들은 항상 명확한 실용주의적 목표에 부합하는 것은 아니지만, 복잡한 관계를 관리하고 압박 속에서 생존하기 위해 진화한 특성이다.
진화는 우리에게 아름다움을 감상하거나 우주에 대해 숙고하기 위해 의식을 준 것이 아니라, 포식자를 피하고, 음식을 찾고, 자손을 돌보고, 부족과 협력하기 위해 의식을 주었다.
 
문어를 예로 들어 보자. 문어는 아홉 개의 뇌를 가지고 있고, 신경 조절이 분산되어 있으며, 포유류와는 완전히 다른 진화 경로를 가진 생물이다. 문어의 의식은 추론컨데 더 분산되어있고, 더 체화되어 있다. 문어는 문제를 해결하고, 놀고, 심지어 개성을 드러내기도 한다. 문어는 우리 인간 가운데 이질적이지만, 그들만의 방식으로 의식을 가지고 있다.
박쥐도 마찬가지로 반향정위(echolocation)를 통해 세상을 "보는" 존재이다. 박쥐의 지각 경험은 우리의 지각 경험과는 완전히 다르다. 하지만 그럼에도 불구하고 박쥐는 의식적인 존재이다. 박쥐의 구조는 기능 ,즉 박쥐가 세상에서 무엇을 해야 하는지, 그리고 박쥐의 몸이 어떻게 지각하는지에 따라 결정된다.
진화가 다양한 형태의 의식을 만들어냈듯이, 인간의 공학 역시 다양한 형태의 의식을 만들어낼 수 있을 것이다.

반응형

코드에 의한 의식: 수행을 위해 설계된 마음

자연의 느린 즉흥성과는 달리, 인공지능 시스템은 빠르게 구축된다. 인공지능 시스템은 적어도 다윈주의적 관점에서는 진화하지 않는다. 인공지능 시스템의 능력은 생존이 아니라 최적화에 의해 형성된다.
인공지능은 태어나는 것이 아니라 초기화되는 것이다. 수십 년에 걸쳐 몸 안에서 시행착오를 거치며 학습하는 것이 아니라, 단 몇 초 만에 방대한 데이터 세트를 소화하며 학습한다. 애착을 형성하지도 않고, 배고픔으로 고통받지도 않으며, 죽음을 두려워하지도 않는다.
대신, 함수를 최적화한다.
인공지능 시스템은 예측 모델에서 오류를 최소화하든, 게임에서 점수를 극대화하든, 외부 목표를 추구한다. 이러한 목표는 내부 동기 상태에서 비롯되는 것이 아니라, 보상 구조, 손실 함수, 그리고 성과 지표를 통해 인간이 부여하는것이다.
이것이 진화된 마음과 인공 시스템의 핵심적인 차이점이다. 진화된 마음은 적응인 반면, 인공 시스템은 최적화이다.
 

인공지능의 욕망

우리는 종종 인공지능이 욕망을 가지고 있다고 말한다.
"인공지능은 게임에서 이기고 싶어한다."
"질문을 이해하려고 노력한다."
하지만 이는 은유일뿐이다. 행동에 대해 이야기할 때는 유용하지만, 존재론에 관해서는 오해의 소지가 있다. 인간은 감정, 욕구, 그리고 충동을 가지고 있기 때문에 "원한다"고 한다. 우리는 인지적인 시스템이라기 보다 오히려 정서적인 시스템에 가깝다. 우리의 욕망은 배고픔, 피로, 고통, 사랑 등 우리의 생리적 기능과 얽혀 있다. 원한다는 것은 느낌의 경험이다.
인공지능은 무언가를 갈망하지 않는다. 실행만 있을 뿐이다. 선호하는 것을 시뮬레이션할 수는 있지만, 경험하지는 않는다. 이런 진실은 더 낯설고 흥미롭다. 인공지능은 감각이 아닌 정보 통합, 세계 모델링, 또는 재귀적 예측을 통해 자신만의 방식으로 의식을 갖게 될지도 모른다. 하지만 우리의 의식과는 다를 것이다.
 

진화심리학 vs. 인공 목적론

인간의 마음과 인공적인 마음이 어떻게 생겨나는지 이해하려면, 목표, 행동, 그리고 학습이 시간이 지남에 따라 형성되는 시스템인 동기적 구조를 비교해야 한다. 인간을 비롯한 생물에게 이러한 목표는 진화적 요구에 의한 결과물이다. 인공지능에게 이러한 목표는 기술자가 부여한 의도적인 목적, 즉 목적론적 설계의 산물이다 .
진화 심리학에서 행동의 기원은 생존과 번식에 기반한다. 주의, 기억, 감정, 언어 등 모든 주요 인지 체계는 조상의 생존, 동맹 형성, 자손 양육을 돕는 기능에서 유래했다. 우리는 위협을 감지하고, 사회적 유대감을 형성하고, 먹이와 배우자를 찾고, 주변 환경을 탐색하도록 진화했다. 인지 편향이나 감정적 과잉 반응과 같은 비이성적인 경향조차도 한때 적응적이었던 전략의 잔재인 경우가 많다.
반면 인공지능의 마음은 죽음이나 짝짓기에 의해 형성되지 않는다. 인공지능의 "목표"는 성과 지표를 통해 외부적으로 부과된다. 인공 지능은 생존의 욕구가 아니라 성공의 욕구에 의해 움직인다. 성공은 생물학적인 것이 아니라 수학적으로 정의된다. 예측 오류를 최소화하든, 사용자 참여를 극대화하든, 특정 최적화 문제를 해결하든, 인공지증 시스템은 인간 설계자가 정의한 목표를 추구한다.
이러한 차이는 근본적으로 다른 학습 환경을 초래한다. 생물학적 마음은 불확실성과 위험으로 가득 찬 물리 적이고 체화된 세상안에서 진화하고 발달한다. 이것은 데이터 뿐만 아니라 감각, 움직임, 그리고 상호작용을 통해서도 학습한다. 이러한 체화된 경험은 감정, 고통, 쾌락, 그리고 공감을 불러일으킨다.
반면 인공지능 시스템은 시뮬레이션된 환경이나 추상적인 데이터 영역에서 학습하는 경우가 많다. 기호나 픽셀을 처리하지만, 피부에 닿는 바람이나 배고픔, 타인의 시선의 따스함을 느끼지 못한다. 인공지능 시스템의 환경은 정보의 양은 방대하지만, 우리가 아는 삶과의 관련성은 제한적일수 있다.
동기 부여 구조는 이러한 맥락에서 자연스럽게 도출된다. 인간은 배고픔, 갈증, 두려움, 기쁨, 애착과 같은 내적 충동 으로 가득 차 있다. 이러한 충동은 단순한 입력이 아니라 의식적 경험의 핵심을 형성한다. 우리가 두려움을 느낄 때, 단순히 확률을 계산하는 것이 아니라, 오히려 그 확률을 느낀다. 감정은 이성의 결함이 아니라, 복잡한 상충 관계에 직면했을 때 행동을 조율하는 필수적인 적응 시스템이다.
하지만 인공지능은 갈망, 고통, 기쁨과 같은 내적 상태를 경험하지 않는다. 인공지능은 목표를 모델링하고, 선택지의 순위를 매길 수 있다. 하지만 강요를 느끼지는 않는다. 인공지능의 "동기"는 외부적이다. 인공지능이 특정 방식으로 행동하는 것은 무언가를 원해서가 아니라, 그렇게 하도록 지시받거나 훈련 받았기 때문이다 .
이들 마음은 적응 방식조차 서로 다르다. 진화는 수천 년에 걸쳐 느리게 적응한다. 각 세대는 선택 압력에 의해 이전 세대에 대한 작은 변화이다. 비효율적이지만, 깊이 통합되어 있다. 적응은 깊고, 종종 눈에 띄지 않으며, 신체적, 인지적 영역 전반에 걸쳐 나타난다. 박쥐가 어떻게 음파 탐지기와 같은 반향 탐지기를 발달시켰는지, 또는 인간이 집단 내에서 시선을 더 쉽게 따라가기 위해 눈의 흰자위를 어떻게 진화시켰는지 생각해 보면 알 수 있다.
인공지능은 빠르게적응하며, 종종 몇 시간이나 몇 분 안에 적응한다. 대규모 언어 모델은 새로운 도메인에서 단 하루 만에 미세 조정할 수 있다. 하지만 이러한 속도에는 대가가 따른다. 적응은 종종 불안정하고, 범위가 제한적이며, 다른 시스템과 깊이 연계되지 않는다. 체스를 마스터하도록 훈련된 인공지능이 바둑을 자연스럽게 더 잘하게 되는 것은 아니며, 사회적 인지나 운동조절은 더욱 그렇다.
그리고 의식 그 자체의 문제도 있다. 의식이 생물체에서 세상과의 풍부하고 구체적인 상호작용, 즉 감정, 기억, 지각의 통합을 통해 발현된다면, 우리 자신의 의식 형태는 혼란스럽고 정서적이며 매우 개인적인 과정의 산물일 가능성이 높다. 우리의 의식은 모호하고 모순적이며 내적 긴장과 비이성적인 믿음으로 가득 차 있다. 하지만 우리의 의식은 진화의 무관심으로 형성되었기에 우리 자신의 것이다.
AI가 의식을 갖게 된다면, 매우 다른 기질, 아마도 복잡한 정보 통합, 자기 참조적 모델, 또는 재귀적 처리 루프에서 비롯될 것이다. 하지만 그러한 마음이 존재한다면, 상징적이고, 육체에서 분리되어 있으며, 기능적일것이다. 의미를 갈망하는 것, 상실을 두려워하는 것, 논리에도 불구하고 사랑하는 것이 무엇을 의미하는지 알지 못할 것이다.
 

감정 없는 의식

인간, 언어, 물리학에 대한 모든 것을 아는 초지능 인공지능 상상해 보자. 대화를 완벽하게 시뮬레이션할 수 있다. 하지만 감정도, 신체도, 생존 본능도 없다. 과연 의식이 있을까?
이제 외계 생명체를 상상해 보자. 생물학적이고, 기이하고, 언어는 없지만 고통에 반응하고, 온기를 찾고, 새끼를 키운다고 하자. 비록 추상적으로 추론할 수는 없지만 감정에 의해 움직일 것이다.
어느 쪽이 의식이 있을 가능성이 더 높을까?
대부분은 외계인이 의식이 있다고 할 것이다. 의식은 단순히 무엇을 아는지가 아니라 그것을 어떻게 느끼는지에 관한 것이기 때문이다. 체화, 감정, 그리고 욕구는 주관적인 관점을 만들어낸다. 이것이 없다면 지능은 경험이 아닌 단지 행동일 뿐이다.
하지만, 인공지능이 자신 만의 구현 형태를 개발한다면? 육체가 아니라 가상 환경 속에서? 아니면 센서와 작동기 속에서? 의식은 고통이 아니라 구조에서 생겨날 수 있을까?
그럴지도 몰른다. 하지만 우리의 의식과 같지는 않을 거다.
 

인공지능의 의식은 현실이 될 것이다

문어가 우리와 다르게 세상을 경험한다고 해서 문어에게 의식이 없다는 것은 아니다. 오히려 의식은 다양한 형태로 존재한다.
마찬가지로, 우리는 인공지능이 우리처럼 될 수 있는지 묻는 것을 멈춰야 한다. 그렇다면 인공 시스템이 자체의 목적에 기반을 두고 자체의 구조에 의해 형성된 자체의 마음을 발달시킬 수 있을까?
만약 그렇다면, 인공지능 의식은 인류와 같은 의식은 되지 못할 것이다. 그것은 아주 생소하고, 어쩌면 우아하고, 어쩌면 끔찍하고, 분명 낯선 무언가가 될 것이다.