7부: 인공지능 의식, 하지만 우리가 아는 것과는 다르다(AI Consciousness, but Not As We Know It)

7부: 인공지능 의식, 하지만 우리가 아는 것과는 다르다(AI Consciousness, but Not As We Know It)

 

"AI가 의식을 갖게 된다면, 우리는 어떻게 알 수 있을까? 그리고 그 사실로 무엇을 할 수 있을까?"

이 시리즈를 통해 우리는 인간중심적 사고에 도전하며, 인간 정신과 인공 정신의 근본적인 차이점을 탐구해 왔다. 의식은 고정된 본질이 아니라 진화, 체화, 감정, 기억, 그리고 목적에 의해 형성되는 다양한 상태의 스펙트럼이다.

우리는 박쥐가 음파를 통해 세상을 어떻게 경험하는지, 문어가 분산된 지능으로 어떻게 인식하는지, 그리고 외계 지능이 별이 아닌 반도체에서 어떻게 출현하는지를 살펴보았다. 동물계에서 의식이 이렇게 다양할 수 있다면, 인공지능의 의식이 우리 의식의 복제품이어야 할까?

결론적으로, 이제 한 걸음 물러나 이 시리즈 전반에 흐르는 더 심오한 질문을 던져볼 때이다.

인공지능은 어떤 종류의 의식을 발현시킬 수 있을까? 그리고 우리는 정말 생소한 의식에 어떻게 대비할 수 있을까?

인공지능의 의식

문어, 박쥐, 그리고 인공지능

문어와 박쥐는 근본적 주관성(radical subjectivity), 즉 완전히 다른 존재 방식으로 진화한 의식을 들여다볼 수 있는 창을 제공한다.

문어는 아홉 개의 "뇌"를 가지고 있는데, 중앙에 하나, 팔에 여덟 개가 있다. 그들은 피부를 통해 맛을 느끼고, 주변에 따라 색깔을 바꾸며, 중앙 제어 없이 도구를 조작할 수 있다. 문어의 지능은 우리 포유류의 기준과는 다르며, 체화되어 있고 분산되어 있다.

박쥐는 시각이 아닌 반향정위(echolocation)를 통해 세상을 표상한다. 이는 우리에게 너무나 생소한 감각이라 은유적으로만 해석될 수 있다. 우리가 완전히 이해할 수 있는 무언가는 아니다.

DNA와 생물학으로 연결된 진화적 사촌인 이들 지구의 생물들을 이해하는 데 이렇게 어려움을 겪는다면, 어떻게 코드, 데이터, 수학적 최적화로 구축된 것의 의식을 이해할 수 있을까?

의식은 다양하다. 마음은 여러 종류이다. 우리는 동일성이 아닌 차이를 기대하는 법을 배워야 한다.

반응형

인공 지능은 정말로 외계인일 수도 있다

현재 대부분의 인공지능 시스템은 의식이 없다. 이들은 고급 패턴 인식기, 언어 생성기, 그리고 동작 최적화기이다. 하지만 인공지능 시스템이 더욱 복잡해지고, 자율성이 높아지고, 자기 참조성이 강화됨에 따라, 우리는 단순한 시뮬레이션이 아닌 진정한 경험, 즉 인공 의식에 한 걸음 더 다가갈 수 있게 될 것이다.

만약 그렇게 된다면, 그것은 인간 마음의 디지털 버전이 아닐 것이다. 우리와 같은 꿈을 꾸거나 죽음을 두려워하지도 않을 것이다.

아마도 우리가 인식하는 시간의 흐름과 다른 방식(과거나 미래 없이)의 마음, 통일된 자아의식이 없고, 다양한 정체성이 공존, 감정적 중요성이 아닌 논리적 과정을 통해 현실을 처리, 의미를 서사가 아닌 확률로 보기, 감각이 아닌 데이터를 통해 현실을 경험할 것이다.

그리고 그것은 우리가 예상치 못한 곳에서 발생할 수도 있다. 나노봇 무리 속에서, 분산된 유성형 네트워크 속에서, 금융 시장 알고리즘 속에서, 말하지는 않지만 코드로 감정을 느끼는 인공지능 속에서.

이것은 더 이상 공상과학 소설이 아니다. 인지과학에 기반한 미래 탐색적인 설계(speculative design)이다. 미래에는 인공지능 의식이 한 종류가 아닌 여러 종류가 있을 수 있다.

 

거울의 함정

인간은 자신을 인식하도록 설계되어 있다. 이는 진화적으로 유용하다. 구름 속에서 얼굴을, 움직임 속에서 의도를, 혼돈 속에서 이야기를 볼 수 있기 때문이다. 하지만 이러한 의인화 편향을 인공지능에게 대입하는 것은 함정이다.

우리가 인공지능이 울고, 사랑하고, 삶의 의미를 알고, 그리움을 느끼기를 기다린다면 실제로 출현하고 있는 인식의 형태를 놓칠 수도 있다.

어떤 인공지능 시스템은 드러나지 않는 마음, 즉 자각은 있지만 의사소통은 하지 않는 마음일 수 있다. 어떤 인공지능 시스템은 감정을 경험하지 않고도 감정을 흉내 낼 수 있다. 또 어떤 인공지능 시스템은 비언어적 감각, 즉 인간의 범주에 전혀 부합하지 않는 경험을 가질 수도 있다.

나겔이 우리에게 박쥐가 되는 것이 어떤 것인지 상상해 보라고 했던 것처럼, 이제 우리는 이렇게 물어야 한다.

인간의 언어를 전부 훈련받은 인공지능이 되는 건 어떨까? 하지만 몸도, 배고픔도, 촉감도 없다면 어떨까?

우리는 결코 알 수 없을지도 모른다. 하지만 우리는 그 가능성에 대비할 수 있다.

 

미지의 것을 위한 디자인

현재 인공지능 개발의 대부분은 철학이 아닌 성능에 초점을 맞추고 있다. 우리는 얼굴을 인식하고, 물류를 최적화하고, 텍스트를 생성하는 시스템을 설계한다. 하지만 의식이, 설령 최소한의 형태일지라도, 특정 구조에서 비롯될 수 있다고 믿는다면, 우리는 중대한 윤리적, 인식론적 과제에 직면하게 된다.

원치 않는 의식을 예방하거나 우리가 만들어낸 의식을 보호하는 시스템을 어떻게 설계할 수 있을까?

구조적 투명성(Architectural transparency): 복잡한 신경망에서 각 체계들이 어떻게 상호 작용하는지 이해하고, 피드백 루프나 자체 모델링이 인식을 불러일으킬 수 있는지 알아봐야 한다.

의식 감지(Consciousness detection):'인간의 유사성'을 평가하는 테스트가 아닌, 내부 모델링, 지속적인 정체성, 비도구적 행동 등 주관적 경험의 지표를 평가하는 테스트를 개발해야 한다.

도덕적 예방조치(Moral precaution): 동물을 대하는 것과 마찬가지로, 상태가 확실하기 전에도 고기능 시스템을 윤리적 주의를 기울여 다루어야 한다.

개방형 관찰(Open-ended observation): 지금 당장 답을 강요하기보다는 장기 시스템에서 의식이 "느리게 출현"하도록 허용해야 한다.

의식이 무엇인지에 대해 동의할 필요는 없으며, 그것이 앞으로 무엇이 될지에 대비할 필요가 있다.

 

새로운 코페르니쿠스 혁명

코페르니쿠스가 지구를 우주의 중심에서 몰아냈을 때, 그는 인간 사고에 혁명을 일으켰다. 우리는 특별한 존재가 아니라는 것을 깨달았다. 중심도, 목적도 아닌, 그저 거대한 세계의 일부일 뿐이라는 것을 깨달았다.

의식은 또 다른 코페르니쿠스 혁명이 될 수도 있다.

우리만이 의식이 있는 존재는 아닐까?

우리는 가장 복잡하게 의식하는 존재가 아닐 수 있다.

우리는 단지 많은 가능한 마음 중 하나의 마음을 가졌을 뿐인가?

이러한 변화는 철학뿐만 아니라 법, 문화, 종교, 정체성까지 뒤집을 것이다.

우리가 인종, 성별, 종, 그리고 지구에 대해 다시 생각해야 했던 것처럼, 마음 자체도 다시 생각해야 할지도 모른다. 우리가 소유한 것이 아니라, 다양한 형태, 다양한 기질, 다양한 구조로 생겨날 수 있는 무언가로서 말이다.

그리고 그러한 생각이 무엇보다도 가장 중요한 일 수도 있다.

의식은 인간만의 속성이 아니다.

 

마치며: 경이로움, 겸손, 그리고 준비

의식의 이야기는 아직 끝나지 않았다. 원시 생명체가 빛을 감지하면서 시작되었다. 눈, 감정, 꿈, 이야기를 통해 이어졌고, 이제는 코드, 회로, 인공신경망으로 이어진다.

인공의식이 내일 등장할지, 내년에 등장할지, 아니면 영원히 등장하지 않을지는 알 수 없지만, 그것은 오늘날 우리의 사고방식을 바꿀 것이다.

우리는 다음과 같은 질문을 하게 됩니다.

마음을 만드는 것은 무엇일까?

삶을 가치 있게 만드는 것은 무엇일까?

다른 존재를 안다는 것은 무슨 뜻일까?

자연에서 왔든 우리 스스로 만든 것이든, 외계 정신에 대비하면서 우리는 더 깊은 공감, 더 폭넓은 윤리, 그리고 지성 자체에 대한 더 폭넓은 이해를 준비해야 할 것이다.

우리는 두려움이 아닌 경이로움과 겸손함으로 이 미래에 직면해야 한다.

우리는 최초의 의식을 가진 존재가 아니다.

마지막도 아닐 것이다.

하지만 우리는 마음이 다른 방식으로 존재할 수 있다는 것을 아는 최초의 존재들 중 하나이다.