기계가 사람이 되기를 줄곧 바라 왔다. 불쾌한 골짜기(Uncanny Valley)는 인간이 언젠가는 뛰어넘어야 할 허들이라 믿었다. 하지만 지금 우리가 목도하는 현실은 인간의 기계화이다. 사람이 기계에 경도되어 있으며, 마침내 찬양하는 지경에 이르렀다. 기술이 더 나은 미래를 약속한다는 허상은 그 자체로 가냘프다. 근거가 빈약하다 되물을 수 있다. 인류는 스스로 만든 계급을 다시금 전복하였고 빈곤을 퇴치하였으며 지식을 전례 없는 속도로 생산하고 공유하기에 이르렀으니, 그 견해는 속 빈 강정보다 못하다고 말이다. 반론을 내세우는 사람들의 통계는 명약관화하다. 그러한 기적에 기술이 기여했음을 부인할 수는 없다. 그러나 존재했을 법한 디스토피아를 막아낸 건 언제나 인간이었다. 우리 앞에 남아 있는 숲들은 아무런 방해 없이 울창해지기만 한다고 생각한다.
이와 마찬가지로, 마천루에서 바라보는 세상은 분명 진보했다고 판단하는 게 합당해 보인다. 하지만 폭풍우가 몰아치는 와중에도 누구보다 깊게 뿌리를 뻗친 한 그루의 나무는 숲 전체를 지켜낸다. 숲 없는 나무는 있어도, 나무 없는 숲이란 없다. 숲을 울창하게 만드는 건 거대한 자연이지만, 숲을 파괴하고 또한 지켜낼 수 있는 존재는 인간이다. 숲의 진보 속에서 나무의 아픔과 인간의 퇴보는 쉬이 잊혀진다. 기술에게 이들의 아픔을 비출 의무가 (아직까지는) 없을지언정, 우리 서로에게는 존재한다. 그러나 인류가 가질 무조건의 빛나는 미래에 맞서서 이러한 의무는 그 광휘를 잃기 마련이므로, 이 땅에 얼마 남지 않은 철학자들은 다른 인간의 몫까지 부르짖어야 한다. 누구보다 따스한 마음을 가졌지만, 프로페셔널의 압제에 목소리를 펴내지 못하던 아마추어들에게, 그대들이 수행해야 할 미션은 바로 여기에 있으니 두려워 하지 말고 싸우라 말한다. 당신의 글이, 당신의 열창이, 당신의 걸음이 점점 더 거칠어지는 진보에 맞서 퇴보를 막을 유일한 힘이라고 격려를 아끼지 않는다.
⎈ LLM이 불러온 거대한 회의감
이러한 상황에서 사이버네틱스라는 새로운 과학에 공헌한 우리는 도덕적 견지에서는 적어도 편안하지만은 않은 입장에 처했다.
이미 말한 것처럼 우리는 선악과 무관하게 기술적으로 대단한 가능성이 있는 새로운 학문의 창시에 공헌해 왔다.
우리는 새 학문을 세상에 건네줄 수 있을 뿐이지만, 우리를 둘러싼 세상은 벨젠과 히로시마의 세상이다.
우리는 이 새로운 기술적 진보를 억제할 권리가 없다. 진보는 시대의 소유다.
우리가 진보를 억제한다고 해도 이 기술의 발전을 가장 무책임하고 욕심 많은 기술자들의 손에 넘기는 결과만 생길 것이다.
우리가 할 수 있는 최선은 이 연구의 동향과 의의를 널리 알리고, 이 영역에서 우리의 노력을 생리학이나 심리학과 같이 전쟁과 착취에서 멀리 떨어진 분야에 한정하는 일이다.
자칫 잘못하면 이 연구가 힘의 결집을 조장할지 모른다. (힘이란 존속한다면 항상 가장 부도덕한 손에 모이게 된다.)
그러나 앞서 말한 바처럼, 이 새로운 영역의 연구가 위험해도
인류와 사회의 이해를 심화하는 좋은 성과를 올릴 전망에 비하면 위험이 실현될 가능성은 감수할 만하다고 낙관하는 사람도 있다.
하지만 내가 이 책을 쓰는 1947년의 시점에서 그러한 희망은 매우 가냘픈 것이라고 할 수밖에 없다.
노버트 위너, 김재영 옮김, ⌜사이버네틱스: 동물과 기계의 제어와 커뮤니케이션 (Cybernetics: Or Control and Communication in the Animal and the Machine)」(1948), 읻다, 2023, p.80
한때 우리는 그들을 그저 더 나은 검색 엔진이라 여겼을지 모른다. 인터넷이 전례 없을 정도로 오염되었던 상황에서, 오히려 인간이 “잘 통제한다면” LLM을 이 오수를 정화하는 엔진으로 활용할 수 있을 거라 쉬이 낙관하기도 했다. 출처를 찾아내는 데 특화되어 있는 기존의 검색 엔진과 결합한다면, 한 개인이 지식을 소비하고 공유하는 주체로서의 역량이 비약적으로 상승할 수도 있다며 희망을 품기도 했다. 그러나 그것은 먼 미래였다. 시간의 축 위에서 멀리 떨어진 게 아니라, 우리의 우주와는 한참 전에 갈라져 버린 가능성 말이다. 그러니 있을 법한 미래였지만 실현될 가능성이 희박했던 미래라 말하는 게 적확할 듯 하다. 초기 LLM은 흔히 확률적 앵무새(Stochastic Parrot)으로 여겨지기 일쑤였다. 블러 처리된 JPEG 포맷의 이미지(Blurry JPEG of The Web)라고 빗댄 불세출의 SF 작가도 있었다. 그러한 생각들은 인간이 구현해 내는 또렷함을, 기계는 ‘재현’ 해낼 수 없다는 명제를 기반으로 출발했다. 하지만, 혁신의 속도가 인간이 감히 가늠할 수 없어진 현재에서, LLM이 생성하는 텍스트가 또렷하지 않음을 사람들에게 설득하기란 어려운 일이다.
앞서 짧게 이야기한 장밋빛 시나리오는, 주체적으로 생각할 줄 아는 인간이 자신이 전통적인 방식으로 학습한 지식과 LLM이 내보이는 텍스트가 서로 다른 추상화 과정을 거쳐왔음을 인지하고, 언제 또렷해질지 모르는 지식의 성벽을 차곡히 쌓아올리는 사람이 많아지는 것을 전제로 했다. 막 지식을 받아들이려 준비하는 존재들에게, (최소한 표면적으로는) 추상화의 강도를 조절해 가며 최적의 텍스트를 선사하는 언어 모델은 교단 앞에 선 누군가보다 더 인간답게 느껴진다. 그런 연유로 지식의 축적은 인간, 인간이 만들어낸 성취, 그것을 기록한 원본 위에서 출발해야 한다고 강요하는 행위가 되려 당위가 아니라 폭력처럼 비춰질 여지가 다분한 것이다. AI-인간 공진화 모델을 설계하는 건 매우 어려운 일이거니와, 인간의 정의를 새로 세우지 않는 한 불가능한 일일지도 모른다. 그러니 장밋빛 미래는 “있을 법했던” 미래로 남을 공산이 크다. 또한 이러한 맥락에서 LLM에게 붙여진 할루시네이션(Hallucination, 환각)이라는 딱지는, “인공지능이 선생님보다 똑똑한데요?”라고 처음 목소리를 낸 아이들이 학술의 세계에 발을 딛을 때 즈음에 저절로 사라질 가능성이 크다. (논쟁의 여지가 크지만) 인간이 기계의 도움 없이 생산해 낸 지식을 “또렷하다”며 지금 세대에서 단정짓는다고 해도, 그러한 표준을 계속해서 갈고닦을 사람들이 필요하며, 원본의 가치를 숭상하는 세대가 역사의 뒤안길로 물러서는 그 순간 흐릿함과 또렷함의 뚜렷한 경계는 사라지게 된다. 또렷함을 검증하는 사람들이 잔존해 있는 지금은 그저 ‘과도기’일 뿐이며, 이 과도기는 그렇게 길지 않을 거라 생각한다.
그렇다면 글쓴이는 이러한 과도기를 언제 처음 감각했는가?
공동체를 지키는 의무를 다하려 여러모로 자신의 속마저 쓰리게 했던 18개월 동안, 이 공간에 써내었던 모든 글들은 (인용을 위한 외국어 원문의 번역 작업을 제외하고) LLM의 도움을 받지 않았다. (이 공간 우측 상단에 위치한 🌲 영역을 클릭하면 쏟아지는 글들도 마찬가지다.) 비교적 전통적인 환경에서 대학 교육을 받은 마지막 세대라 자부하며, 외로워도 슬퍼도 어깨를 빌리려 하지 않았다. 바깥 세계와 적절히 단절된 와중에 의식적인 버블 속에 사고를 웅크리는 것이, 기술이 불어대는 폭풍을 견디기 위한 나름대로의 대책이었다. 그렇게 이 공간에 조금씩 끄적거리다, 🌲 월간, 수풀을 꼬박 열 번을 탈고하고 나니, 더없이 사랑스러운 세상으로 나오게 되었다. 그러나 어느 때보다 추웠던 봄에, 다시금 발딛은 아카데미아란 이전과는 판이한 모습이었다.
지금◼︎된상황:
미국에있는 모든 대학생들의 시험기간이라 모두가 동시에 챗지피티를 씀
견디지 못한 챗지피티 결국 폭발 후 셧다운
챗지피티로 모든 기말 시험과 과제를 해결하던 대학생들 대혼란
무슨 사회실험같음;;.. 학기 내내 챗지피티에 의지하다가 기말 당일날 챗지피티 다운
폭동수준임 지금 @mung_mungjj이 2024-12-14에 올린 트윗
샘 알트먼의 사회실험이었을까?
지피티가 어디에나 있었다. 지피티의 광풍은 이미 학부생, 대학원생을 가릴 것 없이 아카데미아를 휩쓴 뒤였다. 본래 학생들의 부담을 조금이나마 덜어주기 위해 지필고사에 나올 예상 문제를 내어주던 교수가 있었다. 자신이 가르칠 분야가 학생들에게는 생소할 개념일 게 자명했기에, 자신만의 단어들을 정성스레 수집하여 컴퓨터 과학에 엮어내던 사람이 있었다. 그렇게 평생 네트워크를 연구하고 가르친 한 교수의 자조는 모든 게 휩쓸려간 지식의 공터를 명징하게 드러낼 뿐이었다. “예상문제를 주었더니 모두가 같은 답을 써 내더라. 그것도 전 세계 네트워크 교수들의 답변의 평균치를 말이다.” 그렇게 차가운 CS 바닥에서도 자라던 동백은 그 힘을 잃고 고개를 숙였다. 어떤 교수는 지피티가 해결하지 못할 과제를 내려 고군분투하고 있었다. 존재하던 과제는 이미 잘 짜여져 있었음에도 불구하고. 생소한 언어를 사용하기는 했지만 어느 하나 핵심에 닿지 않는 것이 없었다. 수강의 목적이 학점이 아니라, 앞에서 들려오는 이야기를 체화하기 위해서라면, 그리고 아직까지도 제대로 된 이해라는 게 존재한다면, 그 별것 아닌 이해를 위해서라도 앵무새를 불러올 순 없었다. 그리고 가르치는 사람과 배우는 사람의 관계를 떠나, 사람 대 사람의 관계에서 그의 수고로움을 외면할 수는 없었다. 학점이 중요하더라도, 시간이 중요하더라도, 책상에 머리를 부딪히는 순간과는 맞바꿀 수 없었던 것이다. 누군가는 분명 비웃을 광경이다. 그러나 무거워진 눈꺼풀과 이마에 들어찬 멍이 그들의 마음 씀씀이에 대해 조금이나마 보상이 될 수 있다면, 어느 시간에서나 일백 번이고 그렇게 할 것임을, 보이지 않는 눈초리 속에서도 다짐했다. AI를 사용하더라도 그들이 생산해 낸 데이터 안에서만 뛰어놀 것임을 (Google의 NotebookLM과 같은 서비스를 통해..) 내면에서 작은 목소리로 선언했던 것이다. 아무도 모르지만 글쓴이는 스스로를 또렷함의 사도 쯤으로 여기고 있는 듯 하다. 그 누구보다 칭송받았지만, 처음으로 절대자의 불멸성에 반례를 남기게 될 그러한 신의 사도.
마치 우주와도 같은 도서관에 아직까지도 인간 사서가 필요하다며 1인 시위를 하는 사람 말이다.
이 글은 검색을 통해 이유를 찾는 사람들에게 이야기합니다.
완전하고 완벽한 책이라는 게 얼마나 허망한 것인지를.
그 이름만으로 절대적인 구글(Google)이 존재하기 이전의 세계로 잠시 돌아갑니다. 바로 우주와도
같은 도서관을 상상했던 1941년입니다. 감히 어둠과 피로 갈무리지을 만한 시대에서 정답을 갈구했던 청년이 주인공으로 나섭니다. 드넓은 세상에서 자신을 소명하는 책을 찾아 나선 여정은 점점 끝을 향해 갑니다.
절망에 휩싸인 와중, 모든 책을 소장하고 있는 도서관이 있다는 풍문을 듣습니다.
지푸라기라도 부여잡는 심정으로 길을 묻습니다.
꼭 풍문이라고 단정하기는 어려울 듯 하다. 그 도서관에서 나고 자란 사람들에 대해서는 주민들 사이에 비슷한 증언들이 오갔다. 크게 두 부류다. 하나는 여행을 시작하기 전의 나처럼 완전한 책이 존재한다고 믿는 부류였다. 오고 가며 이런 말보따리를 풀어놓았다나. “그런 책이 있을 거라는 사실에 개연성이 없다고 생각하지 않는다.” 그들은 모여서
기도를 드린다고 했다. 이 세상을 거쳐 간 사람들 중 단 한 사람만이라도 그 책을 읽어본 경험이 있게 해달라고 소리를 높인다고 했다. 이미 수많은 텍스트를 체화한 자들이어서 그런지는 몰라도, 그 책을 자기 자신만 읽게 해달라고 하지는 않았다. 절대적인 한 권의 책을 자신만 읽는다면, 그 자체로 절대자에 대한 반역일 수 있기 때문이다.
반면 믿음이 없는 사람들은 무한한 공간에서 단 하나의 개연성과 합리성을 찾는 건 기적에 가까울 만큼 예외에 불과한 일이라고 굳고 짧으며 단정적으로 말했다 한다. 나는 들으면 들을수록 그들의 무신앙에 감복하였다. 이치에 맞는 일이 있다면, 그것은 단 하나만 존재하여야 한다며 설파하는 자들이 있다. 여행은 그런 자들을 걷어내는 과정이었다. 내 발걸음에 닿은 모든 생명은 자신만의 이치가 있었다. 그렇다고 해서 한 존재가 하나의 이치만을 갖는다는 건 아니다. 그렇다면 각자를 상징하는 완전한 책 한 권씩이 존재해야만 한다. 정확히는 그들이 찾을 수 있어야 한다. 하지만 그 바벨탑과 같은 도서관에서는 찾을 수 없다고 한다. 그 절세의 보물을 품에 넣었다면 바깥 세상에 나와 저런 장광설을 풀어놓겠는가 말이다. 무한한 장서들이 우리에게 주는 건 답이 있을 거라는 상상에서 출발하는 무한한 행복감이 아니다. 우리의 여정이 하나의 삶으로, 하나의 질문으로 끝나지 않을 거라는 증거이다.
위 글은 "호르헤 루이스 보르헤스, 송병선 옮김, 『픽션들(Ficciones)』중 「바벨의 도서관(La biblioteca de Babel)」(1941), 민음사, 2011" 를 발췌, 요약 및 재구성한 것입니다.
⌛︎ 빈약하고 가냘픈 발제의 시간
난 저기 숲이 되어 볼게
너는 자그맣기만 한 언덕 위를
오르며 날 바라볼래
나의 작은 마음 한구석이어도 돼
길을 터 보일게 나를 베어도 돼
날 지나치지 마 날 보아줘
나는 널 들을게 이젠 말해도 돼
날 보며
최유리. (2022). 숲 🎵 노래. 〈유영〉 수록. 쇼파르엔터테인먼트
이야기를 나눌 사람이 필요했다. 그래서 숲으로 들어갔다. 헨리 데이비드 소로의 말마따나, 글쓴이는 생의 끝에 “내 삶”을 살았음에 후회 없노라 고백하려 숲으로 들어갔다. 그리고 아직은 세상에 또렷한 무언가가 필요함을 역설하고 싶었다. 1인 시위로는 힘이 부족해 숲에 들어가 동지들을 찾아 헤매려 했다. 🦜 AI 윤리 북클럽은 그러한 간절함과, 인공지능 윤리 수업의 처절한 지루함이 더해져 찾게 된 곳이었다.
현상만을 읽어내는 것은 숲만을 바라본다는 의미다. “나무보단 숲을 보아야 한다”라는 조언을 아무런 간섭 없이 뛰노는 초원에서 금과옥조처럼 여기며 살아내고 싶지는 않았다. 숲을 조망하는 것이 보편타당한 곳이 있고, 글쓴이가 목높여 이야기하고자 하는 곳처럼 나이테를 소중히 여기는 곳이 있다. 의식이 진정으로 자유로워지는 걸 원한다면 후자와 같은 곳을 가끔이라도 방문할 필요가 있다. 자신과 밖의 경계가 뚜렷하지는 않지만, 그가 가진 색채만으로 또렷한 사람들이 있다. 그들은 안과 밖을 구분하지 않으나 스스로가 행성이 아닌 항성임을 증명해낸다. 책을 읽고 글을 쓰는 인간이라면, 그 자체로 발광하는 데 무리가 없다. 그런 사람들은 숲을 거닐며 나무들에게 말을 건낸다. “당신의 삶은 무엇으로 이루어져 있습니까?”라고. 그런 다정함 때문이라도 숲의 일원보다는 나무 종족의 핏줄을 타고 태어났음을 더 자랑스럽게 여긴다. 다만 글쓴이가 주로 머무르던 세상에는 그런 존재들을 찾아보기 어려웠기에, 북클럽에서라도 비슷한 지조를 지닌 사람들을 만나길 바랐다. 그리고 몇 차례 이야기를 나누며 깨달았다. 들어오기 전의 기대들이 완전히 다른 방식으로 허물어지고 있음을, 또렷함의 사도를 자처한 것이 얼마나 오만한 일이었는지를, 그리고 빛을 감추며 살아가는 이들이 이렇게나 많다는 사실을 말이다.
북클럽에서 다루게 된 첫 책, 첫 숲에서 처음으로 만난 나무는 ⌜인공지능 시대의 철학자들⌟ 중 하나인 루치아노 플로리디(Luciano Floridi, 1964- )이다. 그는 우리가 더 이상 인포스피어에서 벗어날 수 없는 한낱 인포그일 뿐이므로, 새로운 시공간을 지배할 철학인 정보철학이 제일철학(Philosophia prima)이 되어야 한다고 말했다.
플로리디는 “많은 측면에서, 우리는 독립적인 존재자라기보다 상호 연결된 정보적 유기체,
즉 인포그(Inforg)로서 생물학적 행위자들 및 공학적 인공물들과 함께
궁극적으로 정보로 이루어진 총체적 환경, 즉 인포스피어를 공유한다.”
그리고 “우리의 환경과 그 안에서 작동하는 행위자의 급진적인 변형을 통해, 우리는 우리 자신을 인포그로 이해하기 시작했다.” 라고 말한다.
🚩 (김선희 외, 2025 : 56-57)
생물인 우리가 공학적 인공물과 동일한 취급을 받는다니. 얼핏 보면 모욕적인 듯 하지만, 기술과 결코 분리하여 여길 수 없는 현대 인류의 양태를 감안할 때 이러한 이론을 쉬이 부정하기는 어려워 보인다. 브뤼노 라투르(Bruno Latour, 1947-2022)도 그의 대표적인 저작 ⌜Reassembling the Social : An Introduction to Actor-Network-Theory⌟에서 행위자-네트워크 이론(이하 ANT)을 제시하며 인간, 인간이 아닌 생물, 무생물을 모두 동등한 행위자로 간주하여 그들 사이의 상호작용을 분석하는 사회과학 방법론의 필요와 쓰임의 중요성을 역설했다. 사실 많은 철학자 / 사회학자 / 그 밖에도 여러 학계에 발을 딛고 있는 사람들은, 범인들에게 인공지능이 도달하기 이전부터, 인간이 아닌 생물 / 인간이 만들지 않은 무생물 / 공학적인 인공물을 인간과 동등한 행위자로 규정하고 있었다. 보수적인 입장을 취한 학자들도 물론 존재했지만, 인간이라는 제한된 형태를 뛰어넘어 의식 주체를 가진 존재들의 가능성을 상정하는 “포스트휴먼(Post-Human)” 사조는 소수만의 전유물이 아니었다는 것이다. 더 이상 기계로만 바라볼 수 없는 무언가가 범용성을 갖추게 된 지금에서야, 글쓴이는 그들의 생각들이 텍스트 속 온실에만 존재할 수 없다는 것을 깨달은 터였다.
그렇다면 (플로리디의 표현을 빌려) 인포스피어라는 ‘다시금 정의된’ 실세계를 살아가는 우리에게, 새로운 윤리의 틀도 존재해야만 한다. 플로리디는 당연히 이러한 부분도 놓지지 않았다.
기존의 윤리학은 발신자 / 행위자에 너무 많은 초점이 맞추어져 있기에, 이를 수신자/피동자 중심으로 전환할 필요가 있다는 것이다.
이는 도덕적 선함의 열쇠가 배려, 존경, 관용에 있다고 보기 때문이다.
피동자 중심의 윤리학은 윤리를 행위 주체의 관점이 아니라, 행위로 인하여 영향을 받게 되는 도덕적 이해관계를 가진 피동자의 관점에서 접근한다.
말하자면, 도덕적으로 배려해야 할 존재를 단지 ‘인간’으로 국한시키는 것이 아니라, 다른 비인간 존재들로 확장할 가능성을 열어 놓는 것이다.
🚩 (김선희 외, 2025 : 61-62)
도덕적으로 배려할 수 있는 “존재”의 범위가 확장된다면, 도덕적으로 행위해야 할 의무를 가진 “존재”도 비례해서 많아져야 한다. 우리가 말하는 도덕이란 사회에서 응당 수행해야 할 의무와 궤를 같이 하기 때문이다. 그리고 의무를 이행하지 않으면 책임을 져야 한다. 인포스피어의 윤리학은 여기서 우리에게 의문부호를 던진다. 바로 인간 이외의 존재가 책임을 진다는 것이, 의무를 지키지 않음으로써 발생한 ‘인간의 피해’에 있어 어떤 보상으로 기능할 수 있는지에 대한 의문이다. 글쓴이는 이 물음표가 쉬이 지워지지 않아 첫 발제의 첫 질문으로 아래와 같은 문장들을 적어 내었다.
질문 1.
플로리디는 행위주체성이 인간에게만 귀속될 수는 없다고 이야기했습니다.
그러나 인공적인 피조물에게 책임을 부여하려는 시도 자체가 ‘인간중심적’인 사고라고 언급하며,
사전 예방의 윤리학에 대해 강조했죠.
과연 도덕적 책임을 지니지 않은 채 도덕적 행위자로서 기능하는 것이 가능할까요?
더불어 사전예방 원칙의 준수가 사후 처벌과 보상에 앞선 가치일 수 있을까요?
질문 자체에 문제가 있었음을 여기서 시인하겠다. 인공적인 피조물에게 책임을 부여하려는 시도가 ‘책임’이라는 단어가 가지는 인간중심성에서 기인한다는 사실을 앞에서 밝혀 놓고, 글쓴이는 “과연 도덕적 책임을 지니지 않은 채 도덕적 행위자가 될 수 있냐”며 자신에게 내재된 인간중심적 가치를 적나라하게 드러내었다. 책임이라는 단어는 그 자체로, 규범에서 벗어나는 행위를 저질렀을 때 사회적으로 통용되는 정도의 인격적 모욕을 감수하겠다라는 뜻을 내포한다. 또한 그 “인격”이 축적한 교환가치(주로 화폐)에 대한 손해를 회피할 수 없음을 의미한다. 하지만 인격에 대한 규정이 모호해지면, “피해를 발생시킨” 행위의 주체가 여럿이 된다면, ‘책임’이라는 단어는 그 근간부터 흔들리게 된다. 여기서 행위 주체가 여럿이 된다는 건, 말 그대로 개인이 집단으로 확장된다는 의미가 아니라, 인간과 비인간이 네트워크로 엮여 피동자 입장에서는 누가 누군지 판별하기 어려워지는 세태를 의미한다. 그 세태를 적나라하게 드러내는 아주 진부한 예시로 “자율주행 시-비전 AI의 오판으로 인한 사고”를 들 수 있겠다. 자동차 회사 대표 - AI 엔지니어 - 소프트웨어 자체 - (가능하다면) 오토 파일럿 모드를 끄지 않은 운전자로 사고의 책임이 분산되는 상황 말이다. (이 같은 상황을 플로리디는 Distributed Morality, 즉 분산된 도덕이라 명명했다.) 사실 이 문제도 비교적 책임 소재가 명확한 편에 속한다. 만약 사회의 기본적인 질서에 반하는 행동을 부추기는 콘텐츠만을 사용자에게 보여주는 알고리즘에 대해, 그리고 그로 인해 우리 생존에 있어 현저한 위협을 끼치는 “사고”가 발생했을 때, 당신은 어떤 말을 할 수 있는가. 누구에게 소리높여 “당신의 책임”이라 물을 수 있는가. 나에게는 발언권이 없으리라 확신하기 때문에, 우리에게 필요한 건 예방, 예방, 그리고 예방이라고 외칠 뿐이다. 그렇다면 기술이 만들어낸 도덕적 아이러니를 인간은 없애지는 못할 망정, 최소화는 해야 할 터였다. 인간은 이 지점에서 다시 기술에게 손을 내민다. 하지만 최전선의 엔지니어들에게 이러한 외침은 닿을 수 있는가 / 닿고 있는가 / 닿은 적 있었나. 엔지니어링을 전공하는 스스로에게, 최전방에 설 기회가 주어진다면 “당신이 어릴 적 그토록 끙끙 앓았던 생각들을 동료들에게 주창할 수 있는가”라고 묻는다. 자신없이 고개를 쭈뼛거리는 그에게, 당신은 무엇을 공부하며 살았나 묻는다.
⌖ 무엇을 공부해야 하는가
그런 사람들이 좋았다.
남들이 보기엔 저게 대체 뭘까 싶은 것에 즐겁게 몰두하는 사람들,
남에게 해를 끼치거나, 정치적 싸움을 만들어내지도 않을,
대단한 명예나 부가 따라오는 것도 아니요,
텔레비전이나 휴대전화처럼 보편적인 삶의 방식을 바꿔놓을 영향력을 지닌 것도 아닌 그런 일에 열정을 바치는 사람들.
신호가 도달하는 데만 수백 년 걸릴 곳에 하염없이 전파를 흘려보내며
온 우주에 과연 ‘우리뿐인가’를 깊이 생각하는 무해한 사람들.
나는 그런 사람들을 동경한다.
그리고 그들이 동경하는 하늘을, 자연을, 우주를 함께 동경한다.
심채경, ⌜천문학자는 별을 보지 않는다⌟, 문학동네, 2021, p.13
전공을 잘못 선택했다고 여겼다. 일반적으로, 배움은 스스로의 어리석음을 깨닫는 것에서 출발한다고 이야기한다. 이에 덧붙여, 글쓴이는 그러한 사실을 감각하기 위한 환경도 조성되어야 한다고 생각한다. 또한 그러한 환경에서 자신의 모자람을 판단하는 기준이 수량화되어선 안 된다고 여긴다. 삶에 의미를 부여하기 위한 모든 활동이 착수될 때, 그 근원을 숫자로부터 찾아서도 안 되며 찾을 수도 없어야 한다는 것이다. (이 지점에서, 읽는 분들이 공통적으로 떠올릴 법한 생각: “저 사람은 왜 엔지니어링을 전공으로 택했나.”) 그렇다. 숫자를 다루고, 무엇을 위한 최적화인가를 묻지 않는 이곳에 발을 딛은 이유가 무엇인지 물을 수 있다. 기억이 흐릿해진, “한 때에는” 과학자(컴퓨터 과학도 포함해서)를 인류의 유일한 파이오니어 집단으로 여겼다. 홀로 미약한 오늘을 견뎌내고 모두의 더 나은 내일을 꿈꾸는 사람들. 어느새 색이 바랜 흰 가운을 입고 아무도 보지 않는 곳을 응시하는 사람들. 그런 사람들을 동경했다. 컴퓨터 과학(Computer Science)도 마찬가지라 여겼다. 0과 1의 세계 위에서 논리정연한 규칙을 세우고, 인간에게 더 넓고 평등한 세상을 기술로써 제공할 것이라는 믿음. 팀 버너스-리(Sir Tim Berners-Lee, 1955-)가 꿈꾸던 그런 세상을 만들어낼 거란 믿음을 바탕으로 이 전공을 선택했다. 눈 앞에 보이는 것이 당장은 지저분한 미래라 할지라도, 무지의 꺼풀을 벗겨내면 다른 세상을 탐험할 수 있을 거란 막연한 기대에서 이 여정은 시작되었을 뿐이다.
우리 인간은 논증을 이용해서 진실을 찾아내고자 노력하는 게 아니다.
그를 통해 타인을 설득하고자 노력하도록 프로그래밍되어 있다.
앞서 언급한 레빈슨 및 기타 이론가들과 마찬가지로,
머시어와 스퍼버 역시 인간의 추론 능력이 자연 세계에서 문제를 해결할 필요가 아니라
사회적 세계에서 타인을 설득할 필요로부터 나왔다고 본다.
대니얼 데닛의 말마따나,
“우리가 기술을 연마하는 것은 패를 가르고 논쟁에서 남을 설득하기 위해서지
꼭 상황을 바르게 이해하기 위해서는 아니다.”
키스 E. 스타노비치, 김홍옥 역, 「우리편 편향 (The Bias That Divides Us)」(2021), 바다출판사, 2022, p.61.
하지만 이는 엔지니어가 되기 위해 스스로를 편향의 굴레에 가두었을 뿐이었다. 스스로와 논쟁에서 자신을 굴복시켰다. 상황을 바르게 이해하지 못했다. 보다 정확하게는, 이해할 수 없었다. 사람이 여러 개의 전공을 가질 수 있다는 사실을, 또한 여러 학제를 이을 수 있다는 이야기를. 허나 복수의 전공으로 입학을 허용하는 대학교가 세상에 존재하기나 할까. 그것도 삼만 리는 떨어져 보이는 두 학과를. 글쓴이는 본래 철학을 ‘최소한’ 부전공으로라도 삼고 싶었다. 철학을 공부하고 싶은 마음이 어디서 창발되었는지는 나도 모르고, 아무도 모른다. 그저 글을 읽고, 어떤 글을 또한 견뎌가며, 묵묵히 써내어 가고 싶을 뿐이었고 지금도 마찬가지다. 그곳이라면 아무리 고통스러워도 사리는 남겠지 싶었다. 하지만 글쓴이는 컴퓨터공학을 전공으로 삼아 대학에 오고야 말았다. 본인은 대외적으로 이 짧은 역사의 과학을 전공하려 부단히 노력했었고, 그 와중에 분이 넘치게도 수많은 응원과 도움을 받았다. 축하는 이루어낸 것 이상으로 만끽했으며, 이 길을 기회비용이 가장 적은 길이라 여기며 스스로를 다그쳤다. 가끔은 슬프고 미약한 자신을 드러내는 글로 스스로를 다독였다. 이렇게 약한 나에게 한 번쯤은 눈길을 달라 텍스트로 외쳐본 적도 수십 번이다. 하지만 이 애석하며 애매한 재능의 글에게 관심은 사치였을까. 이러한 상황을 자본주의 사회의 용어로 치환해 말하면, 글쓴이의 글은 아무에게도 고용되지 못했다.
그에 비해 전공은 휘형청 밝아만 보였다. 안정된 직장, 보장된 미래에 이끌려 더 많은 아이들이 이 학과를 택하고 있었으며, 선배들은 롤모델이 되어 우리들에게 더 나은 삶을 보여주었다. 그렇게 그저 이끌려 가면 될 뿐이었다. 밀면 밀어주는 대로, 끌어주면 끌어주는 대로. 끝내 무대에 오르지 못한 단막극에 대해, 아무나처럼 부채감을 안고서 살아가는 게 평생의 의무일 터였다. 다만 분명히 할 부분은 있다. 글쓴이는 오롯이 자신의 생에 대해서만 책임을 묻는 것이다. 누군가의 짤막한 일생에 대해 써내려 간 궤적이 이렇다고 해서, CS를 전공한 모든 엔지니어들이 경제 시스템에 쉬이 복종한 사람들이냐 묻는다면, 글쓴이는 만 번이고 고개를 가로지을 것이다. 아무도 읽지 않는 글의 탄생을 손꼽아 기다리는 사람이 무엇이 대단하다고 남의 삶을 함부로 재단하겠는가. 가족을 지키기 위한 물질적인 조건을 마련하려 엔지니어가 되는 사람들도 있을 터이고, 글쓴이는 가늠하지도 못할 가치를 위해 엔지니어링을 도구로 삼는 이들도 있을 것이며, 보편적인 삶의 방식을 바꾸지도 못할 일에 열정을 바치는 무해한 사람들도 분명 어딘가에는 존재할 것이 틀림없었다. 글쓴이는 남들이 보면 저게 뭘까하는 일에 오롯이 몰두하는 사람들보다는 박복한 편이고, 누구에게나 팍팍한 세상의 모퉁이에서 산소호흡기 삼아 글을 읽고 쓸 수 있다는 사실 자체만 바라봐서는 운이 퍽 좋은 편이다. “잠에 들기 전 깊은 한숨이 아니라 종이가 줄 수 있는 포근함 안에서 하루를 마무리할 수 있고, 글을 써낼 수 없을 정도로 생이 삶에 내몰린 적이 없다는 것만으로 감사해야 한다.” 이러한 마음가짐이 날카로운 세상에서 부드럽게 몸을 굴려내기 위한 나름의 방식이었다.
공기에 저항해야 한다. 규칙을 바꾸어야 한다. 그렇게 주장하는 사람은 많다.
하지만 일본에서 이런 주장(물)은 그대로 받아들여지지 않고 곧바로 '그런 주장을 하는 사람이 나타났다'는 새로운 공기의 문제로 인식되고 만다.
즉, "규칙을 바꾸어야 한다"는 주장을 해서 새로운 규칙으로 게임을 하는 사람'으로 받아들여지고 만다.
그러면 이어서 이 새로운 문제제기를 아무 생각 없이 추종하는 사람이 나타난다. 아무리 찬물을 끼얹으려 해도 그것이 곧바로 새로운 공기가 되고 마는 구조가 있는 것이다.
쉽게 말해 권력 비판을 하는 사람이 도리어 공기를 더 읽게 되는 구조가 있다.
아즈마 히로키, 안천 옮김, ⌜정정하는 힘(訂正する力)⌟(2023), 메디치미디어, 2024, p.30
다른 학제와의 연결을 상정하기 전, 이 순간 주어진 기회를 놓치지는 말자며 가까스로 전공에 재미를 붙여갈 즈음, 예고없이 불어닥친 황사는 매서웠다. 새로운 기술이 황색 하늘에 물을 부으며, 공기는 더욱 굳어져 갔다. 이제야 스스로를 탓하지 않게 되었는데, 이제는 세상을 탓해야 할 지경이었다. 엔지니어(를 지망하는) 인간이 기술을 원망하다니. 분명 부처님에게는 이 마음 속의 소리가 “중생이 마음이 아닌 세상을 탓하다니”로 번역되어 닿을 터였다. 널리 알려진 대로, 불교는 일체유심조(一切唯心造)를 강조한다. 한자를 한국말로 그대로 옮기면, “모든 건 오직 마음이 만들어내는 것이다.”가 된다. 마음가짐이 만사를 지배한다는 이야기인데, 이 해석을 현대에 그대로 적용하기란 무리가 있다. 사실, 마음먹은 대로 세상을 바라볼 수 있고 좋은 사람과 관계맺을 수 있으며 그들과 원하는 일을 할 수 있다면, 삶의 모자람을 우리는 결코 감각할 수 없다. 그러나 “마음먹은 대로”란 어떤 문장에든 그렇게 쉬이 붙을 수 있는 수사가 아니다. 마음을 지식과 더불어 세상을 바라보는 렌즈 또는 필터라고 생각해 보자. 그렇다면 이를 무균인 채로 간직하는 인간은 얼마나 될까. 제때 세척을 하지 못했지만 이 때묻은 물건이라도 껴안고 살아가야지 하며 하루를 살아가는 사람들이 압도적으로 많을 것이라 감히 예상해 본다. 공기의 질은 정해져 있고, 마음가짐이 실사에 투영되는 정도란 이 필터의 성능과 유지보수에 달렸다. 그리고 이는 일반적으로 자본에 의해 결정된다.
아예 다른 구성을 지닌 공기를 찾아 떠나는 사람도 있으며, 우리는 그들을 수도자라 부른다. 수도자들은 대부분의 인간이 거주하는 세계인 일명 ‘속세’를 벗어나, 필터를 청소할 충분한 시간을 보장받는다. 그 대신 때묻은 사람들을 자애롭게 보살펴야 하며, 자신보다 이 길에 늦게 들어선 수도자들을 지도해야 할 책무도 생긴다. 종단에서는 이러한 과업들을 가장 훌륭하게 수행한 종교인들에게 성인 혹은 대종사의 칭호를 부여한다. 그들의 발자취를 오랫동안 보존해야만, 기적의 기억을 품고 살아가는 공동체는 살아남는다.
그렇게 공기를 바꿔 살아가는 과업이 존중받아야 할 만큼, 속세를 살아가는 사람들에게 주어지는 응원이란 턱없이 부족하다. 그들이 필터를 갈고닦는 일에 소홀한 것은 저마다의 먼지에 재채기할 시간조차 사치이기 때문이다. 자신의 호흡기가 망가지는 와중에, 타인에게 깨끗한 공기를 양보하는 사람들이 있기 때문이다. 그런 사람들이 바로 공기의 모양을 바꾸는 사람들이다. 타인을 위해 자신을 필터로 사용하는 사람들이다. 그들은 속세에 존재한다. 지금 그리고 근미래에는 흔적조차 잘 남지 않아, 기록하기도 어렵다. 공기를 그 누구보다 적극적으로 의심하고 지적하며 인간이 단 하루라도 더 인간으로 영속될 수 있도록 힘쓰는 사람들이다. 그런 사람들에게 마음가짐이란, 매일 내쉬는 공기를 정정하려 애쓰는 데 필요한 최소한의 연료이다. 질 나쁜 공기를 더 깨끗한 필터로 마주하기보다, 남아있는 순백을 먼지 한 움큼이라도 더 붙잡는 데 사용하는 사람들에게 스티글레르(Bernard Stiegler, 1952-2020)은 이야기한다. 현대의 기술을 독에서 치료약으로 바꿀 힘은 바로 당신에게 있다고 말이다.
스티글레르는 특히 인공지능과 디지털 자동화 시스템으로 인해 냉혹하게 불어 닥칠 고용 한파야말로 고용으로 환원된 노동을 강요하는 '무관심의 경제'에서 자기 고유의 일을 하며 기여소득으로도 살아갈 수 있는 '기여경제'로 체제 혁명을 일으킬 수 있는 결정적 계기가 될 것이라 내다보았다. 인공지능이 노동을 대신할 수 있을 때 우리는 인공지능과 경쟁할 것이 아니라, 공유할 만한 가치가 있는 일에 자유롭게 몰두 하자는 것, 즉 자동화로 얻은 시간을 탈-자동화의 역량으로 투여하자는 것이다. 자신과 타인의 삶에 무관심하며 정신적, 정서적으로 궁핍한 '고용된 노동'이 아니라 자신의 '고유한 일'을 하며 살아갈 수 있는 사회, 기술적 도구들을 자유롭게 사용할 줄 알고 이를 통해 자신과 타인의 삶을 돌보며 함께 공동체를 꾸려가는 삶의 테크닉이 공유되는 사회, 바로 이런 사회를 만들어가기 위해서 디지털 정보네트워크와 자동화 기술을 독에서 치료약으로 전환하자는 것이 스티글레르의 주장이다.
🚩 (김선희 외, 2025 : 340)
공기를 적극적으로 탓하고, 스스로가 필터가 되어야 한다. 지금까지의 종교, 그리고 선의를 품은 과학은 공기에 찬물을 끼얹을 뿐이었다. 로마 다신교에 대항한 기독교, 가톨릭에 대항한 개신교, 조선의 승유억불, 종교의 자리를 대신한 진보지상주의 과학이 그러했다. 스스로 새로운 공기가 되어 인간에게 이 공기 안에서 살아남으라 이야기하고, 사람이 되라 말했다. 때마침 불어온 황사는 그러한 ‘찬물’의 더욱 거친 형태라고 볼 수 있다. 이전까지의 찬물은 ‘쓸모있는 인간’이 되라며 공기를 만들었다면, 지금의 황사는 ‘너가 만들어낼 쓸모가 무엇이냐’라며 인간이 세상에 도래한 이유를 묻고 있기 때문이다. 거대한 언어지능으로 대표되는 현대의 기술이 찬물이나 황사와 같은 독약의 형태로 우리의 몸을 잠식하는 걸 막아야 한다. 어떻게 막아야 할까. 결국 세상을 탓해야 한다. 거기서 끝맺지 않고, 세상을 다른 형태의 공기로 침식시켜야 한다. 스스로를 필터로 규정해야 한다. 그러니 “세상은 내가 어떤 필터로 비롯되기 나름이다.” 이 마음가짐이, 지금-여기-우리가 ‘일체유심조’를 어떻게 받아들여야 하는지에 대해 마땅한 해석이 될 수 있다. 지금의 공기에서는 다수가 그 중요성을 감각하고 있지 않지만, 마땅히 공유해야 할 가치에 봉사함으로써, 기술을 치료약으로 전환하는 일에 매진하는 것. 기술을 타인의 손을 뿌리치기 위해 사용하지 않고 맞잡는 데 사용할 수 있도록, 엔지니어로서의 역량을 키우고 가치있는 프로젝트에 과감히 투입하는 일. 이 두 가지의 미션이 엔지니어로서 글쓴이 자신을 가둘 수 있는 유일한 편향이자 의미가 되어야 한다. 스스로를 어리석은 편향에 가둔 과거에 대한 반성은 그러한 의미를 삶에 부여함으로써 시작될 수 있다고 생각한다.
인간은 망각에서 구원받기 위해 이미 ‘문자’라는 기술을 치료약으로 전환한 경험이 있다. 문자는 인류의 신성한 기억력을 모독하는 ‘독’으로 취급받다가, 세월과 세대를 건너며 인류 지성의 탯줄로서 기능하는 ‘기억의 묘약’으로 거듭났다. 그리고 문자 이후의 기술은, 자크 데리다의 표현을 빌리면, 독과 치료약의 특성을 모두 지닌 파르마콘(pharmakon)이 되었다. 인간이 아직까지 번영할 수 있었던 이유는, 지금까지 우리 주위에 놓였던 수많은 파르마콘이 어느 정도는 치료약으로 기능했기 때문이다. 하지만 인류는 문자가 도래한 이래, 가장 큰 파르마콘을 눈 앞에 마주하고 있다. 만약 그가 독이 된다면 다른 치료약이 모두 의미를 잃게 될 수준이다. 그는 그 자체로 새로운 공기가 될 가능성이 다분하기 때문이다. 아직 불완전한 상태의 독을 늦지 않게 치료약으로 전환하기 위해서는, 우리에게는 새로이 공유할 만한 가치가 필요하다.
(문자라는 파르마콘은 ‘망각에 대한 저항’이라는 가치 안에서 치료약으로 거듭났다고 생각한다.)
어떠한 가치를 선정하고, 그 가치 속에서 어떻게 고유의 일을 만들어내고 봉사해야 하며, 공동체를 어떻게 꾸려 나갈 것인지 고민해야 한다. 그러니 결국 이 지점에서 글쓴이는 이 단락의 첫 질문으로 돌아가고자 한다. 무엇을 공부해야 하는가, 정확히는 어떤 가치를 공부하고 그에 봉사해야 하는가. 그리고 그 가치의 결과로 무엇을 도출해야 하는가.
☕︎ 글보다는 경험을, 코드보단 번뜩임을
인간 기사들이 만들어 내는 서사가 앞으로 나아가야 할 바라면,
‘인간의 바둑'은 스토리텔링에 도움이 되는 요소들을 중심에 모으고 불필요한 요소는 줄이거나 빼는 방향으로 재구성된다.
'인간의 문학'도 마찬가지다. 거기서 탁월함이라는 가치는 결코 중심 요소가 아니며 아주 낮은 수준으로 요구된다.
그러면 바둑이건 문학이건, 참여하는 개인이 노력해야 하는 방향이 달라진다. 탁월함이 아니라 스토리에 더 공을 들여야 한다.
🚩 장강명, ⌜먼저 온 미래⌟, 동아시아, 2025, p.248
무엇을 공부해야 하는가라는 질문은, 사실 어느 분야에서 탁월해질 것인가라는 질문과 같은 이야기였다. 어느 분야에서 비교우위를 차지해야 하는가. 어느 땅에서 우뚝 서야 스스로의 삶에 그럴듯한 가치를 부여할 수 있는가. 번민하던 인간들을 위해 탁월함을 나타내는 표지는 날이 갈수록 늘어갔다. 권위를 부여한 시상식은 날이 갈수록 불어났고, 부(富)는 부상(副賞)으로서 그들의 천재성에 찬사를 보냈다. 하지만 이 진부한 성공 포맷은, 인간만이 언어를 구사할 때, 인간만이 예술을 할 때, 그리고 인간만이 엔지니어링을 할 때만 성립한다. 인간보다 더 효율적인 기계가 나타나면, 우리는 다른 시나리오를 구상해야만 한다. 엔지니어 인간에게는 희망에 가까운 가설이 잘 떠오르지 않을 것이다. ‘최적화’와 ‘효율 추구’의 칼날이 삶을 찔러낼 때 어떤 결과가 도출되는지, 그들은 어렴풋이 알고 있다. 힘들여 구상할 수 있는 이야기조차 시놉시스는 이러하다. “마침내 모든 비효율이 제거되었을 때 인간은 스스로를 세상에서 증발시킬 터였다.” 그러나 인간은 삶의 터전을 어떻게든 보전해 낼 가능성을 지니고 있다. 언어와 예술이 그들 곁에 있기 때문이다. 이 둘은 수량화된 가치의 척도가 없다. 지금까지 인간이 써내고 그려내며 두들겼던 모든 작품을 일렬로 줄세울 수 있다면, 그리고 인류 전체가 인정할 만한 평론가가 그들에게 점수를 매길 수 있다면 모르겠지만.
그런 평가를 내릴 수 없는 절대자란 존재하기 어렵기에, 이들에게 파편화된 시상식은 존재한다 / 존재해야만 한다. 그래야 창작자가 그 시상의 프리미엄으로 재화를 벌 수 있기 때문이다.
하지만 무엇이 더 탁월한 작품인가라는 질문에 답하는, 그 무거운 일에 응답하는 건 온전히 한 사람 / 한 사람만의 몫이다. 존재하는지 여부를 확인할 수 없는 사람의 권위를 억지로 분배한다고 해서, 사람들은 ‘공인된’ 작품을 깊이 받아들이지 않는다. 자본주의의 제일가는 불가사의는 바로 이 지점에서 창발한다. 지극히 개인적인 판단 하나 하나가 모여 시장이 노려야 할 타겟이 된다. 아름다움을 살펴 찾는, 아직까지는 인간에게만 존재하는 듯한, 무언가에서 심미(審美)하는 특질은 재화의 이동에서 큰 힘을 발휘한다. 수상하지 못하더라도 자본의 흐름 자체가 높은 심미성의 표지가 된다. 혹자는 이러한 심미성을 ‘시대를 관통하는 정서’라고 재명명하기도 한다. 그리고 그러한 대중성이 시상으로 이어지는 경우도 더러 존재한다. 현상은 명확하다. 그러나 원인이 분명하지 않다. 우리가 무언가에 대해 아름답다고 생각하는 이유를 규명하기란 매우 어렵기 때문이다. 앞으로도 어렵다고 생각한다. 커다란 자본이든, 주기적인 월급이든, 조그마한 수익이든 ‘아름다움’에 투자하는 경향성 자체는 사그라들지 않을 거라 (지금까지의) 경험으로 추측할 뿐이다. 이 섣부른 예언이 지지를 받는 건 작가라는 직업이, 미술가라는 직업이, 음악가라는 직업이 우리 곁에 남아주기를 바라는 사람들이 아직 많아서일지도 모른다. 그리고 그 많은 사람들이 가진 탐미의 기반이 ‘이 작품이 이름을 건 사람으로부터 나온 원본일 것이다’라는 가정에 있기 때문일지도 모른다. 삶에 영향을 끼쳤다 생각하는 작품이 모작으로 판명나는 일만큼 그 사람의 정체성을 훼손할 수 있는 일은 흔하지 않다. 이는 예술은 단순히 언어나 매체 안에서만 맴돌지 않기 때문이다. 하나의 작품과 자신의 삶이 결부되는 그 여정 자체가 예술만이 그려낼 수 있는 화폭이 된다. 그러니 모방과 재사용이 필요선 / 필요악 양 영역에서 활발하게 다루어지는 엔지니어링과 달리, 언어와 예술의 위기는 최적화에서 비롯될 수 없다. 그들의 위기는 둘 중 하나의 시나리오로부터 온다. 하나는 “인간이 더 이상 원본을 찾지 않는 시대가 도래한다.” 나머지 하나는 “원본과 복사본의 경계는 점차 모호해진다.”
사실 마음이 진실로 기계인지, 생각이 진실로 모사인지는 그리 중요한 문제가 아닐지도 모른다.
문제는 이런 주장이 우리의 생각과 문화에 미치는 영향이다.
모형과 실재, 복사본과 원본의 경계가 급속히 무너지고, 진정성이라는 개념이 사후세계의 영혼만큼이나 의미 없는 말이 되어 버린 오늘날,
아무도 믿어 주지 않는 진정성을 내세워 나를 증명하는 건 불가능한 일이 되었다.
튜링 테스트의 여자 인간은 증명할 수 없는 자신의 정체성을 스스로 폐기하고, 자신도 기계임을 선언하는 것 외에 다른 선택지를 가지지 않는 것으로 보인다.
도나 해러웨이(Donna Haraway)의 '사이보그 선언'이 이런 절망의 이면까지 담고 있는지는 알 수 없지만,
아직 인간임을 주장할 수 있을 때 인간의 모습으로 생을 마감하고 싶어 하는 낙후된 인간들이 아직 주변에 남아 있다는 건 어쩌면 한 편의 위안이다.
🚩 장피에르 뒤피, 배문정 옮김 및 해설, ⌜마음은 어떻게 기계가 되었나(Aux origines des sciences cognitives)⌟(1994), 지식공작소, 2023, pp.88-89
하지만 원본을 모욕하는 시대는 이미 도래했다. 원본을 모욕하는 세태를 고발하는 예술가들도 속속이 그 모습을 드러내었다. (대표적으로 3년 전 국립현대미술관 서울관에서 개인전을 연 미디어 아티스트, 히토 슈타이얼(Hito Steyerl, 1966-)이 있다. 글쓴이의 𝐛 히토 슈타이얼에 대한 단상 참조) 그저 원본을 모욕하는 예술가들도 보인다. 『스크린의 추방자들(The Wretched of the Screen)』에서, 히토 슈타이얼은 인터넷 세계에서 끊임없이 재활용되는 이미지를 통틀어 ‘빈곤한 이미지’라고 이야기한다. 이는 테드 창이 미리 학습된 (Pre-trained) 트랜스포머 모델을 그저 블러 처리된 JPEG 파일을 생산하는 기계라고 일컬은 것과 맥을 같이한다. 올해 상반기에, 지피티로 수천억 장의 지브리-스타일 이미지가 생성된 것도 이의 연장선이다. 수많은 사람들의 프로필 한 구석을 차지한 이미지들은, 슈타이얼의 표현을 빌리자면, 모두 빈곤하다. “가속될수록 저하된다.” 가속될수록 원작을 더욱 모욕할 뿐이다. 그렇다면 무엇이 빈곤한가. 우리는 목말라 있는데도, 어떠한 갈증을 감각하지 못하고 있는 것인가. 그것은 이야기다. 한 사람의 서사이다. 서사를 모욕하기 시작하면 그 위에 덮여지는 모든 문자, 선형, 도형, 색채, 그리고 소리는 빈곤해진다. 가와우치 아리오의 『눈이 보이지 않는 친구와 예술을 보러 가다(目の見えない白鳥さんとア-トを見にいく)』를 보면, 전맹 시각장애인이자 미술 애호가인 시라토리 씨는 ‘눈이 보이는 사람도 실은 제대로 못 보는 게 아닐까’라고 생각하게 된 경험을 이야기한다. 그 작품을 여러 번 주의깊게 보았을 미술관 직원조차 들판을 호수로 착각한 일에 대해 회상하며, 사뭇 마음이 편안해졌던 기억을 떠올린다. 사실, 시각을 단순히 마음에 재현하기란 어려운 일이다. 우리 내면에서 “아름답다”라는 감정이 생성될 때, 그리고 그러한 감정의 기억을 반추할 때 별로 중요한 역할을 하지 못한다. 나의 이야기, 상대방의 이야기, 그리고 작품을 둘러싼 무수히 많은 환경적 요소가 그때-그곳의 기억을 삶에 각인시킨다. 그러나 무한-복제 시대의 인간은 자신의 눈을 두건으로 가리려 한다. 빠른 생성에 휘말려 생성하는 사람의 이야기를 경청하는 일, 그리고 스스로의 이야기를 생성하는 일을 외면하고 있다. 당연하게도, 인간의 이야기는 경청으로부터 출발한다. 자신의 삶, 당신의 삶, 이역만리 타인의 삶을 주의깊게 읽고 듣는 일에서 출발한다. 무한-복제 시대에서 진정성 있는 경청이란 영혼에 대해 거론하는 것만큼 의미가 없는 일이 되었으므로, “이야기를 짓는 종”이라는 특질은 보존이냐 퇴화냐의 갈림길에 서 있는 것처럼 보인다.
저의 이야기가 외국어로 번역되어 머나먼 나라에 사는 수많은 독자들의 손에서 또 다른 삶을 누리게 될 줄은 꿈에도 몰랐습니다. 이처럼 시간과 공간, 언어, 문화를 넘어 쓰는 이와 읽는 이가 대화를 나눌 때 우리는 비로소 가장 인간다워진다고, 저는 느낍니다.
우리는 이야기를 짓는 종이니까요.
켄 리우, 장성주 엮고 옮김, 『어딘가 상상도 못 할 곳에, 수많은 순록 떼가』 저자 머리말 중에서, 황금가지, 2020, pp.10-12
그러니 이 시대는 단순히 인간이 기계로 대체된다는, 원본이 복제본으로 대체된다는 사고 아래서는 서술할 수 없다. 언론에 등장하는 수많은 전문가들을 보라. 그들은 그들이 평생 갈고닦은 공부 안에서만 규정되며, 그 테두리 내에서 함께 커나간 사람들에 의해 대체된다. 그런 관점에서, 애초에 인간에게는 원본이니 복사본이니 하는 이야기는 중요하지 않았다. 중요한 건 그 사람의 쓰임이다. 대체 가능하다면 그 사람의 진정성이야 증발되면 어떻겠는가. 모든 것은 수량화되어 있고, 인간은 이미 규격 안에서만 자라나고 있다. (이 문장에서 어떤 SF든 떠오른다면 그것이 정답이다.) 대표적으로, (개봉 당시) 워쇼스키 형제의 〈매트릭스〉는 범인들보다 한 발 앞서 증거들을 수집해, 여러 종교의 색을 혼합해 미래를 암시한 이야기이다. 인간이 인공지능의 에너지원으로 사용된다는 다소 충격적인 가정을 제시했지만, 수량화든 에너지화든 / 현실이든 영화 속이든 간에 인간은 열역학의 조그마한 변수로만 비롯될 수 있다는 건 매한가지이다. 결국, 수식의 변수 그 이상으로 남고 싶은 우리가 대비해야 할 미래는, 인간이 기계가 되는, 그럼으로써 원본과 복제본의 구분이 희미해지는 세상이다. 삶과 이야기를 덮는 허울들은, 인간이 스스로의 삶을 표현해낸 지금까지의 모든 방식은, 지금의 우리를 표현하기엔 쉬이 복제될 공산이 너무나 크다. 아니, 복제되지 않을 가능성이 매우 희박하다고 표현하는 게 적확하다. 그러니 “진정성이 남아 있다고 믿는 인간들” 마저도, 이제는 복제의 존재를 부정할 수 없고 부정해서는 아니 된다. 우리는 지금부터 텍스트보다 삶을 주창해야 한다. 코드보다 번뜩임을 자랑해야 한다. 이미지보다 불현듯 떠오른 색채에 대한 배타적인 권리를 요구해야 한다. 비트로 치환될 수 있는 모든 것에 대한 인격권을 포기하고, 대신 내 삶을 생성하기 위해 비트의 세계를 떠돌아다니는 수많은 복제본과 복제 도구들을 이용해야 한다. 지금까지는 글, 그림, 음악, 영상을 제작하는 행위 자체, 그리고 그로부터 창출되는 자본을 목표로 인간의 몸이 동작했다면, 앞으로는 삶을 둘러싼 모든 거적때기들은 철저히 도구로 기능해야 한다. 스티글레르의 주장처럼, 자신의 고유함을 가꿔나가는 것이 제일목표인 사회를 만든다면 더욱이 좋을 것이다. 그러나 어떻게 번뜩여야 하는지는 저마다의 숙제이다. 누가 가르쳐 주겠는가 말이다. 수식의 한 부분으로서 기능하는 일 마저도 숨이 벅차, 삶이 형벌인 생을 살아내는 서사가 도처에 널린 사회에서 이 과업을 기꺼이 수행할 사람이 얼마나 될까. 하지만, 그럼에도, 사람으로 남아야 할 이유는 무엇일까. 그리고 삶의 번뜩임을 체감하기 위해 우리는 무엇을 해야 할까.
☛ 사람이 사람으로 남아있어야 할 이유
인간의 동물화는 영화 속 이야기¹만이 아닙니다.
하루에 몇 시간씩 핸드폰 화면만 바라보고, 누가 더 많이 먹고 어디가 맛집인지 등 온통 먹는 것에만 관심을 기울이며, 모니터 위의 영상만으로 (알고리즘의 인도만으로) 세계의 우연성과 복잡성을 손쉽게 대체해 버리는 지금-여기의 우리 이야기이기도 하죠. 질문은 영화에서 현실로 곧장 안착합니다. 우리는 어떻게 세계의 우연과 마주칠 수 있을까요? 처음부터 인간으로 태어나는 게 아니라면, 우리는 어떻게 인간이 될 수 있을까요? 우리가 지금 써 내려가는 역사는, 정말 이전보다 조금이라도 더 나은 역사일까요?
우리는 인간인 우리 자신을 극복할 수 있을까요? 우리는 어떻게 비인간 존재들과 공생하면서 이 세계를 더 나은 세계로 만들어 갈 수 있을까요?
박승일, ⌜기술은 우리를 구원하지 않는다⌟, 사월의책, 2025, p.377
¹ 여기서는 2008년 개봉한 픽사 스튜디오의 애니메이션 〈월-E〉를 지칭합니다.
인간임을 주장할 수 있을 때 인간의 모습으로 생을 마감하고 싶은 인간. 아직 인간에게 또렷한 것이 남아있을 때 지식을 생산하고픈 인간. 새로운 탁월성의 기준에서 보았을 때, 얼핏 도태한 지성처럼 보이더라도, 자신의 이야기를 써내고픈 인간. 시대가 소외시킨 사람들에게 최소한의 기술을 배달하는 인간. 최적화의 광풍에서 잠시라도 발걸음을 돌려보는 인간. 이 진보를 거스르는 엔지니어에게는 바라 마지않는 삶들이 너무나 많다. 그렇다. 이 사람은 다양한 물감으로 채색하고픈 생을 희망한다. 하지만, 발걸음의 끝이 어디에 닿을지 그는 결코 짐작하지 못한다. 가시광선이 그를 더 이상 비추지 않는 순간까지도 그러할 것이다. 그러나 이미 복잡다단한 삶을 결심한 이상, 고삐를 풀 수는 없는 노릇이다. 일반적으로, 인간은 단순하고 규칙적인 삶을 소망한다. 그것이 생의 시간동안 잠시나마 엔트로피의 증가를 역행할 수 있는 방법이기 때문이다. 인간이 ‘진보’라 이름붙인, 산업혁명 이후의 250년도 그러하다. 규격화와 대량생산의 시대. 이는 물건만이 아니라 한 명 / 한 명의 개인에게도 적용되었다. 한 사람이 가지는 복잡다단함은 그 자체로 비효율을 상정하였으며, 그들에게는 극히 제한적인 활로만을 열어주었다. 그럼에도 글쓴이와 같은 인간이 생겨날 수 있었던 건, 극히 좁은 통로를 견뎌낸 사람들이 있었기 때문이다. 작은 틈으로 몸을 우겨넣어 빛을 발산한 사람들이 책에 기록되었기 때문이다. 그리고 그 책이 고운 손에 손으로, 마침내 우리 품에 전해졌기 때문이다. 흔히 인류를 망각의 공동체라고 지칭하기도 한다. 혈흔을 닦아내며 암흑의 시간을 지워내는 존재들이라고 말이다. 하지만 암흑의 기록을 남기는 자들은 항상 존재했다. 지금은 쉬이 지울 수 있을지 몰라도, 이 두루마리가 누군가에게 끝끝내 전해지고 나면 “역사가 당신을 기록할 것”이라며 손을 갈아 먹을 만드는 사람들이 있었다. 우리는 그들의 후손이기도 하다. 우리는 그 자체로 우연성과 복잡성의 산물이기도 하다. 그리고, 천문학자들의 말마따나, 우리는 모두 별에서 왔다. 탄소로 이루어진 생명은 모두 수명을 다한 항성에서 비롯되었다. 오랜 집을 잃고 우주를 떠돌다가, 새로이 활개를 치는 항성에 이끌려, 순전히 우연으로 골디락스 존에 터를 잡은 우리의 조상들은, 후손들이 자신에 대해 이러한 글을 남기리라고는 상상도 하지 못했을 것이다. 세 문장으로 무려 137억 년을 돌아왔지만, 그 중심은 명료하다. 인간은 우연성으로 길러졌으며, 앞으로도 우연의 삶을 살아낼 가능성이 매우 크다는 것이다.
사실 인간의 동물화는 어제오늘 일이 아니다. 동물화보다 규격화라는 표현이 더 어울릴 수 있지만, 그것은 근대에 이르러 널리 쓰이게 되었으므로, 동물화 - 규격화 - 기계화의 흐름을 하나로 묶어 ‘동물화’라고 불러도 무리는 없을 듯하다. 아무튼, 우연을 지각하기 어려운 환경에서 지내왔던 인간들은 - 루소가 이르기를 자연상태를 벗어난 가여운 인간들은 - 땅 주인의 압제에 못 이겨 그들의 쓸모를 충족해야만 했다. 절대 다수의 생애 주기는 노동하게 될 시간 - 노동하는 시간 - 노동하지 못하는 시간으로만 규정되었으며, 이는 곧 그들의 삶에서 우연성을 제거하는 참혹한 비극이었다. 현대 민주주의는, 자연상태에서 우연을 오롯이 만끽하던 조상들의 서사를 꿋꿋이 기억한 사람들이 살아남아, 우리들의 당연한 특질을 돌려받아야 한다며 대중들을 설득하면서 창발되었다. 하지만 민주주의가 정착한 땅에 도래한 것은 규격화된 인간 / 더 나아가서는 기계가 된 인간이다. 오직 시스템의 일부로서 동작하는 인간, 상품을 구매하지 않고 스스로가 상품이 되는 인간, 상대방이 가진 복잡성을 자신의 단순함으로 제단하는 인간이 바로 그것이다. 동물화는 외양을 바꾸어, 우연하며 또 유연한 삶에 다시 한 번 마수를 뻗치고 있다. 그렇다면 동물화에 맞설 무기란 무엇일까. 바로 우연을 찾아 나서는 여정 그 자체이다. 우연이 겹치고 겹쳐, 미약했던 여정의 시작이 기억에서 미화된 형태로 소모될 때까지, 스스로를 복잡한 존재로 만들어야 한다. 스스로를 자신으로 하여금 예측 불가능하게 만들어야 한다. 자신이 이 땅에 발딛기 위해 하는 모든 일들이 하이얀 병원에서 평안하개 눈을 감기 위한 준비라면, 삶에서 우연은 결여되기 마련이다. 자신이 말하는 이야기가 알고리즘을 통해서만 나에게 당도한 것이라면, 삶에서 우연은 자취를 감추기 마련이다. 기술이 기술만을 바라보는 엔지니어링을 시도한다면, 인간에게 우연이란 얼마 남아있지 않은 것인지도 모른다. 그러니 글쓴이는 소망한다. 당신이 스스로를 장/단점을 정리한 리스트 따위로 규정하지 않기를. 사랑하는 사람에게 오직 이 세상에 존재한다는 이유만으로 마음을 쏟을 수 있기를. 가끔은 ‘나보다 나를 더 잘 아는’ 스트리밍 서비스보다, 생존조차 가늠할 수 없었던 사람들의 이야기와 음악에 귀를 기울이기를. 매일 거니는 최적화 경로을 벗어나, 날씨가 좋다는 이유 하나만으로 돌아가는 길을 만끽할 수 있기를. 오랜 시간 동안 몸을 통과하도록 놔두어야만 비로소 흐릿한 인상이라도 주는 체험에 눈길을 두어 주기를.
우리가 누군가를 사랑할 때, 우리는 그를 특징짓는 목록들을 사랑하는 것이 아니다.
비록 그 목록이 그 사람을 다른 사람과 완벽하게 구분하고, 세세한 특징들을 다 포함한다고 해도 그렇다.
제우스는 암피트리온의 실체가 아니라 모사(시뮬레이션)다.
모사는 실체의 특징들을 가질 수 있고, 그 목록은 충분히 완전할 수 있다.
하지만 가장 완벽한 모사도 그 '무언가(Something)'를 포착하는 데는 실패한다.
그리고 사랑의 본질은 바로 이 '무언가', 모든 것을 말하지만 아무것도 설명할 수 없는 이 어설픈 단어에 있다.
나는 스스로를 세계의 창조자 또는 재창조자로 설정하려는 사람들이 가지는 존재론이 세계에 거주하는 존재들의 '무언가'에 대해서는 아무것도 모른 채, 오직 그 존재들을 묘사하는 특징의 목록만을 가지고 있다는 사실이 무척 두렵다.
만약 나노 기술의 꿈이 현실이 되고, 세계의 모든 존재가 시뮬레이션이 된다면,
우리가 오늘날 사랑이라고 부르는 것은 결코 이해할 수 없는 것이 되고 말 것이다.
🚩 장피에르 뒤피, 배문정 옮김 및 해설, ⌜마음은 어떻게 기계가 되었나(Aux origines des sciences cognitives)⌟(1994), 지식공작소, 2023, pp.LX-LXI
글쓴이가 당신에게 이토록 많은 일을 하기를 소망하는 건, 결국 ‘무언가’를 포착하려 노력하는 사람들이 많아지기 바라는 일종의 이기심이 발현된 결과이다. 형언할 수 없는 무언가를 상정하고, 그에게 애써 매달리는 일이, 글쓴이에게는 사랑이고 공부이기 때문이다. 사랑하는 사람에게 자신의 마음을 고백할 때를 상정해 보자. 수많은 영화와 책 그리고 음악에서 가져온 아름다운 문구들이 머리 속을 끊임없이 휘젓는다. 겨우 문장의 틀을 갖추고 음성으로 내보내려 할 때, 단 몇 초 간 수억 번의 망설임이 턱을 조였다 편다. 순간의 고뇌가 마침내 결심을 내리고, 세상 그 어떤 것보다 조화로운 구강 조직 모두가 힘을 내어 특수한 형태의 공기를 몸 바깥으로 내보낼 때. 그리고 자신의 목소리가 몸 안으로 다시 들어올 때, 내 몸에서 나온 것임에도 불구하고 결코 예상하지 못했다며 당황하곤 한다. 떨떠름한 마음을 애써 감추며, 붉게 상기된 얼굴로 그 떨리는 음성을 들은 상대방의 표정을 조심스레 쳐다본다. 뜻을 알 수 없는 웃음이 살며시 보인다. 사랑의 시작이다. 완벽하게 이야기했어도 될까 말까한 일이었다. 하지만 그 사람은 문장의 목록을 사랑하게 된 것이 아니었다. 떨리는 고백을 한 자신도 알아채지 못한 무언가를, 그 사람은 발견했을 뿐이었다. 공부도 마찬가지다. (그것이 인문학이든 공학이든 자연과학이든 상관없다.) 새로운 지적 세계로 모험을 떠나고 싶다면, 다른 사람이 알아채지 못한 무언가를 찾아내는 일이 필요하다. 바로 옆에 있는 짝꿍에게, 자신이 사는 마을에서, 몸담는 어떠한 커뮤니티 안에서 발생한 문제를 감각하는 감수성이 필요하다. 그러한 감수성을 개발하기 위해서는 오랜 시간을 자신의 몸으로 직접 거두어야만 한다. 만들어진 목록만을 받아들인다면, 우리는 목록 너머에 존재하는 이야기들을 놓치게 된다. 인공지능으로 말미암은 목록의 생산은, 인간의 손을 거친 그 어떤 생산 방식보다 거칠고 빠르다. 추상화한 목록으로 직접 인간의 문제를 해결하기란 매우 어렵다. 사랑 고백을 하든, 프로덕트를 만들어 내든, 논문을 쓰든 간에, 추상적이며 거친 대답을 인간에게 내보이기란 여간 어려운 일이 아니다. 이 과정에서 섬세한 손길이 필요한 것이다. 거친 재료는 다듬고 익혀야만 인간이 소화할 수 있기 때문이다. 끊임없이 우연을 찾아 나서며 습득한 감수성. 타인과 사회, 학문 사이 한 가운데에서 문제를 감각하는 예민함. 그리고 그 문제를, 수없이 가다듬은 필터를 통해 이야기로 환원할 수 있는 섬세함. 그러니 사람이 사람으로 남아있어야 할 이유는, 인간만이 인간을 특유의 섬세함으로 보다듬어 줄 수 있기 때문일지도 모른다.
마찬가지로 중요한 것은, 그가 언제나 자신의 감수성을 통해 자신의 두뇌를 바로잡았다는 것이지요.
버지니아 울프, 이미애 옮김, ⌜런던 거리 헤매기: 버지니아 울프 산문집⌟, 민음사, 2019
우리에게 남은 건, 그리고 남아야 할 건, 우연을 알아채는 감수성이다.
그리고 이 미약한 컴퓨터-과학 철학자에게 주어진 과업이란 그 감수성을 비트의 세계에 이식하는 일이다.
