크롬망간이 글 쓰는 공간

요즘 짬짬이 SF 단편집을 읽고 있다. 한 편을 읽고 나면 그 작품의 작가나 배경 등이 궁금해서 검색을 해보곤 하는데, 그러다가 이상한 블로그를 발견했다. 뭔가 해당 작품에 대해 자세히, 길게 설명해 두었고 편집도 깔끔했는데 전체적으로 보면 내용이 엉터리였다. 주인공 이름도 틀리게 쓰여 있었고 줄거리도 실제 내용과 다르고. '어? 뭐지?' 하는 생각이 들어 그 블로그에 있는 다른 글들도 읽어보았다. 마침 내가 읽고 있는 SF 단편집에 있는 작품들에 대한 리뷰가 잔뜩 올라와 있어서 쉽게 내용을 검증해볼 수 있었다.

그리고 내린 결론은, 이거 AI한테 작품 제목만 주면서 리뷰 쓰라고 프롬프트 짜서 뽑아낸 양산형 블로그 글이구나, 라는 것.

그 생각이 들고 난 후 그 블로그 글들을 다시 보니 AI한테 코딩 시켰을 때 튀어나오는 결과물들이 떠올랐다. AI가 만들어주는 코드는 참 그럴싸하다. 실제로 개발 일을 하면서 AI를 유용하게 사용하고 있기도 하고. 하지만 AI에게 코딩을 시키다 보면 어느 순간엔 반드시 AI가 실제로는 존재하지도 않는 API를 자기 맘대로 상상해서 호출한다거나 자료형을 이상하게 바꿔치기 해 놓는다거나 하는, AI가 '그럴싸한 쓰레기'를 만들어내는 경험을 하게 된다.

그 이상한 블로그 글도 그렇게 튀어나왔으리라. 흔히들 하는 말로 이걸 AI의 환각 현상이라고 부른다. 초창기 ChatGPT 시절에 떠돌던 세종대왕 맥북 투척 사건 이야기도 이렇게 생겨난 것이고.

그런데 AI가 잘못된 코드를 만든 경우에는 실행이 안 되거나 실행 결과가 이상하다는 것을 보여줌으로써 문제가 있음을 간단하게 증명할 수 있지만, AI가 작성한 잘못된 정보에 대해서는 그 내용이 잘못되었음을 보여주는 것이 어렵다는 점이 문제다. 그 이상한 블로그 주인이 하루에도 수십 건씩 헛소리 가득한 리뷰를 마우스 클릭 몇 번으로 올리고 있을 때, 실제로 그 작품들의 내용을 알고 있는 사람들이 댓글로 각 글에 대해 이의 제기를 다 할 수 있을까? 거짓 정보를 올리는 블로그 운영자에게는 광고 수익이라는 명확한 보상이 있다. 반대로 실제 내용을 알고 있어서 잘못된 내용을 바로잡고 싶어하는 사람들에게는 자기의 시간과 정성을 쏟아야 한다는 비용만 청구된다.

그래서 앞으로의 인터넷이, 나아가 앞으로의 사회가 너무나도 걱정이 된다. 어떤 책을 실제로 읽은 한 사람과 그 책을 읽지 않고 AI가 써준 잘못된 요약본만 읽고 온 백 명의 사람이 토론을 할 때, 실제로 책을 읽은 단 한 명의 사람이 바보 취급을 받는 시대가 올까 두렵다. 저런 거짓 정보가 담긴 글이 블로그가 아니라 위키피디아에 판치기 시작한다면, 어느 순간 인터넷에 돌아다니는 정보 중 거짓 정보의 비율이 임계점을 넘어서게 된다면 인터넷은, 사회는 과연 어떻게 될 것인가.

그리스 신화에 카산드라라는 공주가 나온다. 태양신 아폴론에게 예언 능력을 받았지만 자신이 하는 말을 아무도 믿지 않게 되는 저주도 동시에 받은 사람이다. 카산드라가 살던 트로이에 트로이 목마가 들어오자 카산드라는 저 목마를 치워야 한다고 말했지만 아무도 그 말을 듣지 않았고, 결국 목마 속에 들어있던 그리스 연합군이 트로이를 멸망시키게 된다. AI가 만들어내는 수많은 쓰레기 정보들이 인터넷과 사회에 들어온 트로이 목마가 되면 어떡하나 하는 걱정이 든다.

현대 AI의 대부로 불리는 2024년 노벨상 수상자 제프리 힌튼 교수가 2023년에 AI를 연구해온 자기의 평생이 후회스럽다는 인터뷰를 한 적이 있다. 힌튼 교수는 AI가 만들어내는 글과 영상이 가짜 정보를 확산시키고 일반인들이 더 이상 무엇이 참이고 거짓인지 알 수 없게 될 미래를 걱정했다. 힌튼 교수가 카산드라가 되지 않기를 진심으로 바란다. 인류의 눈 앞에 AI라는 멋진 목마가 나타났다. 멋지다고 냅다 트로이 안으로 들여놓기 전에, 그 속에 복병이 숨어있지는 않은지 제발 꼼꼼히 살펴보았으면 좋겠다. 트로이가 멸망한 후에 카산드라의 말이 맞았었구나 하고 후회해도 소용이 없으니. 불과 10년 전만 해도 인류가 AI 없이도 잘 살고 있지 않았나. 빨리 가기보다는 안전히 갔으면 좋겠다. 돌다리도 두들겨보고 건넜으면 좋겠다. 안전하다는 것이 확인될 때 까지 목마는 일단 트로이 성문 밖에 두었으면 좋겠다.

이어령 선생님과의 대화

지난 1월 3일에 이어령 선생님을 뵈었습니다. 집필 작업으로 바쁘신 중에도 시간을 내 주시고 많은 말씀을 해 주셨습니다. 수압이 센 곳에서 수도꼭지를 틀어서 물이 터져 나오는 것 처럼 선생님의 입에서는 지식과 통찰력이 터져 나왔습니다. 메모를 할 시간조차 없었습니다. 기자였다면 녹음을 할 수 있었겠지만 저는 그렇지도 못했습니다. 집에 돌아와서 들은 내용을 일차로 정리해보자 5000자, 대략 원고지 25매, A4 용지 3장 정도가 나왔습니다. 그 내용을 바탕으로 이어령 선생님과의 대화를 정리하여 글로 남겨봅니다.

선생님은 물질과 비물질에 대한 언급으로 이야기를 시작하셨습니다. 기호는 물질입니다. 기호가 담겨 있는 글자도 물질입니다. 그러나 그러한 기호와 문자가 전달하고자 하는 내용은 물질이 아닙니다. 예를 들어 아버지 손에 도끼가 있는데 시간이 흐르면서 도끼 자루도 바꾸고 날도 바꾸다가 결국 다 바꾸었으면 도끼란 과연 무엇입니까? 이것이 물질과 비물질을 설명해 줍니다. 지금까지의 서양 문명은 물질로서의 기호에만 집중해왔으며 그것이 문제입니다.

저는 이 부분을 들으면서 언어론의 syntax와 semantics를 떠올렸습니다. 또한 말씀하시면서 클로드 섀논의 정보 이론까지 다루셔서 깜짝 놀랐습니다. 저야 컴퓨터공학을 전공했기 때문에 섀논을 알고 있었지만 새삼 선생님의 지식에 놀랐던 순간이었습니다. 도끼 이야기에서는 테세우스의 배가 생각났습니다.

비물질, 즉 전달하고자 하는 내용이 중요합니다. 예를 들어 DNA는 물질입니다. 하지만 거기에 담겨 있는 내용은 비물질입니다. 지금까지의 과학과 공학은 물질로서의 기호, bit 그 자체에만 집중해왔습니다. 이것이 큰 문제이고 한계입니다.

과거에는 지혜(이 경우 통찰력이라는 뜻으로 보는 것이 적당해 보입니다)에서 지식이, 지식에서 정보가, 정보에서 데이터가 축적되었습니다. 이제는 반대로 데이터에서 정보가, 정보에서 지식이, 지식에서 지혜가 나와야 합니다. 그런데 현재 각광을 받는 세계적인 AI, IT 기업들은 데이터와 정보에 머물러 있습니다. 그렇기에 그 기업들은 10년 후 매우 위태로워질 것입니다.

이제 다시 인문학, 예를 들자면 철학이 중요해지는 때가 옵니다. 무슨 이야기를 하고 싶은지, 왜 사는지가 중요해지는 때가 다시 옵니다.

직업은 갈수록 줄어들 것입니다. 인류의 역사는 직업이 사라져가는 역사입니다. 예전에는 인구의 80%가 농업에 종사했지만 지금은 6-8%만 농업을 합니다. 앞으로는 일과 관심사가 하나가 되는 세상이 올 것입니다. 지금은 소수의 문인과 가수 등만 그렇게 살지만 앞으로는 모두가 자기가 하고 싶어하는 일을 하면서 살아가게 될 것입니다. AI에게 일자리를 빼앗기게 된다고 두려워 할 것이 아닙니다. 지금의 AI 부흥도 전망에 상관 없이 자기가 하고 싶던 연구를 십여 년 간 붙잡고 있던 힌튼 교수가 있었기 때문에 가능했던 것입니다. 자기가 하고 싶은 일을 하는 삶의 좋은 예입니다.

이 이야기를 하시다가 갑자기 불 대수(Boolean algebra)를 언급하시고 힌튼 교수의 선조가 불 대수를 만든 조지 불인 이야기를 하시더니 곧이어 존 매카시와 AI의 혹한기, 재부흥까지 말씀하셔서 전공자로서 다시 한 번 놀랐습니다.

이러면서 이야기의 주제가 자연스레 AI로 넘어갔습니다. 지금의 AI가 잘 작동하게 된 것은 애매모호함, 즉 어중간함을 잘 다룰 수 있게 되었기 때문입니다. 그리고 이 '애매모호함'을 잘 다루는 것이 바로 한국인입니다. 음식점에서 종업원에게 '맥주 한 두서너 병'을 달라고 하지 않습니까? 만약 두세 병을 달라고 했다면 그것은 부정확입니다. 그러나 '한 두서너 병'을 달라고 한 것은 유연성, 플렉서빌리티(flexibility)입니다. 이 유연성 때문에 AI 사회에서 한국인이 강점을 지니게 될 것입니다.

이 부분에서 제가 평소에 AI와 컴퓨터공학을 연구하면서 고민하던 것에 대해 개인적인 질문을 드렸고, 그에 대해서도 깊은 통찰력이 있는 답을 주셨습니다. 참 감사했습니다. 이 내용은 개인적인 것이라 이 글에는 적지 않도록 하겠습니다.

하지만 한편으로는 선생님께서 머리 속에 넘쳐나고 있는 지식과 생각을 한 글자라도 더 저에게 말씀해주시려고 하는데 제가 질문을 하는 바람에 흐름이 끊긴 것 같아 죄송하기도 했습니다. S급의 주제에 대해 말씀하시는 와중에 제가 B급의 질문을 드린 기분이었습니다. 제 질문이 B+ 급만이라도 되었다면 하는 소원이 있습니다.

그 후에는 미래 산업에 대한 말씀을 해 주셨습니다. 5개 분야가 중요해질 것이라고 하셨는데 하나는 먹거리, 둘째는 생명, 마지막은 엔터테인먼트였습니다. 먹거리는 농업을 포함하는 개념이고, 생명은 의학쪽으로 발전할지 인공 생명으로 발전할지는 미지수라고 하셨습니다. 셋째와 넷째는 기억이 나지 않아, 대화 때 메모를 하지 못한 것이 참 아쉽습니다.

엔터테인먼트와 관련하여 BTS를 언급하시면서 이야기는 자연스레 선생님의 오래된 관심사인 문화론으로 넘어갔습니다. BTS는 서양 사람들 입장에서는 이해할 수 없는 명명법입니다. 나누고 분류하기 좋아하는 서양 문화로는 한국어로 방탄소년단이 되거나 영어로 뭔가 번역된 이름이 되거나 해야 합니다. 그런데 BTS는 알파벳으로 쓰기는 했지만 방(B)탄(T)소년단(S)이라는 한국어의 약자일 뿐입니다. 서양인들은 영어면 영어고 한국어면 한국어이지 이런 식의 명명은 하지 못합니다. 이런 이름을 지을 수 있다는 것이 한국인이 가진 장점, 융합시키는 능력을 보여줍니다.

서양 문화는 이것 아니면 저것입니다. 2항 대립입니다. 하지만 동양 문화는 3항 순환입니다. 가위바위보입니다. 서양 사람들은 순환을 싫어합니다. 하지만 순환으로 가야 합니다. 노를 저을 때 '어기'는 힘을 빼는 동작이고 '차'는 힘을 쓰는 동작입니다. 그런데 한국어에서는 '어기'와 '차' 사이에 '여'가 들어가서 '어기여차'가 됩니다. 비유하자면 서양 문화는 어기차, 한국 문화는 어기여차인 것입니다. 어기와 차 사이에 어기도 차도 아닌 '여'를 집어넣은 것에 한국 문화의 특징이 있습니다.

여기에서 선생님의 다음 일정이 있으셔서 아쉽지만 인사를 드려야 했습니다. 마지막으로 제가 가져간 책에 선생님의 인삿말을 받았습니다. "읽고 싶은 이어령"이라는, 제가 처음으로 접했던 선생님의 책이었습니다. 이 책 덕분에 선생님의 다른 책들을 읽게 되었던 것입니다. 새해가 된 지 얼마 되지 않아 2019년이라고 쓰셨다가 2020년으로 고치시는 모습에서 인간미를 느꼈습니다.

이렇게 정리를 했지만 빠진 내용이 참 많습니다. 새삼 신문에 나오는 선생님 인터뷰 내용에는 빠진 것이 얼마나 많을까 하는 생각이 듭니다. 곧 나올 다음 책이 정말로 기대됩니다. 바쁘신 중에도 불러 주시고 만나 주셔서 참으로 감사합니다.