크롬망간이 글 쓰는 공간

요즘 짬짬이 SF 단편집을 읽고 있다. 한 편을 읽고 나면 그 작품의 작가나 배경 등이 궁금해서 검색을 해보곤 하는데, 그러다가 이상한 블로그를 발견했다. 뭔가 해당 작품에 대해 자세히, 길게 설명해 두었고 편집도 깔끔했는데 전체적으로 보면 내용이 엉터리였다. 주인공 이름도 틀리게 쓰여 있었고 줄거리도 실제 내용과 다르고. '어? 뭐지?' 하는 생각이 들어 그 블로그에 있는 다른 글들도 읽어보았다. 마침 내가 읽고 있는 SF 단편집에 있는 작품들에 대한 리뷰가 잔뜩 올라와 있어서 쉽게 내용을 검증해볼 수 있었다.

그리고 내린 결론은, 이거 AI한테 작품 제목만 주면서 리뷰 쓰라고 프롬프트 짜서 뽑아낸 양산형 블로그 글이구나, 라는 것.

그 생각이 들고 난 후 그 블로그 글들을 다시 보니 AI한테 코딩 시켰을 때 튀어나오는 결과물들이 떠올랐다. AI가 만들어주는 코드는 참 그럴싸하다. 실제로 개발 일을 하면서 AI를 유용하게 사용하고 있기도 하고. 하지만 AI에게 코딩을 시키다 보면 어느 순간엔 반드시 AI가 실제로는 존재하지도 않는 API를 자기 맘대로 상상해서 호출한다거나 자료형을 이상하게 바꿔치기 해 놓는다거나 하는, AI가 '그럴싸한 쓰레기'를 만들어내는 경험을 하게 된다.

그 이상한 블로그 글도 그렇게 튀어나왔으리라. 흔히들 하는 말로 이걸 AI의 환각 현상이라고 부른다. 초창기 ChatGPT 시절에 떠돌던 세종대왕 맥북 투척 사건 이야기도 이렇게 생겨난 것이고.

그런데 AI가 잘못된 코드를 만든 경우에는 실행이 안 되거나 실행 결과가 이상하다는 것을 보여줌으로써 문제가 있음을 간단하게 증명할 수 있지만, AI가 작성한 잘못된 정보에 대해서는 그 내용이 잘못되었음을 보여주는 것이 어렵다는 점이 문제다. 그 이상한 블로그 주인이 하루에도 수십 건씩 헛소리 가득한 리뷰를 마우스 클릭 몇 번으로 올리고 있을 때, 실제로 그 작품들의 내용을 알고 있는 사람들이 댓글로 각 글에 대해 이의 제기를 다 할 수 있을까? 거짓 정보를 올리는 블로그 운영자에게는 광고 수익이라는 명확한 보상이 있다. 반대로 실제 내용을 알고 있어서 잘못된 내용을 바로잡고 싶어하는 사람들에게는 자기의 시간과 정성을 쏟아야 한다는 비용만 청구된다.

그래서 앞으로의 인터넷이, 나아가 앞으로의 사회가 너무나도 걱정이 된다. 어떤 책을 실제로 읽은 한 사람과 그 책을 읽지 않고 AI가 써준 잘못된 요약본만 읽고 온 백 명의 사람이 토론을 할 때, 실제로 책을 읽은 단 한 명의 사람이 바보 취급을 받는 시대가 올까 두렵다. 저런 거짓 정보가 담긴 글이 블로그가 아니라 위키피디아에 판치기 시작한다면, 어느 순간 인터넷에 돌아다니는 정보 중 거짓 정보의 비율이 임계점을 넘어서게 된다면 인터넷은, 사회는 과연 어떻게 될 것인가.

그리스 신화에 카산드라라는 공주가 나온다. 태양신 아폴론에게 예언 능력을 받았지만 자신이 하는 말을 아무도 믿지 않게 되는 저주도 동시에 받은 사람이다. 카산드라가 살던 트로이에 트로이 목마가 들어오자 카산드라는 저 목마를 치워야 한다고 말했지만 아무도 그 말을 듣지 않았고, 결국 목마 속에 들어있던 그리스 연합군이 트로이를 멸망시키게 된다. AI가 만들어내는 수많은 쓰레기 정보들이 인터넷과 사회에 들어온 트로이 목마가 되면 어떡하나 하는 걱정이 든다.

현대 AI의 대부로 불리는 2024년 노벨상 수상자 제프리 힌튼 교수가 2023년에 AI를 연구해온 자기의 평생이 후회스럽다는 인터뷰를 한 적이 있다. 힌튼 교수는 AI가 만들어내는 글과 영상이 가짜 정보를 확산시키고 일반인들이 더 이상 무엇이 참이고 거짓인지 알 수 없게 될 미래를 걱정했다. 힌튼 교수가 카산드라가 되지 않기를 진심으로 바란다. 인류의 눈 앞에 AI라는 멋진 목마가 나타났다. 멋지다고 냅다 트로이 안으로 들여놓기 전에, 그 속에 복병이 숨어있지는 않은지 제발 꼼꼼히 살펴보았으면 좋겠다. 트로이가 멸망한 후에 카산드라의 말이 맞았었구나 하고 후회해도 소용이 없으니. 불과 10년 전만 해도 인류가 AI 없이도 잘 살고 있지 않았나. 빨리 가기보다는 안전히 갔으면 좋겠다. 돌다리도 두들겨보고 건넜으면 좋겠다. 안전하다는 것이 확인될 때 까지 목마는 일단 트로이 성문 밖에 두었으면 좋겠다.

20대 초반에 스페인어를 공부한 적이 있었다. 사실 공부라고 하기에는 좀 이상한데 뭐라고 딱히 표현할 말이 없다. 방식은 간단했다. 기초 회화 교재를 사서 책은 하나도 안 보고 테이프만 (그 때는 외국어 교재에 CD나 mp3가 아니라 테이프가 있었다) 계속해서 듣고 또 들었다. '아기들은 태어나서 아무 것도 모르는데도 듣고 또 듣다 보니 말을 배우잖아? 그러면 나도 무작정 계속 외국어를 들으면 그 말을 하게 되겠지'라는 생각에서였다.

반 년 동안인가 그렇게 테이프를 들었다. 하루에도 몇 시간씩 들었다. 그랬더니 테이프가 저절로 외워지기 시작했다. 아직도 알파벳은 대충 생각이 난다. 아 베 쎄 체 데 에 에페 헤 아체 이 호따 까... 저것도 알파벳이라고 알고서 들은 게 아니라 테이프에서 알파베또라고 하면서 말하길래 대충 어림짐작으로 알파벳인가보다 했던 것.

지금은 까먹었지만 대화도 저절로 외워졌었다. 물론 무슨 뜻인지는 전혀 알지 못했다. 그러던 어느 날 고등학교 후배와 연락이 닿았는데 어쩌다 보니 스페인어 이야기가 나왔다. 그 후배는 내 기억에 스페인 문화원이었던 것 같은데 어쨌든 어디에선가 체계적으로 스페인어 수업을 받고 있었다. 그 때 내가 무슨 생각으로 그랬는지는 모르겠는데 나도 스페인어를 공부하고 있다고 말을 해버렸고, 갑자기 그 후배가 스페인어로 말을 걸었다.

어? 뜻은 모르겠지만 내가 테이프에서 들었던 말이었다. 그래서 테이프의 그 다음 말로 내가 대답을 했다. 그랬더니 후배가 뭐라고 또 말을 했는데 그것도 테이프에 있던 말이었다. 그래서 나는 또 테이프대로 대답을 했다. 그렇게 네 번 정도 말(?)이 오간 후에 스페인어 대화(?)는 끝이 났다. 나에게는 참 신기한 경험이었다. 지금 생각해보면 아마도 영어로 치면 하우 알 유? 아임 파인 땡큐 앤 유? 뭐 이런 대화이지 않았을까 싶다. 그러니 내가 들었던 초급 회화 교재하고 대화가 똑같이 흘러갔겠지. 나는 아직도 내가 무슨 말을 했는지 모른다. 그런데 그 후배는 어땠을까? 아마도 내가 기초 스페인어 회화를 할 줄 안다고 생각했을 거다.

시간이 흘러 아마도 대학교에서 컴퓨터공학을 복수전공하게 된 뒤에 '중국어 방'이라는 사고 실험을 알게 되었다. 인공지능에 관한 이야기인데 내용은 이렇다. 방 안에 중국어를 전혀 모르는 사람을 들어가게 하고 모든 중국어 문장에 대한 대답이 적혀 있는 책을 준다. 그런 뒤에 중국어를 할 줄 아는 사람을 불러와서 방 밖에서 종이에 글을 적어서 방 안에 넣게 한다. 그러면 방 안에 있는 사람은 자기가 가진 책에서 그 글을 찾은 뒤 대답을 적어서 방 밖으로 보낸다. 그런 식으로 필담을 계속 나눈다고 했을 때에 방 안에 있는 사람은 중국어를 전혀 모르지만 방 밖에 있는 사람은 그 사실을 알 수 없다는 이야기이다. 그러니 어떤 프로그램이 튜링 테스트를 통과해도, 즉 컴퓨터가 채팅에서 사람을 감쪽같이 속이더라도 그것을 인공지능이라고 말할 수는 없다는 것이 요지이다.

내 스페인어 대화 경험과 비슷하다. 나는 20대 초반의 시도를 통해 나도 모르는 새에, 비록 스페인어를 배우는 데에는 실패하긴 했지만 유명한 사고실험을 직접 해 보았던 것이다.

'중국어 방'에 중국어에 대한 지능이 있다고 봐야 하는지 말아야 하는지에 대해 학자들 간에 많은 토론이 있었던 것으로 안다. 토론이 있었다는 것은 다른 말로 하면 저 '중국어 방'이 중국어를 할 줄 안다고 봐야 한다는 의견이 많이 있었다는 말이다. 하지만 나는 분명히 말할 수 있다. '중국어 방'에는 중국어에 대한 지능이 없다. 왜냐하면 내가 바로 저것과 똑같은 방식으로 스페인어로 대화를 했지만 나는 스페인어를 전혀 이해하고 있지 못했으니까. 그 사실을 너무나도 잘 아니까. 내가 무슨 말을 하는지 나 스스로가 몰랐으니까.

이 글의 초안을 썼던 것이 2016년 알파고 대국 즈음인데, 그 후 8년간 인공지능은 상상할 수 없을 정도로 발전했다. 이젠 인공지능이 글을 쓰고 그림을 그리는 것이 너무나도 당연한 시대가 되었다. 그런데, 인공지능이 글을 쓴다고 해서 인공지능에게 참으로 지능이 있다고 말할 수 있을까? 혹은, 인공지능이 그림을 그려낸다고 해서 인공지능을 예술가라고 할 수 있을까? 사람 입장에서는 인공지능이 그린 그림을 보면서 충분히 아름다움을 느끼고 감동을 받을 수 있고, 그 그림을 예술이라고 말할 수도 있다. 내가 궁금한 것은 "인공지능이 예술을 한다"라고 말할 수 있는지이다. 풀밭에 핀 꽃을 보고서 내가 "와 이건 예술이다!"라고 할 수는 있지만, 그렇다고 해서 그 꽃을 예술가라고 부를 수 있는 것은 아니니까.

지금까지 방식의 인공지능이라면, 즉 뭔가 많이 복잡하고 계산이 빠를 뿐 사실 작동 원리 자체는 알고리즘일 뿐인 인공지능이라면 나는 그 인공지능에게 진짜로 지능이 있다고도, 그 인공지능 자체를 예술가라고 부르지도 못하겠다. 전기밥솥이 밥을 잘 하고 오븐이 피자를 잘 굽는다고 해서 전기밥솥과 오븐이 요리사는 아니니까. 촘스키가 그런 말을 했다고 한다. "만약 잠수함이 수영을 한다고 말할 수 있다면 로봇도 생각을 한다고 말할 수 있겠다." 적어도 내가 보기에는 잠수함이 하는 건 수영은 아니다.

결국 인공지능에게 참 지능이 있는지, 인공지능을 예술가라고 부를 수 있을지는 목적이 있는지로 판단할 수 있겠다는 생각이 든다. 내가 비록 스페인어로 대화를 하긴 했지만 내가 하고 싶은 말을 한 게 아니라 외운 것을 따라 한 것 뿐이기에 나에게는 스페인어에 대한 지능이 없는 것이고, 인공지능이 훌륭한 그림을 그려낸다고 해서 그 인공지능이 예술가인 것은 아니다. 인공지능이 목적을 갖고 어떤 일을 하기 전까지 인공지능은 그저 주어진 알고리즘에 따라 엄청 빨리 계산할 줄 아는 계산기에 불과할 것이다. 목적을 가지려면 당연히 자아라는 개념이 있어야 하는데, 자아를 가진 인공지능이 과연 나올까? 나온다면 언제쯤 나올까? 아니, 그에 앞서 자아라는 건 과연 무엇일까?