크롬망간이 글 쓰는 공간

요즘 짬짬이 SF 단편집을 읽고 있다. 한 편을 읽고 나면 그 작품의 작가나 배경 등이 궁금해서 검색을 해보곤 하는데, 그러다가 이상한 블로그를 발견했다. 뭔가 해당 작품에 대해 자세히, 길게 설명해 두었고 편집도 깔끔했는데 전체적으로 보면 내용이 엉터리였다. 주인공 이름도 틀리게 쓰여 있었고 줄거리도 실제 내용과 다르고. '어? 뭐지?' 하는 생각이 들어 그 블로그에 있는 다른 글들도 읽어보았다. 마침 내가 읽고 있는 SF 단편집에 있는 작품들에 대한 리뷰가 잔뜩 올라와 있어서 쉽게 내용을 검증해볼 수 있었다.

그리고 내린 결론은, 이거 AI한테 작품 제목만 주면서 리뷰 쓰라고 프롬프트 짜서 뽑아낸 양산형 블로그 글이구나, 라는 것.

그 생각이 들고 난 후 그 블로그 글들을 다시 보니 AI한테 코딩 시켰을 때 튀어나오는 결과물들이 떠올랐다. AI가 만들어주는 코드는 참 그럴싸하다. 실제로 개발 일을 하면서 AI를 유용하게 사용하고 있기도 하고. 하지만 AI에게 코딩을 시키다 보면 어느 순간엔 반드시 AI가 실제로는 존재하지도 않는 API를 자기 맘대로 상상해서 호출한다거나 자료형을 이상하게 바꿔치기 해 놓는다거나 하는, AI가 '그럴싸한 쓰레기'를 만들어내는 경험을 하게 된다.

그 이상한 블로그 글도 그렇게 튀어나왔으리라. 흔히들 하는 말로 이걸 AI의 환각 현상이라고 부른다. 초창기 ChatGPT 시절에 떠돌던 세종대왕 맥북 투척 사건 이야기도 이렇게 생겨난 것이고.

그런데 AI가 잘못된 코드를 만든 경우에는 실행이 안 되거나 실행 결과가 이상하다는 것을 보여줌으로써 문제가 있음을 간단하게 증명할 수 있지만, AI가 작성한 잘못된 정보에 대해서는 그 내용이 잘못되었음을 보여주는 것이 어렵다는 점이 문제다. 그 이상한 블로그 주인이 하루에도 수십 건씩 헛소리 가득한 리뷰를 마우스 클릭 몇 번으로 올리고 있을 때, 실제로 그 작품들의 내용을 알고 있는 사람들이 댓글로 각 글에 대해 이의 제기를 다 할 수 있을까? 거짓 정보를 올리는 블로그 운영자에게는 광고 수익이라는 명확한 보상이 있다. 반대로 실제 내용을 알고 있어서 잘못된 내용을 바로잡고 싶어하는 사람들에게는 자기의 시간과 정성을 쏟아야 한다는 비용만 청구된다.

그래서 앞으로의 인터넷이, 나아가 앞으로의 사회가 너무나도 걱정이 된다. 어떤 책을 실제로 읽은 한 사람과 그 책을 읽지 않고 AI가 써준 잘못된 요약본만 읽고 온 백 명의 사람이 토론을 할 때, 실제로 책을 읽은 단 한 명의 사람이 바보 취급을 받는 시대가 올까 두렵다. 저런 거짓 정보가 담긴 글이 블로그가 아니라 위키피디아에 판치기 시작한다면, 어느 순간 인터넷에 돌아다니는 정보 중 거짓 정보의 비율이 임계점을 넘어서게 된다면 인터넷은, 사회는 과연 어떻게 될 것인가.

그리스 신화에 카산드라라는 공주가 나온다. 태양신 아폴론에게 예언 능력을 받았지만 자신이 하는 말을 아무도 믿지 않게 되는 저주도 동시에 받은 사람이다. 카산드라가 살던 트로이에 트로이 목마가 들어오자 카산드라는 저 목마를 치워야 한다고 말했지만 아무도 그 말을 듣지 않았고, 결국 목마 속에 들어있던 그리스 연합군이 트로이를 멸망시키게 된다. AI가 만들어내는 수많은 쓰레기 정보들이 인터넷과 사회에 들어온 트로이 목마가 되면 어떡하나 하는 걱정이 든다.

현대 AI의 대부로 불리는 2024년 노벨상 수상자 제프리 힌튼 교수가 2023년에 AI를 연구해온 자기의 평생이 후회스럽다는 인터뷰를 한 적이 있다. 힌튼 교수는 AI가 만들어내는 글과 영상이 가짜 정보를 확산시키고 일반인들이 더 이상 무엇이 참이고 거짓인지 알 수 없게 될 미래를 걱정했다. 힌튼 교수가 카산드라가 되지 않기를 진심으로 바란다. 인류의 눈 앞에 AI라는 멋진 목마가 나타났다. 멋지다고 냅다 트로이 안으로 들여놓기 전에, 그 속에 복병이 숨어있지는 않은지 제발 꼼꼼히 살펴보았으면 좋겠다. 트로이가 멸망한 후에 카산드라의 말이 맞았었구나 하고 후회해도 소용이 없으니. 불과 10년 전만 해도 인류가 AI 없이도 잘 살고 있지 않았나. 빨리 가기보다는 안전히 갔으면 좋겠다. 돌다리도 두들겨보고 건넜으면 좋겠다. 안전하다는 것이 확인될 때 까지 목마는 일단 트로이 성문 밖에 두었으면 좋겠다.

선언해놓고 사용하지 않은 변수가 있으면 원래는 컴파일러가 경고를 합니다. 그런데 변수 앞에

를 써 놓으면 컴파일러가 경고를 하지 않습니다.