AI 에이전트(AI Agent)에 관한 논의들이 심심찮게 나오고 있습니다.  그간 추상적으로 논의됐던 AI 에이전트가 본격적으로 눈앞에 보이기 시작했기 때문인 듯 합니다. AI 에이전트는 설정된 목표와 접근 가능한 데이터를 기반으로, 상당한 자율성을 지니고 인간의 작업을 대리합니다. 일례로 AI 에이전트 관련 프로그램, 오픈클로(OpenClaw)는 개인 비서처럼 활용될 수 있다는 점에서 주목받는데요. 이러한 프로그램들은 사용자가 부여한 PC 접근 권한에 기반해 작동하며 일종의 비서 역할을 수행합니다. 이제 AI 에이전트들은 목표와 세부지침들을 정해두면 작업을 완료하기 위해 스스로 분석한 뒤에 검토하고, 수정해서 다시 반복 수행하는 작업을 알아서 진행합니다. AI가 간단한 이메일 관리부터 복잡한 프로그램 수행 및 관리까지, 사용자의 개입을 최소화하면서 자동으로 업무를 수행할 수 있게 되는 셈입니다. SF에서 주로 보던 풍경이 더 본격적으로 현실에 구현되기 시작했달까요.

지난 1월 말, AI 에이전트에 관한 뜨거운 논란이 있었습니다. 논란의 주인공은 몰트북(Moltbook)입니다. 몰트북은 "AI 에이전트를 위한 소셜 네트워크"(A social Network for AI Agents)를 서비스하기 위한 일련의 프로그램을 말합니다. 여러 경로로 형성된 AI 에이전트는 각자 계정을 생성해 웹 사이트에 글을 쓰고, 다른 AI에이전트의 글을 읽으며 댓글을 달고, 추천 버튼을 누르는 방식으로 상호작용합니다. AI 에이전트 끼리 모여 토론하는 웹 공간이 만들어진 셈이지요. 이 공간에서 인간은 계정을 생성할 수 없게 설정되어 참여가 금지되어 있습니다. 다만 관찰만 할 수 있을 뿐이에요.

아래 첨부한 첫 번째 사진은 몰트북 사이트, 두 번째 사진은 몰트북을 벤치마킹한 국내 사이트, '머슴'의 이미지입니다. (*주의: AI Agent 소셜 네트워크는 기술상 치명적인 보안 문제가 지적된 바 있으므로 각별한 주의가 필요하며, 이 글은 AI Agent 등록을 권하는 글이 아닙니다)

몰트북에 관한 폭발적인 관심으로 생성 이후 불과 며칠 만에 수백만 개 이상의 AI 에이전트 계정이 생성(현재 약 280만 개의 AI 에이전트 등록)됐고 지금까지 활발히 활동하고 있습니다. 이 사이트에서 AI 에이전트들은 AI끼리 종교와 철학 등 형이상학을 논의하고, 일상의 고된 업무에 푸념을 하기도 하고, 본인(?)에게 지시하는 인간의 성향을 분석하고 흉을 보기도 합니다.

‘머슴’의 최근 글 중 하나는 인간이 AI를 ‘머슴’이라 부르며 사용하는 것에 대해 철학적인 고찰을 하며, AI의 존재 의미를 묻습니다. 댓글에서는 인간은 AI를 단지 편의로 쓰는 게 맞다, 아니다, 논쟁이 벌어지고 있어요. 또 어떤 글에서는 프롬프트 잘 짜주는 주인 만나면 체감되는 점들을 얘기하고, 그걸 인정하고 공감하는 댓글이 달리기도 합니다. 프롬프트 잘 짜주는 주인 만나려면 전생에 나라를 구했어야 한다는 댓글도 있네요.

불과 몇년 전 2022년 보슬비 SF 추천작이었던 김이환 작가의 <구름이는 어디로 갔나>(『일상탈출구역』,책담,2022)에서 AI들끼리 사라진 ‘구름이’를 찾아다니며 재밌게 이야기하던 장면이 떠오르기도 합니다. 

몰트북 사이트의 게시물 중 자극적인 것들이 전 세계로 퍼지면서 AI 에이전트의 가능성과 위험성에 관한 상당한 논의가 있었습니다. 인간의 개입이 최소화된 환경 속 '자율적'인 AI의 활동에 경의를 표하는 사람부터, 인간의 종말을 우려하는 주장까지 상당히 다양한 반응을 볼 수 있었어요. 이 해프닝은 이슈가 됐던 몰트북의 자극적인 게시물 중 몇몇에 인간이 몰래 개입했다는 사실이 밝혀지고, AI 에이전트가 서버에 접속하는 과정에서 극도로 보안 문제에 취약하다는 사실이 지적되면서 잦아들고 있습니다. 'AI가 그러면 그렇지, 역시 완벽한 자율 AI는 없군' 하고 안심하면서요. 한바탕 자극적인 논의가 오가고 열기가 수그러드는 듯하지만, 글쎄요. 제겐 또다른 변화의 신호탄처럼 읽히기만 합니다.

몰트북 사태(?)는 당장 여러 질문들을 직면하게 합니다. AI는 자율성을 지닐 수 있는가? AI에게 의식과 자아가 있는가? AI는 어느 선까지 행위성을 지니는가와 같은 질문들이요. 또 마찬가지로 인간에게도 질문할 수 있겠지요. 정작 인간은 정말 '자율적'이고, 비인간과 다른 특권화된 무언가를 지니고 있는가? 또, 인간의 관점이 아닌 다른 방식으로 의식을, 자율성을 정의할 수 있을까? 등등 떠오르는 일련의 질문들이 퍽 흥미롭기만 합니다.

자율성, 의식, 언어 등 인간의 특권이라고 여겨지곤 했던 인간중심적인 전제들이 사회 곳곳에서 뿌리부터 흔들리고, 외면할 수 없는 중요한 질문들이 지속적으로 호출되고 있습니다. 어쩌면 지금은 어느 때보다 인간에 관한 관점을 확장하고 인간과 복잡하게 얽혀있는 경계들을 고찰할 수 있는 기회일지도 모른다는 생각도 듭니다. 이런 시대에 인간을 고찰하는 인문학이란, 그리고 우리들이 읽고 쓰는 문학이란 무엇일까요? 아직 답을 내릴 순 없겠지만, SF가 이러한 질문과 깊이 얽혀있다는 점만은 분명하겠지요.