SINGULAR MACHINE
히토 슈타이얼(Hito Steyerl)의 책, 파리의 죄드폼(Jeu de Paume)에서 열리고 있는 전시, 그리고 제19회 베니스 건축 비엔날레까지. 모두 하나의 질문을 던진다. 인공지능은 지금 우리 삶에 어떤 의미인가. 미래는 아직 결정되지 않았다.
“저는 아주 가까운 미래를 볼 수 있어요. 제 예측은 극단적인 확률에 기반합니다.” 2019년 베니스 비엔날레 미술전에서 선보인 히토 슈타이얼의 영상 〈This is the Future〉는 한 AI 여성의 목소리로 시작한다. 알고리즘은 주어진 프레임을 바탕으로 0.04초 뒤의 이미지를 생성한다. 이는 마치 기술이 미래를 예견하는 듯한 착각을 불러일으킨다. 이어지는 장면은 디지털로 구현된 바닷속 풍경. 목소리가 말한다. “잠시 후, 물고기처럼 생긴 무언가 화면을 가로지를 거예요.” 그리고 곧 흰 줄무늬 세 개가 있는 주황색 덩어리가 등장한다. 분명히 흰동가리다. “봤죠? 제가 뭐랬어요.”
히토 슈타이얼의 영상은 자가실현적 예언이자 일종의 조롱이다. 그는 특유의 유머를 섞어 기술을 향한 집단적 환상을 비판한다. 지난 5월 출간한 책 〈Medium Hot: Images in the Age of Heat〉에도 비판적 시선이 고스란히 담겨 있다. 책의 주제는 생성형 인공지능이다. 지금 이 기술은 예술계뿐만 아니라 인간의 창작과 관련한 거의 모든 영역을 극단으로 몰아세운다.
생성형 인공지능에 대한 담론은 낙관과 불안을 오간다. 슈타이얼의 책은 첫 페이지부터 이런 극단적 분위기에 제동을 건다. 그에 따르면 ‘미드저니’ ‘달리’ ‘스테이블 디퓨전’ 등의 모델들이 만들어내는 이미지는 “그저 통계 데이터를 시각화한 것”에 불과하다. 이미지처럼 보이지만 이미지가 아닌 것이다. 생성형 인공지능은 ‘극단적인 확률’이라는 수학적 모델을 바탕으로 작동하는데, 최적의 결과값을 도출하기 위해 이미 존재하는 데이터를 재료로 삼는다. 수세기 동안 인간이 만들어온 어마어마한 양의 텍스트, 그림, 사진 같은 것들 말이다. 슈타이얼은 AI 알고리즘이 익숙한 데이터를 그럴듯하게 반복할 뿐이라고 말한다. 우리가 이걸 이해하려면 직접 사용해보는 수밖에 없다.
2025 베니스 비엔날레 건축전의 큐레이터이자 건축가 카를로 라티(Carlo Ratti) 역시 비슷한 의견이다. “지금의 생성형 인공지능은 서번트증후군이 있는 사람 같아요. 모든 걸 기억하지만 그 안에서 무언가를 구분할 수 있는 능력은 없죠.” 그의 말처럼 인공지능은 학습된 데이터 이외의 새로운 방향성은 전혀 제시하지 못한다. 라티가 이번 비엔날레의 주제로 ‘Intelligens. Natural. Artificial. Collective’를 택한 것도 같은 맥락이다. 인간, 인공지능, 그리고 집단지성이 힘을 모아야만 우리가 직면한 문제를 해결할 수 있다는 의미를 담았다. “원래 전시 제목을 ‘N/.natural intelligence’로 하려 했어요. 인간의 지능이 인공지능보다 뛰어나다는 점을 강조하고, 인공지능을 향한 지나친 관심을 비판하고 싶었죠.” 하지만 그는 결국 이분법보다 인간과 기계의 대화를 통한 ‘화합’에 초점을 맞췄다.
파리 국립미술관 죄드폼에서 열리고 있는 전시 «Le monde selon l’IA»도 인공지능을 둘러싼 논의를 다룬다. 트레버 페글렌, 블라단 졸러, 케이트 크로포드, 그레고리 샤톤스키, 히토 슈타이얼 등 다양한 작가들이 참여해 인공지능이 우리 삶에 어떤 변화를 만들고 있는지 탐구한다. 전시의 수석 큐레이터 안토니오 소마이니는 이제는 ‘말의 힘’이 필요한 시대라고 말한다. “인공지능 모델을 쓰는 예술가들은 무엇을 원하고, 원하지 않는지 기계에게 설명할 수 있어야 해요. 며칠씩 걸리는 작업이 될 수도 있어요. 결과물이 마음에 들 때까지 묘사를 조금씩 바꾸며 계속 조정하는 겁니다.” 그의 말에 따르면, 이제는 붓이나 카메라를 다루는 능력보다 이미지에 담긴 역사·문화적 의미를 읽어내는 능력이 더 중요해졌다. 손의 감각보다 텍스트를 다루는 감각이 필요하다는 말이다. 기계가 데이터를 학습하듯 사용자도 기계를 배워야 한다. 슈타이얼은 마음에 드는 결과를 얻으려면 렌더링을 적어도 스무 번은 반복해야 한다고 말한다. “인공지능 모델은 사용자가 그 안에 오래 머물도록 설계됐어요. 애초에 비효율적으로 작동하도록 만들어진 거죠.” 시간만 낭비되는 게 아니다. 인공지능을 가동하는 데 필요한 에너지는 대부분 재생 불가능한 천연자원을 대규모로 추출해 만든다.
그러던 중 몇 달 전, 중국에서 출시한 오픈소스 인공지능 모델 ‘딥시크’가 등장했다. 딥시크는 미국이 독점해온 인공지능 산업 지형에 균열을 만들기 시작한다. “오픈소스 모델은 다른 플랫폼보다 사용자에게 훨씬 더 많은 통제권을 줍니다. 심지어 시스템의 작동 원리도 공개되지 않았죠.” 또 다른 오픈소스 모델인 ‘퍼블릭 디퓨전(Public Diffusion)’ 프로젝트는 저작권이 없거나 사용 허가를 받은 1천200만 장의 이미지 데이터를 기반으로 개발 중인 모델이다. 저작권 문제를 회피해온 기존 모델들과는 확실히 다르다. 이처럼 투명하고 합법적이며 환경까지 고려하는 ‘공공 AI’를 만드는 시도는 분명 유의미하다. 하지만 근본적인 의문이 남아 있다. 왜 인공지능의 발전이 이토록 불가피하게 느껴지는 걸까?
“예술을 자동화하는 진짜 목적은 AGI, 즉 인간처럼 스스로 생각하고 판단하는 인공지능을 만드는 거예요.” 슈타이얼이 말한다. 예술, 문학, 음악 같은 것들이 인공지능의 학습용 데이터로 쓰이고 있다는 것이다. 슈타이얼은 이 기술 경쟁의 밑바탕에 경제적 이익과 군사력 우위라는 초강대국의 전략이 깔려 있다고 본다. 그리고 먼 미래에는 인간보다 더 똑똑한 인공지능이 나타나는 ‘특이점(singularity)’이 올 수도 있다고 말한다. 여기서 특이점은 기존 법칙이 더는 적용되지 않는 지점을 의미한다. 라티는 인간이 인공지능에게 지배당하지 않도록 경계해야 한다며 물리학자 스티븐 호킹의 말을 빌린다. “기계가 인간에게 해를 끼치는 목표를 갖지 않도록 해야 해요.” 하지만 인간은 이미 오랫동안 동식물, 심지어 같은 인간에게조차 지배와 착취를 일삼았다. 우리는 어쩌면 우리가 해왔던 일들이 다시 되돌아올까 두려워하는 것인지도 모른다.
결국 특이점이란, 더는 인간이 세상의 주인이 아닌 순간이다. 인간이 그저 수많은 생명체 중 하나일 뿐이라는, 외면해온 생각이 현실이 되는 순간 말이다.
