서론

‘가장 힘든 것’: 통계적 이미지 생산과 전쟁 경제
번아웃 이미지: 열역학적 전환
미디엄 핫: 엔트로피의 정치 경제학
관절포르노 또는 해표지증: 생성형 AI의 계몽의 변증법
평균적 이미지
디지털 균열: 빈곤한 이미지에서 파워 이미지로
우리가 불을 지른 게 아니다: 물리적, 디지털 파이프라인
세상은 누구의 것인가? AI, 예술 그리고 상식
말이 아닌 행동: 블록체인 오리엔탈리즘을 넘어서
로코의 바실리스크: 인공적 아둔함과 실존적 위험
21개의 미술계: 게임 맵

감사의 말
주

저자 : 히토 슈타이얼
영상 제작자, 저술가. 베를린에 산다.

역자 : 이계성
번역가, 연구자. 런던에 산다. 역서로 『세스 프라이스 개새끼』(2021), 『파르마코-AI』(2022) 등이 있다.

‘빈곤한 이미지’에서 ‘파워 이미지’로

갈수록 주목받는 AI 생성 이미지는 광범위한 다중 위기의 시대와 맞물려 등장했다. 상시적인 금융 붕괴 위험, 극단적인 기상 이변, 점점 확산되는 우파와 신파시스트 운동, 수많은 사상자와 난민을 낳는 세계 각지의 군사 분쟁… 이들은 서로 긴밀히 연결된 만큼이나 이미지와도 밀접한 관계를 맺는다. 다만, 관계의 성격이 달라졌다. 과거 지표적 재현으로서 이미지가 광학에 근거했다면, 통계적 절차에 기반하는 확률적 이미지는 현실 그 자체와 본질적으로 무관하다. 이전의 이미지가 작동 이미지(operational image)로서 전쟁, 감시, 생산 등 온갖 행위에 적극 개입했다면, 오늘날에는 AI 이미지에 필요한 데이터 생성 자체를 위해 전쟁이 동원되는 지경에 이르렀다. 전쟁은 범용 인공지능(AGI) 개발을 위한 재료를 수집하는 데이터 기업은 물론 AI 활용을 원하는 방산 업체에 최적화된 연구 개발 환경을 제공할 뿐만 아니라, 착취 가능한 AI 노동력을 만드는 데도 크게 기여하기 때문이다. 이 과정에서 이미지는 노동, 데이터, 자원을 추출해 주변을 파괴시키는 데/미지(da/mages, 데이터/이미지)가 되고, 어떤 식으로든 현실에 손상을 입힌다. 현재까지 AI 이미지 기술의 가장 큰 업적은 예술의 민주화가 아닌, 무고한 이들을 빛과 빈곤으로 내몰고 수많은 시위를 촉발한 데 있다. 근래의 그 어떤 기술도 생성형 AI 도구만큼 많은 파업, 소송, 온라인 캠페인을 일으키지 못했으며, 이 산업이 초래하는 막대한 환경 오염은 갈수록 명백해지는 추세다.

약 15년 전, 히토 슈타이얼은 「빈곤한 이미지를 옹호하며」라는 글을 통해 특정 자본주의 조건 아래 일어나는 온라인 이미지의 해상도와 순환 문제라는 양가적 현상을 다룬 바 있다. 저자는 그간 많은 것이 변했다고 말한다. 이제 “빈곤하든 말든, 이미지는 인터넷에서 빨려 나와 벡터 공간에 맞게 갈아 으깨진 다음, 대중 영합적이고 무난하며 무미건조하게 최적화되는 방식으로 재조합된다.” 디지털 이미지 생산이 초래하는 디지털 신진대사의 균열 속에서 빈곤한 이미지는 파워 이미지(power images)로 변모한다. 2022년 무렵부터 기계학습과 관련된 연산 작업은 엄청난 전력을 잡아먹기 시작했으며, 그 소비량은 기하급수적으로 증가하는 중이다. 구글은 이산화탄소 배출 목표를 50퍼센트나 초과하자 탄소 중립 간판을 슬그머니 내렸다. ‘전력’과 ‘권력’을 아우르는 뜻이 담긴 파워 이미지는 정체된 데이터 기반 문화를 표상하는 동시에 대기를 달구고, 사람들을 이주시키며, 자원을 태워 없앤다. 다른 장에서 말하는 ‘평균적 이미지’(mean images) 역시 골상학과 통계학 같은 과거의 추출적이고 감시적인 관행들과 생성형 AI 간의 연속성을 추궁하며 거대한 시스템 아래 은닉된 현실의 층위를 탐색한다. 사회적 약자, 이른바 미세노동자 또는 유령노동자의 노동으로 굴러가는 디지털 과두제에서 우리 역시 소수의 플랫폼 기업들이 준독점하는 디지털 생산 파이프라인 속으로 빨려 들어가는 중이다.

서문에서 밝히듯 이 모든 “일이 이제 막 본격화된 만큼, 대부분의 핵심 질문들은 여전히 결론이 나지 않았고, 아직은 형언하기 어려운 질문도 적잖다. 상황이 워낙 빠르게 움직이다 보니, 아무리 따라가려 해도 오늘의 개념이 내일이면 구식이 되기 마련이다.” 그럼에도 저자가 이 책에서 던지는 질문들은 강력하다. “확률적 시스템과 포퓰리즘 정치에 포획될 때, 이른바 상식의 미학적, 사회적 함의는 어떻게 변하며, 이는 미학이라는 개념의 근본적 한계에 대해 무엇을 시사하는가? 불투명하고 독점적인 시스템에 넘겨질 때, ‘의미’의 의미는 어떻게 변할까? 이미지 제작이라는 열역학적 시스템이 낳는 사회적, 환경적 피해를 어떻게 막을까? 이미 현실화된 AI 기반 무기의 개발과 실전 배치, 그리고 군비 경쟁의 악순환을 어떻게 교란할까? 기계 시스템의 자율성이 높아져 인간의 사고와 감성이 소모품으로 전락할 때, 인간 시스템과 인간 자신은 어떻게 될까?”

책 속에서

어쩌면 이 글들은 훗날의 역사가들을 위한 타임캡슐이 될지도 모른다. 언젠가 그들은 이렇게 자문할 테다―이 모든 것이 막 시작됐을 때 사람들은 무슨 생각을 했을까? 좀비화의 위협에 맞서, 즉 통계적 순응주의의 도구들에 의해 쓸모없어지거나 산송장이 될 위협에 맞서 사람들은 어떻게 대응했을까? 사람들은 언제부터 노이즈로, 그러니까 불규칙한 브라운 운동의 지배 아래 놓여 이리 치이고 저리 치이는 사회적 입자로 모델링되기 시작했을까? 그 당시 논쟁의 온도는 몇 도였을까? (16-17쪽)

기계학습 기술은 자원 배분을 보다 합리적으로 만들고, 에너지 소비를 최적화하며, 극심한 불평등을 줄이고, 보건 및 사회 제도를 개선하며, 낭비적인 잘못된 배분을 막는 데도 쓰일 수 있겠지만, 이러한 것들은 아마 AI가 아니라 공산주의로 분류돼야 할 테다. 막대한 에너지를 집어삼키는 초대형 데이터센터들의 출력물을 활용할 현재로서 가장 유력한 방법은 애플 인텔리전스를 통해 회의 일정과 아이의 생일 파티가 겹치지 않도록 해주겠다는 애플의 발상이다. (31-32쪽)

매클루언의 혼란스럽고 (꽤나 임의적인) 분류 이후 ‘핫’ 미디어뿐만 아니라 ‘쿨’ 미디어도 변화했다. 게다가 통계적 이미지 생성기의 등장으로 엔트로피는 매우 직접적인 방식으로 이미지 생산에 개입하게 됐다. 오늘날 우리는 뜨겁고 차가움의 문제를 이렇게 단도직입적으로 물을 수 있다―생성된 시위 이미지를 렌더링할 때의 온도는 몇 도인가? (54쪽)

기계학습 이미지 생성기의 가장 주목할 만한 점 중 하나는 출력물이 아니라 이미 온갖 시위를 촉발했다는 사실이다. 이러한 시위들은 디지털 이미지 생산 인프라를 겨냥한다는 점에서 재귀적 시위라 불러도 좋겠다. 그렇기에 기계학습 기반 이미지 제작이 지금껏 가장 강력한 영향력을 발휘한 곳은, 길거리에 국한되지 않고 여러 층위에서 실제 시위와 조직적 반격을 촉진한 바로 그 지점이다. 최근의 그 어떤 통신 기술도 이처럼 많은 시위 활동을 낳지는 못했다. (56쪽)

평균적 이미지는 원본이 사라진 뒤에도 오래도록 화면과 망막에 그을린 잔상이다. 생산이 대대적인 날조로 증강되는 자동화의 시대를 위해, 정신도 분석도 없이 수행되는 일종의 정신분석이기도 하다. 평균적 이미지는 잠들지 않는 사회의 꿈으로서, 사회의 비합리적 기능들을 논리적 극단으로 밀어붙인다. (79-80쪽)

어쩌면 편향은 버그가 아니라 비열한 생산 체제의 핵심 기능일지도 모른다. 편향은 사람들을 시각적으로 비하함으로써 표상의 차원에서만 생산적으로 작동하지 않는다. 편향을 ‘제거’하려는 시도 또한 전쟁, 에너지 분쟁, 인종차별적 국경 체제로 떠받쳐진 계급적 위계를 공고히 하면서, 비열한 생산 체제 안에서 얼마든지 생산적으로 작동 가능하다. (89-90쪽)

프로그래머, 홍보 전문가, 웹 디자이너, 경리, 회계 담당자 등 많은 디지털, 행정 사무직 노동자들이 기계학습 기반 자동화로 인해 일자리를 위협받고 있다. 그러나 이들이 기계학습에 의한 자동화로 완전히 대체되기보다는, ‘경쟁력’을 유지하기 위해 자신들의 노동을 탈취해 만든 서비스를 임대해 가며 스스로를 ‘업그레이드’하도록 강요받을 공산이 더 크다. (94쪽)

빈곤한 이미지의 시대 이후로 달라진 핵심 요소 가운데 하나는 데이터 비축, 추출, 사유화(enclosure)에 대한 집착이 늘었다는 점이다. 빈곤하든 말든, 이미지는 인터넷에서 빨려 나와 벡터 공간에 맞게 갈아 으깨진 다음, 대중 영합적이고 무난하며 무미건조하게 최적화되는 방식으로 재조합된다. 적어도 어느 정도의 ‘교환’ 또는 데이터의 순환이 이뤄지던 ‘시장’ 단계는, 데이터가 특정 기업의 독점적 사일로 안에 거의 전적으로 축적되도록 설계된 준독점의 시대로 대체되고 있다. (102쪽)

로코의 바실리스크 이야기는 이러한 작동 방식을 그대로 보여준다. 당신에게는 자유의지가 주어진다고 한다. 당신은 이런 종류의 AGI 개발을 지지할 수 있다. (예, 아니오?) 그러나 느닷없이 바실리스크가 협박하고 괴롭히기 시작하면 결국 선택지는 사라진다. 더 큰 틀에서 보면, 이야말로 수십 년 동안 온 사회가 들어온 말이다―‘대안 없음’이라는 신자유주의 모델이 바실리스크식 노골적 독재로 서서히 전환되는 걸 받아들이는 수밖에 없다는 말. 자동화의 이익을 재분배하는 방식에는 선택지가 없다는 말. 그리고 네트워크 자본주의에는 대안이 없다는 말. (151쪽)