2025/5/28
그러나 테크 기업들은 AI의 가능성과 편의성을 강조하는 서사에 집중한다. 정작 AI가 작동하는데 필요한 물리적 기반과 인간 노동의 현실을 모호하게 감추면서 말이다. 대중의 상상 속에서 AI는 빛나는 뇌, 복잡한 신경망, 공중에 떠 있는 가벼운 구름 등의 이미지와 연결된다. 마치 AI가 물리적인 실체 없이 공기 중을 부유하는 순수한 정보의 집합체인 것처럼.
그러나 현실은 다르다. 거대한 데이터 센터에서 육중한 선반마다 장착된 수많은 서버가 일정한 열기와 백색 소음을 내뿜는 모습과 데이터를 전 세계에 실어 나르는 촉수 같은 해저 케이블을 떠올려보라. AI는 물질적 실체를 갖고 있다. 반도체 칩, 서버, 케이블 등이 지속적으로 추가되고 유지, 보수되어야만 존재할 수 있다. 인간의 신체가 지속적으로 에너지를 공급받아야 하고, 서버를 식히기 위해 엄청난 양의 물을 소비해야 한다. 우리가 챗GPT에 질문을 던지거나 인터넷 검색을 수행할 때마다, 이 거대한 기계는 그 물리적 인프라를 통해 '숨을 쉰다'.
기계는 전력과 물만으로 살아갈 수 없다. AI의 이면에서, 기술의 한계를 보완하기 위해 분투하는 인간 노동이 있다는 사실을 잊어선 안 된다. AI는 광범위한 인간 노동에 의존하고 있다. 데이터 주석작업, 결과 검증, 알고리즘 조정 등 다양한 업무에 노동자들의 손길이 필요하다. AI가 오작동하거나 제대로 작동하지 않을 때마다 인간이 개입하여 알고리즘을 보완해야 한다.
(...)
오늘날의 AI가 완전히 자율적으로 작동한다는 개념도 이와 유사한 거짓에 기반한다. 정교한 AI 소프트웨어도 수천 시간의 저임금 노동이 투입된 결과물이다.
추출 기계는 물리적 자원과 노동뿐만 아니라 훈련 데이터세트에 녹아 있는 인간 지능을 먹고 자란다. AI는 인간의 지식을 포착하여 이를 머신러닝을 통해 학습한다. 기본적으로 AI는 훈련 데이터에 의존하는 파생적 존재이며, 그 데이터를 통해서 자동차 운전, 사물 인식, 자연어 생성과 같은 다양한 활동을 출력한다. 이 모든 과정은 수십억 개의 데이터 포인트로 이루어진 방대한 데이터세트를 통해 인류의 지식과 경험을 수집하는 프로젝트라 할 수 있다.(22-24p)
전 세계 수많은 사람들이 데이터 주석 작업자로 일하면서, 엄청난 양의 데이터를 정제된 학습 데이터세트로 바꾸는 지루하고 반복적인 일을 하고 있다. 왜 이런 방식의 노동이 필요할까? AI 모델을 훈련하려면 엄청난 양의 데이터가 필요한데, 이 데이터를 AI 시스템에 곧바로 입력할 방법은 없다. 애니타 같은 노동자들이 데이터를 정리하고 꼬리표를 붙여야만 AI가 이를 이해할 수 있다.
(...)
흔히 우리는 AI 개발이라고 하면, 팔로알토나 멘로 파크에 위치한 에어컨 잘 나오고 번지르르한 사무실에서 일하는 엔지니어들을 떠올린다. 그러나 AI 훈련에 필요한 약 80퍼센트의 시간이 데이터세트 주석 작업에 쓰이고 있다.
(...)
기술 평론가인 필 존스의 말처럼 "실제로 머신러닝의 마술은 고된 데이터 분류에 지나지 않는다." 그러나 이러한 격무는 보통 제3의 공급자에게 외주로 맡겨진다.(53-55p)
하지만 안타깝게도 인프라의 발전이 곧바로 공정한 경쟁 조건이나 지역적 불평등 해소를 의미하지는 않았다. 전 세계 인터넷 보급률이 늘었다고 해서 노동 조건의 불평등과 착취 관행이 저절로 해소되지 않는다. 오히려 기업들은 최저 비용과 최대 생산성을 추구하는 데 초점을 맞추었고, 결과적으로 새로운 연결성은 값싼 노동력을 더욱 쉽게 활용할 수 있는 쪽으로 진화했다. 데이터 작업자들에게 '평평한 세계'는 더 많은 기회를 제공하는 공간이 아니라, 세계적 경쟁 속에서 더욱 열악한 조건으로 내몰리는 계기가 됐다.
프리드먼의 주장처럼 세상이 평평해지지 않은 이유는 무엇일까? 프리드먼은 '네트워크에 연결되는 것'과 '협상력의 평등'을 동일하게 보았다. 그러나 현실은 다르다. 데이터 주석 작업은 글로벌 노동 시장에서 거래되지만, 이 시장에서 활동하는 주체들이 가진 권력은 매우 불평등하게 분포되어 있다.(65p)
AI는 인간 판단의 한계와 편견을 뛰어넘는 초인적인 지능처럼 소개된다. 일관성 없고 변덕스러운 인간이 내리는 결정을 일관되고 공정한 머신러닝 알고리즘이 대신할 수 있다고 주장한다. AI는 마법처럼 보이기도 한다. 언제나 정답을 제공하고, 인간보다 더 많은 데이터를 높은 정확도로 분석할 수 있으며, 무의식적인 편향조차 없다는 믿음이 퍼져 있다. 게임에서 치트 코드를 입력하는 것처럼, AI를 활용하면 항상 승리할 수 있다는 식이다.
그러나 AI가 만들어지는 과정은 이러한 이상적인 그림과는 거리가 있다. 고대 그리스인들이 상상했던 것처럼, 기술이 신이 내린 선물일 리 없다. 기술은 인간이 설계하고 개발하는 것이며, 그것을 만든 인간의 세계관과 가치관이 고스란히 반영된다.
(...)
가장 기본적인 단계에서부터, LLM은 학습 데이터에 영향을 받는다. 많은 AI 모델들은 인터넷에서 무작위로 수집한 비정형 데이터를 기반으로 학습하는데, 이 데이터에는 이미 사회적 편견과 차별이 스며들어 있다. 따라서 생성형 AI가 이러한 데이터를 학습하면, 기존의 편향을 디지털 형태로 재생산할 가능성이 크다.
(...)
AI 연구소를 구성하는 구체적인 인구통계학 자료는 없지만, 인공지능 분야를 떠받치고 있는 고등교육 통계를 보면 AI 업계는 압도적으로 '백인'과 '남성'이 주도하는 분야다.
(...)
이처럼 LLM이 특정 인구집단을 배제한 채 개발된다면, 기존의 사회적 위계를 더욱 강화하고, 현재의 불평등한 구조를 유지하는 역할을 할 가능성이 크다.
머신러닝 엔지니어들과 AI 정책 연구자들의 지리적 위치와 이념적 배경 역시 AI에 영향을 미치는 요인이다. 전 세계에서 가장 크고 영향력 있는 AI 연구소 대부분은 실리콘밸리에 있다. 이곳은 신자유주의 경제학, 자유지상주의, 극단적 개인주의, 반노동조합 문화가 지배하는 곳이다.
(...)
이처럼 AI는 온라인 플랫폼의 사용자 구성, 데이터세트의 생성과 선별, 모델 훈련 방식, AI 정책 등 전 과정에서 특정한 헤게모니의 영향을 받고 있다. 특히 백인, 남성, 미국 중심의 글로벌 기술 엘리트들이 AI의 설계와 활용 방식에 과도한 영향력을 행사하고 있으며, 그 결과 AI는 이들의 관점을 반영하고, 그들의 관심사에 맞춰 개발되고 있다.(97-101p)
"운송망과 통신망은 시간이 지나면서 서로 겹쳐지는 경향이 있다"고 했다. 이는 땅 위에서도 마찬가지다. 광섬유 케이블은 종종 기존 철도 노선을 따라 설치됐고, 철도 회사들은 기존 선로 옆에 케이블 네트워크를 구축할 권리를 판매해 추가 수익을 창출하기도 했다.
19세기 해저 케이블 확산의 역사는 대영제국의 식민지 지배 전략과 밀접히 연결돼 있다. 당시 영국은 전 세계에 흩어진 식민지를 효과적으로 관리하기 위해 빠르고 효율적인 통신 시스템을 필요로 했다. 이에 적합한 기술이 바로 전신이었고, 영국은 전 세계 식민지를 연결하는 '올-레드 라인'이라 불리는 전산망을 구축했다.
(...)
19세기 후반과 20세기 초반, 케이블의 주재료는 구리였다. 그러나 1950년대 들어 동축 케이블이 등장하면서 신호 품질과 대역폭이 크게 향상되었다. 덕분에 전신을 넘어 전화통화까지 가능해졌으며, 데이터 전송 속도도 비약적으로 증가했다.
(...)
오늘날 막대한 인터넷 트래픽과 AI 연산량을 처리할 수 있게 해준 결정적인 기술 혁신은 1980년대 후반에서 1990년대 초반에 이루어진 광섬유 케이블의 개발이었다.
(...)
20세기에 설치된 대부분의 해저 케이블은 주로 대서양을 가로질러 미국과 유럽을 연결하는 데 집중되었다. 하지만 1990년대 들어 아시아 시장의 중요성이 커지면서 태평양 연안 국가들도 점차 더 많은 연결성을 확보하게 되었다. 2000년대에는 아프리카 지역의 인터넷 인프라 개선을 위한 씨컴 프로젝트가 진행되었는데, 이 프로젝트를 통해 해저 케이블이 동부와 남부 아프리카까지 확장될 수 있었다.(121-124p)
그러나 우리가 잊고 있는 것이 하나 있다. 창작 산업은 다양한 계층의 일자리로 구성되어 있는데, 이 중 상당수는 비용 때문에 AI로 대체될 수 있다. 이런 일자리들은 겉보기에는 화려하지 않지만, 많은 예술가들에게 생계를 유지하는 중요한 기반이 된다. 유명한 예술가조차도 소규모 작업을 통해 수입을 보충해야 창작 활동을 이어갈 수 있다.
(...)
"저는 사전, 영어 학습 자료, 설명 영상, 기업 홍보 영상 같은 걸 녹음해요. 이 일이 없어진다면, 다른 창작 활동을 지속하기 어려울 겁니다." 이러한 일자리의 소멸은 전업 예술가의 활동에 큰 영향을 미칠 것이다. 지금도 많은 창작자들이 낮은 보수를 받고 일한다. 그런데 비교적 안정적인 수입을 제공하는 다양한 창작 일자리가 사라진다면, 결국 부유한 가정 출신의 사람들만이 예술에 전념할 수 있는 환경이 될 가능성이 크다.(151p)
2023년 10월 7일 하마스의 이스라엘 기습 이후, IDF는 민간인 피해를 감수하는 기준을 더욱 완화했다. IDF는 공격 시 예상되는 민간인 사망자 수를 미리 산출하고, 이를 바탕으로 '정당화 가능한 수준'의 피해라고 판단되면 공격을 감행한다. 이제 AI는 전쟁을 '정밀하게 만든다'는 수사를 뒤집고, 오히려 대규모 민간 피해를 '계산 가능한 비용'으로 정당화하는 도구로 전락하고 있다.
AI 시스템 도입 이후, 이전까지는 폭격 대상이 아니었던 하마스 하급 조직원의 주택까지 표적으로 지정되기 시작했다. 한 이스라엘 관계자는 "표적의 대부분이 집이었다"며, "하마스 요원들이 사는 집이 가자지구 전역에 퍼져 있으므로, AI가 그 집들을 자동으로 표적으로 지정하고, 그 안에 있는 모든 사람들이 함께 죽인다"고 말했다. 이는 AI 기반 전쟁 기술이 오히려 무차별적인 폭격을 확대하고 있음을 보여준다. 민간인 피해를 줄인다는 '기술적 정밀성'의 수사는 실상 전략적 공포 조성과 대량 살상을 정당화하는 도구로 변질되고 있다.
(...)
또한 이스라엘은 '아빠는 어디에?'라는 시스템을 통해, 표적으로 지정된 인물이 집에 돌아왔는지를 실시간으로 확인한 뒤 야간에 해당 주택을 폭격했다. 이때 사용된 무기는 정밀 유도 폭탄이 아닌 '멍청한 폭탄dumb bombs'으로 분류되는 재래식 포탄이었다. 이는 민간 피해가 발생할 것이 예상된 공격이다. IDF 내부 소식통에 따르면, 이러한 AI 시스템의 결정으로 인해 수천 명의 팔레스타인 여성과 아이들이 사망했다. 이는 AI 기술이 단지 정보를 정밀하게 처리하는 도구가 아니라, 국가의 전쟁 수행 능력을 폭발적으로 확장하는 수단으로 작동하고 있음을 보여준다.(328-330p)
이 책은 AI 생산 네트워크가 본질적으로 식민주의적 성격을 지닌다는 점을 강조해왔다. 실제로 이 네트워크는 과거 식민 제국의 항로와 전신 케이블이 지나던 경로와 부분적으로 겹친다. 무엇보다, 가치와 자원이 주변부에서 중심부로 흐르도록 설계되어 있다. 세게 자본주의 체제의 중심에 있는 첨단 하이테크 국가들은 주변부 국가들로부터 노동력, 핵심 광물, 데이터를 수탈하며 자신들의 부와 권력을 유지하고 있다. AI 생산의 글로벌 분업 체계에서도 이러한 불균형은 명확하게 드러난다. 고도로 훈련된 엔지니어들은 높은 임금과 안전한 환경에서 일하는 반면, 단순하고 저임금의 업무는 노동 규제가 느슨한 저개발국가로 아웃소이된다. 이 구조는 결국, 과거 식민주의가 만들어놓은 불평등한 발전 모델이 오늘날에도 지속되고 있음을 보여준다.
하지만 AI 네트워크는 고정된 구조가 아니며, 변화의 가능성도 충분히 있다. AI를 생산하는 방식은 피할 수 없는 운명도 아니고, 누군가의 악의적인 통제 아래 놓인 절대적 질서도 아니다. 시스템을 운영하는 것은 사람이다. 물론 이들은 시장의 구조적 압력과 네트워크 내 경쟁 구도 속에서 움직이지만, 그렇다고 해서 변화를 만들어낼 수 없는 것은 아니다. AI 네트워크는 끊임없이 움직이며, 공급망의 특정 지점에서 발생한 압력이나 행동에 따라 전체 시스템이 반응할 수 있다. 어느 한 지점에서 노동자들이 행동에 나선다면, 그 영향이 네트워크 전반에 파급될 수 있다. 변화를 위한 첫걸음은 시스템의 작동 방식을 이해하는 것이다.(331-332p)
ㅡ 마크 그레이엄 등, <AI는 인간을 먹고 자란다> 中, 흐름출판