2025/11/18
흥미롭게 읽었다. 다만 앞부분에서는 분석과 인터뷰를 바탕으로 차분하게 서술하던 글이 9, 10장에 이르러 갑자기 감정적으로 치우치며 분위기가 급격히 달라진다. 이 두 장에서 저자는 걱정 어리고도 거친 주장들을 한꺼번에 쏟아내는데, 앞선 논지에 비해 비약이 크고 논리도 다소 성기다. 그런데 곰곰이 생각해보면, 작가가 정말 하고 싶었던 말은 결국 이 두 장에 담겨 있는 듯하다. 어쩌면 이 두 장을 쓰기 위해 전체 책의 구성을 맞춘 것처럼 느껴지기도 한다.
이 글을 쓰는 현재 사람들이 인공지능에 대해 두려워하는 점은 두 가지다. 하나는 터미네이터가 등장해 인간에게 반기를 들지 않을까 하는 것, 다른 하나는 인공지능이 자신들의 일자리를 빼앗지 않을까 하는 것. 나는 그 두 가지 악몽과는 다른 이야기를 하려고 한다. 내가 하려는 이야기 역시 내 기준으로는 악몽이다.
스카이넷과 터미네이터는 나타나지 않고, 당신도 어쩌면 일자리를 잃지 않을지도 모른다. 당신과 당신의 동료들, 다른 업계 사람들까지 인공지능의 등장 앞에서 안전과 일자리를 지키려 필사적으로 노력할 테니 말이다. 그런데 설사 터미네이터를 막고 일자리는 지키더라도 어떤 인간적 가치들은 그 과정에서 틀림없이 부서질 것이다. 사실 그런 인간적 가치를 무너뜨리는 데에는 그리 대단한 성능의 인공지능이 필요하지도 않다. 그리고 우리는 그런 파괴가 일어난 뒤에야 그 가치들의 정체를 뒤늦게 알아차릴 가능성이 높다.(26p)
"처음부터 인공지능으로 바둑 공부를 한 사람은 인공지능이 제시하는 수를 거부감 없이 받아들일 수 있는데 저 같은 경우는 제가 두는 모든 수가 나쁜 수가 돼요. 제가 생각하는 모든 수를 다 교정해야 하는 처지에 몰린 거예요. 이게 어떤 느낌이냐 하면 '아, 이런 수는 인공지능이 나쁘다고 하니까 바꾸자'그런 수준이 아니라, 제가 믿어왔던 모든 이론과 가치체계가 부정당하는 느낌이에요. 포석을 포함해서 바둑에서 일어나는 모든 변화에 대한 판단이 바뀌었어요. 전투에서도 한두 마디로 정의하기 어려운 바둑 이론들이 있었거든요. 저는 프로기사가 된 지 27년이 넘었는데요, 그런 이론들이 깊이 내재된 사람이에요. 저는 30년 동안 두던 제 바둑을 바꾸는 길을 택했어요. 학생들한테도 AI 수법을 가르쳐요. 하지만 매일매일 이게 정말 내가 생각하는 바둑이 맞는가 하는 생각을 해요. 저와 비슷한 세대의 많은 프로기사가 바둑을 그만뒀습니다."(56p)
"그때까지 정석이라는 틀에 갖혀 있었다고 생각했는데 알파고 때문에 그 틀이 깨졌고 자유로워졌다고 생각했어요. '바둑의 패러다임이 완전히 바뀌었따, 우리가 생각하고 있었던 정답이 정답이 아니게 됐다, 이제 마음대로 둬도 된다'하는 생각이었죠. 그런데 다시 '알파고 정석'이 생겼어요. 그때 자유라는 건 틀이 무너질 때 생기는 잠깐의 해방이었던거죠. 지금은, 저는 되게 슬퍼요. 지금 기사들이나 학생들이 두는 바둑은 저희가 배운 바둑이 아니에요. 전혀 다른 바둑이에요. 예전에는 정석이 있어도 그걸 비틀 수가 있었어요. 그러면 그때부터 또 난리가 나죠. 살짝 비튼 것에 대한 연구가 막 시작되고, 또 다른 변화가 생겨요.
(...)
그런데 지금은 비틀 수가 없어요. AI가 정해주니까. AI를 사용하면 이길 확률이 바로 뜨니까 '이 수는 아웃'이렇게 돼요. 전보다 더 견고한 성에 답답하게 갇혀버린 느낌이에요. 내 마음대로 생각하고 내가 그릴 수 있는 그림을 뺏겨버린 느낌."(58p)
다른 분야도 마찬가지다. '인공지능이 그 분야에 어떤 영향을 미칠 것인가'같은 고민은, 실제로 그 분야에서 쓸 만한 인공지능이 나오기 전까지만 할 수 있다. 인공지능은 모든 분야에서 게임체인저가 된다. 인공지능이 등장하면 그 분야의 규칙 자체가 바뀌며, 그때부터 해야 하는 고민은 '이 인공지능을 어떻게 활용할 것인가'가 된다. 어쨌든 경쟁은 다른 사람과 하는 거니까.
흔히 쓸 만한 인공지능이 등장하면 '인공지능 대 인간'의 대결구도가 펼쳐질 것으로 예상한다. 바둑계에서 딥러닝 기법으로 만든 바둑 AI 프로그램과 인간 최고수의 대결은 짧게 몇 번 일어났고 곧 종료되었다(알파고가 인간 프로기사들과 대국한 것은 100번도 되지 않는다). 이후에 펼쳐진 대결 구도는 '인공지능을 활용하는 전문가 대 다른 인공지능을 다른 방법으로 활용하는 다른 많은 전문가 대 인공지능을 활용하지 않는 구세대 전문가'였다. 나는 다른 분야에서도 역시 마찬가지 대결 양상이 펼쳐지리라 전망한다.
'인공지능이 그 분야에 어떤 영향을 미칠 것인가'같은 이야기는, 그런 치열한 경쟁에서 비교적 자유로운 사람들, 즉 그 시점에 해당 분야의 일류라고 볼 수는 없는 사람들, 현장의 최전선에서 밀려난 사람들이 인문학 포럼 같은 데서 할 것 같다. 그 포럼에서는 이런저런 논의가 오가겠고 어쩌면 깊은 통찰이 나올 수도 있겠다. 하지만 그 말들은 기본적으로 무력한 언어들이다. 그 업계에서 영향력 있는 플레이어들은 '인공지능을 어떻게 활용할 것인가'라는 고민에 빠져 있어서, 그런 인문학 포럼에서 나오는 이야기에 별 관심이 없을 것이다.
그렇다면 인공지능을 활용하는 전문가들은 인공지능 덕분에 삶의 질이 더 높아질까? 최소한 덜 바빠지기라도 할까? IT 회사들의 광고에 나오는 모델들처럼 어렵고 귀찮은 일을 모두 인공지능에게 맡긴 채 가족과 여유로운 생활을 즐기고 있을까?
(...)
작은 질문에서부터 시작해 보자. 어느 업계에서 인공지능을 활용하기 시작하면, 그 업계에 있는 사람들은 인공지능의 혜택을 똑같이 누릴 수 있을까? 그게 아니라면, 누가 인공지능의 혜택을 누리게 될지 예측할 수 있을까?(79-81p)
챗GPT가 등장한 뒤로 '수준급의 실력을 지닌 소설 쓰는 인공지능이 나오면 당신도 이용할거냐'라는 질문을 자주 받았다. 나는 그 질문이 잘못됐다고 생각한다. 그 질문은 수준급의 소설 쓰는 인공지능을 쓰는 일을 내가 선택할 수 있을 거라고 당연하게 전제한다. 그러나 실제로는 그렇지 않다. 그런 괜찮은 인공지능이 나와서 시장에서 팔리기 시작하면, 내게 선택권은 없을 것이다. 나는 그걸 써야만 한다.
(...)
2025년에 대도시에서 스마트폰을 쓰는 것은 선택의 문제라 할 수 없다. 스마트폰은 우리의 일상생활과 결합해 '스마트폰-환경'이라 불러야 할 시스템을 만들어 냈다. 스마트폰이 없는 사람은 이제 비행기나 기차를 탈 때 길고 복잡한 수속을 거쳐야 한다. QR코드로 주문을 받는 식당에서는 종업원을 불러 부루퉁한 표정에 대고 사정을 이야기해야 한다. 친구들과 식사를 한 뒤 밥값을 갹출할 때는 그 자리에서 즉시 하지 못하고 집에 가서 하겠다고 말해야 한다. 친구들은 떨떠름한 표정으로 당신을 쳐다볼 것이다. 어떤 사람들은 그런 불이익을 감수하면서 스마트폰 없이 살기도 한다. 그러나 그렇다고 해서 '스마트폰을 쓸지 말지는 순전히 현대인 개개인의 선택에 달린 문제'라고 말할 수는 없다. 현대 사회에서 스마트폰을 쓰지 않는 사람은 차별받는다.
자기 음악을 스트리밍 서비스에 발표하지 않는 대중음악 뮤지션도 마찬가지다. 음원 스트리밍 서비스는 '스트리밍-환경'이라는 시스템을 만들었다. 그 시스템을 거부하는 뮤지션은 어마어마한 실력이 뒷받침되지 않는 한 경쟁에서 사정없이 밀리고, 그 시스템을 잘 이용하는 이는 유리한 고지에 오른다. 어마어마한 실력이 뒷받침되지 않는 대다수에게는 무의미한 질문인 것이다. 당신이 온라인 쇼핑을 거부하며 오프라인 매장에서 물건을 사겠다고 고집해도, 당신 주변의 사람들이 모두 쇼핑을 온라인으로 하면 오프라인 매장은 망하게 된다. 당신 동네에 오프라인 매장이 사라지면, 당신도 결국 온라인 쇼핑을 이용할 수밖에 없게 된다.(107-108p)
서울에서 40년간 제비들이 쫓겨나고 비둘기가 번성한 이유는 제비들이 뭘 잘못해서가 아니다. 비둘기들이 현명해서도 아니다. 그들이 결정할 수 있는 영역 바깥에서, 그들의 의지와 관계없이 거대한 환경 변화가 일어났기 때문이다. 그 변화를 일으킨 인간도 딱히 제비를 혐오하거나 비둘기를 선호하지 않았다. 새로운 환경이 그저 우연히도 제비에게는 불리했고 비둘기에게는 유리했다.
'AI-환경'도 그러할 것이다. 개발자들의 의도와 무관하게, AI-환경은 어떤 사람들에게는 불리하고 어떤 사람들에게는 유리할 것이다. 하지만 우리는 현시점에서 구체적으로 누가 유리하고 누가 불리할지 예측할 수 없다. 글 쓰는 인공지능이 만들 새로운 출판계 환경이 나에게 유리하겠느냐고? 모르겠다. 이 시점에서 대부분의 예상은 틀릴 확률이 높다는 사실만 안다.(110p)
약인공지능은 인간이 언어로 만들어 놓은 추상적 구조물들을 밑바닥에서부터 분해하고, 그 구조물의 어떤 부분을 언어로 설명하는 것을 무의미하게 만들 것 같다. 인간은 여러 분야에서 벌어지는 현상들을 이해하고 그 아래 있는 듯한 패턴을 파악하기 위해 개념어와 비유를 동원해 설명을 만들었다. 그 설명에 의존해 행동 규칙을 세웠고, 그에 따라 일한다. 예술 분야에서뿐만 아니다. 경영 이론, 경제 이론, 사회 이론, 정치 이론, 교육 이론 같은 것들이 다 거기에 해당한다.
구매 협상을 인공지능이 인간 구매 담당자보다 더 잘할 때, 인간 건축가가 설계한 주택단지보다 인공지능이 설계한 곳에서 소셜믹스가 더 잘 일어날 때, 아이들의 잠재력을 인공지능이 인간 상담교사보다 더 정확히 파악할 때, 신경증 환자에게 어울리는 약을 인간 정신과 의사보다 인공지능이 더 잘 처방할 때, 그런데 인공지능이 어떻게 그런 일을 하는지는 우리가 이해하지 못할 때, 무슨 일이 일어날까? 정치 시스템의 일부분을 블랙박스에게 아웃소싱한 사회에서도 민주주의는 잘 작동할까?(141-142p)
빠르게 변화하는 초창기 신기술 앞에서 여러 주체는 서로 다른 단기 인센티브에 따라 즉흥적으로 행동하며, 한번 내린 선택은 다음 선택에 영향을 미친다. 그렇게 여러 선택이 뭉치고 엮인 결과는, 멀리서 조망하면 전혀 합리적으로 보이지 않는다. 그 선택들은 기술 발전과 서로 영향을 주고받으며 단단히 묶여 '기술-환경'을 만든다.(176p)
'인공지능은 그저 도구일 뿐이며, 사용 여부는 각자 선택하면 되고, 사용하건 사용하지 않건 각자가 추구하는 가치르르 지켜나가면 된다'같은 말을 하는 사람을 본다. 그들의 순진한 전망은 틀렸다. 인공지능을 사용하지 않더라도, 인공지능을 사용하는 다른 사람들 때문에 내가 추구하는 가치가 변하고 뒤바뀐다. 나를 둘러싼 기술-환경이 바뀌기 때문이다. 내가 다른 사람과 더불어 살아가는 한 그 영향을 받는다. 내가 수렵채집에 의존하는 생활 방식을 고집하더라도, 내 주변 사람들이 농사를 짓기 시작하면 나는 예전처럼 살 수 없다. 내가 수렵채집인으로서 성스럽게 여기는 나무를 농사를 짓는 사람들이 베어 내면 나는 화가 날 것이다. 내가 추구하는 가치와 생활하는 방식이 무너졌기 때문이다.
어떤 기술은 사람들의 인식과 행동에 영향을 미친다. 그런 기술은 사람들이 서로 관계 맺는 방식과 다른 사람의 성취를 평가하는 기준을 바꾸고, 공동체에 새로운 금기와 규칙을 만든다. 그 규칙들은 새로운 제도와 질서가 되고, 그 질서에 따라 새로운 계급과 문화를 지니니 새로운 사회구조가 탄생한다.(187-188p)
두 번째로 접어야 하는 기대는 '기술 진보가 우리 삶을 안락하게 만들 것'이라는 믿음이다. 바둑 AI 프로그램이 바둑의 수준을 높이고, 프로기사들의 실력을 상향평준화시키긴 했다. 그런데 그건 전체 프로기사의 삶의 질과는 관련이 없는 문제다. AI 포석 AI 공부법에 잘 적응한 기사들이 유리해졌지만, 그런 기술우위는 곧 사라진다. 인간 기사들의 노동 강도는 다른 인간 기사들과의 경쟁에 달려 있다. 바둑이 만드는 가치의 근원이 그 경쟁이라고 여긴다면, 어떤 신기술이 인간 기사들의 삶의 질을 근본적으로 낫게 만들 거라는 희망은 품지 말아야 한다.
어떤 일의 가치가 우월성을 놓고 겨루는 인간 사이의 경쟁에서 나온다면, 어떤 기술이 등장해도 경쟁의 강도를 근본적으로 바꾸지 못한다. 손에 든 무기가 돌도끼든 최신 저격소총이든 간에 상대와 내가 같은 무기를 들고 있다면, 이기기 위해선 자신을 극한의 스트레스 상태에 밀어 넣어야 한다. 상대방이 아직 받아들이지 못한 신기술을 사용하는 쪽이 잠시 느긋해질 수 있겠지만, 유용한 신기술은 곧 전파되어 흔한 기술이 된다. 그런 분야에서는 모든 참가자가 기술 개발이라는 이름의 항시적인 군비 경쟁을 벌여야 한다.(239-240p)
1930년보다 노동시간이 줄긴 줄었지만 주15시간 근무는 여전히 꿈같은 소리로 들린다. 세다가 통계로 확인할 수 있는 노동시간 단축조차 그대로 믿을 수 있는지 의심이 간다. 누구의 노동도 아닌 노동이 늘어났기 때문이다. 발전한 기술을 적용해 노동량을 줄인 현장, 예컨대 키오스크를 도입한 식당을 생각해 보자. 식당 직원의 노동량은 줄었지만 과거에 식당 직원이 하던 일을 키오스크 도입 이후에는 손님들이 각자의 여가시간에 한다. 음식 주문 업무를 여전히 누군가가 하고 있지만, 통계상으로는 누구의 노동으로도 계산되지 않는다. 형대인들이 개인적으로 짊어진 자기계발이라는 과제도 그렇다. 내게는 그것이 수입이 없는 노동처럼 느껴진다.(242p)
ㅡ 장강명, <먼저 온 미래> 中, 동아시아