AI가 세상을 바꾸는 게 아니라, 세상이 AI를 길들인다...
"우리는 틀린 질문을 하고 있는 것 아닐까", - 최신 논문 "AI 실존위험 담론, 여전히 기술결정론에 머물러 있다" - 40년 전 사회학 이론 '기술의 사회적 구성'이 다시 소환되는 이유 - 인간의 '예기 불안'과…
"우리는 틀린 질문을 하고 있는 것 아닐까"
최근 학술 아카이브(arXiv)에 올라온 논문 한 편이 AI 실존위험을 둘러싼 논의에 근본적인 의문을 던졌다. '우리에게 사회적 특이점이 필요한 이유는 무엇인가(Why do we need social singularity?)'라는 제목의 이 논문은, 현재 AI의 실존적 위험을 경고하는 여러 시나리오가 사회학·경제학·정치학·역사학의 통찰을 끌어오긴 하지만 정작 그 뼈대는 여전히 '기술결정론'에서 벗어나지 못하고 있다고 지적한다. 기술결정론이란 기술이 고유한 내적 논리에 따라 발전하며, 그 발전이 사회 변화를 일방적으로 이끈다는 관점이다. 저자는 이런 시각이 인류가 지금까지 겪어온 수많은 기술과의 공존 사례를 돌아볼 때 거의 들어맞은 적이 없다고 지적하며, 실제로는 제도와 행위자, 의미체계가 기술의 수용과 그 결과를 끊임없이 매개해온 '사회적 메커니즘'이 작동해왔다고 짚는다.
이 지적은 단순한 학술적 트집이 아니다. 지금 전 세계가 AI의 폭주를 우려하며 벌이는 논쟁들, 이를테면 속도조절을 요구하는 경고와 이를 "해법 없는 공포 조성"이라 맞받아치는 반박들을 가만히 들여다보면, 그 양쪽 모두가 암묵적으로 "기술이 알아서 세상을 끌고 간다"는 전제를 공유하고 있다는 것을 알 수 있다. 그러나 이 전제 자체가 틀렸다면, 지금의 논쟁은 애초에 엉뚱한 질문에 매달려 있는 셈이다. 진짜 물어야 할 질문은 "AI가 세상을 어디로 끌고 갈 것인가"가 아니라 "인간 사회가 AI를 어떤 모양으로 길들일 것인가"일지 모른다.
기술은 스스로 방향을 정하지 않는다
이 질문에 가장 먼저, 가장 체계적으로 답을 시도한 것이 1980년대 중반 네덜란드 사회학자 비베 바이커(Wiebe Bijker)와 트레버 핀치(Trevor Pinch)가 정립한 '기술의 사회적 구성(Social Construction of Technology, SCOT)' 이론이다. 이들은 기술 발전사를 다시 들여다보며, 기술이 사회를 일방적으로 바꾸는 것이 아니라 오히려 인간의 행위가 기술의 형태를 빚어낸다고 주장했다. 핵심 개념은 '관련 사회집단(relevant social groups)'이다. 하나의 기술이 등장하면 그것을 사용하고 평가하는 여러 사회집단이 생겨나고, 각 집단은 그 기술에 서로 다른 의미와 용도를 부여하며 경합한다. 이런 '해석적 유연성(interpretative flexibility)'이 충분한 시간을 거쳐 하나의 지배적 형태로 수렴될 때 비로소 우리가 아는 '완성된 기술'의 모습이 자리 잡는다는 것이다.
바이커와 핀치가 들었던 자전거의 사례가 이를 잘 보여준다. 지금은 당연하게 여겨지는 동일한 크기의 두 바퀴 자전거 형태도, 처음 등장했을 때는 속도를 중시하는 젊은 남성 집단과 안전을 중시하는 여성·노년층 집단이 전혀 다른 기준으로 자전거를 평가하며 경합한 끝에 자리 잡은 결과물이었다. 기술 자체의 '최적 설계'가 미리 정해져 있던 것이 아니라, 그것을 쓰는 사람들의 가치와 이해관계가 최종 형태를 결정한 것이다. 이 관점을 지금의 AI에 그대로 적용하면, AI가 궁극적으로 어떤 모습으로 우리 삶에 자리 잡을지는 모델의 성능이 아니라, 그것을 둘러싼 기업과 정부, 노동자, 소비자라는 '관련 사회집단'들이 각자의 이해관계를 가지고 벌이는 경합의 결과로 결정된다는 결론에 이른다. 다시 말해, AI를 멈출 수 있는가 없는가를 묻기 전에, 애초에 AI 혼자서는 세상의 방향을 결정할 힘이 없다는 것이다.
인간은 불안 속에서도 결국 자신의 필요를 따른다
그렇다면 이 '관련 사회집단'들의 경합을 실제로 움직이는 동력은 무엇일까. 여기서 최근 심리학 연구가 흥미로운 단서를 제공한다. 국제학술지 MDPI에 게재된 한 연구는 사람들이 AI를 대할 때 느끼는 불안을 두 갈래로 구분한다. 미래에 일자리를 잃거나 변화에 제대로 대비하지 못할 것이라는 두려움인 '예기 불안(anticipatory anxiety)'과, 인간의 정체성과 자율성 자체가 침식될 것이라는 보다 근원적인 두려움인 '소멸 불안(annihilation anxiety)'이다. 그런데 이 연구에서 특히 눈여겨볼 대목은, 정작 AI에 대한 의존도와 이런 불안 사이에 뚜렷한 상관관계가 확인되지 않았다는 점이다. 사람들은 AI를 두려워하면서도, 그 두려움과는 별개로 자신의 필요와 편의에 따라 AI를 계속 받아들이고 있다는 뜻이다. 이는 결국 인간이 거대한 공포 서사 앞에서도 결코 합리적이거나 일관된 방식으로 움직이지 않는다는 것을, 그리고 그 불안과 욕구가 뒤섞인 모순적인 선택들이 쌓여 결국 기술이 자리 잡을 사회적 지형을 만들어낸다는 것을 보여준다.
공포와 손실 회피가 '합리적 판단'을 대체한다
여기에 행동경제학의 오랜 연구 성과를 더하면 그림이 한층 또렷해진다. MIT가 정리한 행동발전경제학 연구들은, 사람들이 새로운 기술을 받아들일지 말지를 결정할 때 순수한 비용-편익 계산이 아니라 '현재편향(present bias)'과 '제한된 주의', 그리고 손실에 대한 과도한 두려움에 지배된다는 것을 여러 현장실험으로 보여준다. 대니얼 카너먼과 아모스 트버스키가 정립한 전망이론(Prospect Theory) 이후 축적된 행동경제학 연구들은 인간이 같은 크기의 이득보다 손실에 훨씬 더 민감하게 반응한다는 것, 그리고 이런 손실 회피 성향이 때로 장기적 이익에 반하는 선택으로 이어진다는 것을 일관되게 확인해왔다. AI를 둘러싼 논쟁에서도 마찬가지다. 패닉에 가까운 경고와, 뒤처질지 모른다는 조바심에서 비롯된 질주가 동시에 벌어지는 지금의 풍경은, 결국 인간이 가진 공포와 욕심이라는 두 가지 편향이 동시에 작동하고 있다는 것을 보여주는 교과서적인 사례에 가깝다.
해 아래 새 것은 없다
이 세 갈래의 연구를 하나로 모으면 뚜렷한 그림이 그려진다. 기술은 스스로 사회를 결정할 힘을 갖고 있지 않으며, 그 기술을 받아들이는 인간은 합리적 계산이 아니라 불안과 욕구가 뒤섞인 심리 속에서 선택을 내리고, 그 선택은 다시 손실에 대한 과도한 두려움과 눈앞의 이익에 대한 조바심이라는 오랜 인지적 편향에 지배된다. 결국 AI가 아무리 빠르게 발전하더라도, 그것이 실제로 우리 삶 속에 자리 잡는 속도는 많은 이들이 떠드는 것보다 훨씬 더디고, 그 모양새 역시 기술 자체의 가능성이 아니라 인간 사회의 불안과 욕심, 그리고 그 안에서 벌어지는 오래된 이해관계의 경합이 결정할 가능성이 크다.
수천 년 전 전도서를 쓴 솔로몬은 해 아래 새것이 없다고 했다. 이미 있던 것이 다시 있을 것이요, 이미 행한 일을 다시 행할 것이라는 그 오래된 통찰은, 지나고 보면 인류가 증기기관과 전기, 인터넷 앞에서도 매번 되풀이해온 이야기와 다르지 않다. 그때마다 사람들은 눈앞의 기술이 세상을 완전히 새로 쓸 것이라며 들떴고, 또 그만큼 두려워했지만, 결국 바뀐 것은 도구였을 뿐 그 도구를 쥔 인간의 불안과 욕심, 그리고 그것이 빚어내는 다툼과 타협의 패턴은 크게 달라지지 않았다. 인간의 역사가 더 큰 질서 안에서 움직여왔다는 오래된 믿음을 굳이 빌리지 않더라도, 지금 이 순간 AI를 둘러싸고 벌어지는 소란은 결국 인간이 스스로의 본질을 다시 들여다보라는 신호에 가깝다. 기술이 세상을 바꿀 것이라는 요란한 전망들 사이에서, 정작 우리가 다시 물어야 할 것은 AI가 무엇을 할 수 있는가가 아니라, 그 기술 앞에 선 인간이 여전히 얼마나 변하지 않았는가일지도 모른다.
본 콘텐츠는 글로벌 IT 아키텍처 컨설팅 회사 CHRISCOMPANY의 기술 인사이트를 바탕으로 제공됩니다. 발행: 크리스미디어 (CHRISMEDIA)