지난 칼럼에서는 『멋진 신세계』를 통해 AI 시대에 인간이 사수해야 할 가치를 이야기했다. 특히 주인공 존이 외쳤던 “불행해질 권리”는 실패와 고독, 상처와 불편한 진실을 마주할 권리야말로 인간을 인간답게 만드는 본질임을 시사한다. 하지만 한 가지 의문이 남는다. 과연 거대한 기술 기업과 권력 구조가 인간의 주도권 회복을 순순히 지켜보고만 있을까. 기술이 도구로 남을지, 인간을 관리하는 시스템이 될지는 결국 권력과 이해관계의 문제다. 그 현실적인 가능성을 짚어보고자 한다.

먼저 주목해야 할 점은 ‘강압적 통제’보다 훨씬 교묘한 방식의 지배다. 흔히 권력의 통제라고 하면 독재나 감시를 떠올리지만, 현대의 권력은 훨씬 세련되게 작동한다. 억압이 아니라 ‘편리함’을 동력으로 삼기 때문이다.

첫 번째 방식은 편리함을 통한 포섭이다. 인간이 기술 의존을 우려하며 디지털 디톡스나 알고리즘 비판을 시작하면, 기업들은 이를 억누르기보다 더 매력적인 서비스로 응수할 가능성이 크다. 더 빠르고 개인화된 기능을 제공하며 “굳이 힘들게 직접 할 필요가 있느냐, 우리가 더 완벽하게 해결해주겠다”고 유혹하는 식이다. 인간의 선택권 행사가 점차 ‘비효율’로 치부되면서, 저항은 억압당하는 것이 아니라 불필요한 것으로 전락한다.

두 번째는 보이지 않는 배제다. 시스템에 협조적인 사람과 그렇지 않은 사람 사이에 미묘한 차별을 두는 구조다. 주도권을 지키기 위해 알고리즘을 거부하거나 데이터 수집에 저항하는 개인에게 실질적인 불이익을 주는 방식이다. 이미 일부에서 시행 중인 사회적 신용 시스템처럼, 비협조적인 이의 서비스 이용 속도를 늦추거나 혜택을 제한함으로써 자발적인 포기를 유도한다. 직접적인 막음보다 삶의 질을 떨어뜨려 굴복시키는 전략이다.

세 번째는 저항의 상품화다. 기업들은 저항 자체를 새로운 시장으로 흡수하곤 한다. ‘윤리적 AI’나 ‘인간 중심 기술’이라는 슬로건이 대표적이다. 이러한 시도가 모두 가식은 아니겠지만, 사용자로 하여금 통제권을 가졌다는 착각을 주는 장치에 그칠 위험이 크다. 겉으로는 선택권을 부여하는 듯해도 시스템의 핵심 구조는 변하지 않는 기만적 형태다.

이 세 방식의 공통점은 인간을 억압하지 않는다는 데 있다. 대신 스스로 편리함을 선택하도록 교묘히 유도한다. 올더스 헉슬리가 경고했듯, 억압당하는 사회보다 스스로 즐겁게 순응하는 사회가 훨씬 더 위험할 수 있다는 점을 상기시킨다.

그렇다면 인간에게 희망은 없는 것일까. 의외로 기술이 아무리 발전해도 완전히 통제하기 어려운 인간만의 특성이 존재한다. 그 중 하나가 ‘예측 불가능성’이다. AI는 과거의 패턴을 분석해 미래를 예측하지만, 인간은 때때로 데이터가 설명할 수 없는 선택을 한다. 계산되지 않은 창의성, 비합리적인 용기, 예상 밖의 연대 같은 행동은 알고리즘의 계산망을 벗어난다.

또 하나의 가능성은 ‘공동체’다. 오늘날 대다수 관계가 플랫폼을 거치지만, 실제로 얼굴을 마주하는 물리적 공동체와 연대는 데이터 시스템이 온전히 포착하기 어렵다. 지역 사회와 오프라인 모임, 공동의 문제를 해결하려는 시민 네트워크는 기술 중심 사회에서 중요한 균형추 역할을 할 수 있다.

결국 인간의 주도권은 기술의 속도가 아니라 우리의 선택에 좌우된다. 제공되는 편리함을 무비판적으로 수용하는 순간 선택권은 소멸한다. 반대로 편리함 이면의 구조를 통찰하고 의식적으로 선택하기 시작하면 상황은 반전된다.

AI 시대의 권력은 보이지 않는 곳에서 작동하기에 더 위험하다. 그러나 인간은 여전히 예측 불가능하고, 관계를 맺으며, 때로는 비효율적인 선택을 감행하는 존재다. 바로 그 특성들이 인류를 지탱해 온 힘이었다. 앞으로의 시대는 기술과 인간의 경쟁이 아니라, 인간이 얼마나 ‘의식적으로’ 기술을 다루느냐에 따라 결정될 것이다. 불완전하더라도 스스로 선택하는 인간의 사회를 지켜낼 것인가, 아니면 편리하게 관리되는 사회에 안주할 것인가. 질문은 우리 자신에게 향해 있다.