유발 하라리, 《넥서스》 읽기 4편 | AI는 인간 사회의 거울인가? (페이스북 알고리즘과 컴퓨터 편향)

유발 하라리, 《넥서스》 읽기 3편 | 민주주의와 전체주의는 어떻게 다른가?(콜호스, 스탈린, 나치)

유발 하라리, 《넥서스》 읽기 3편 | 민주주의와 전체주의는 어떻게 다른가?(콜호스, 스탈린, 나

 

지난 3편에서는 정보 네트워크가 오류를 바로잡는 피드백 시스템을 잃었을 때 발생했던

스탈린과 나치 체제의 전체주의적 비극을 다루었다.

과거의 역사 속에서 정보와 서사를 통제하고 독점하며 사회를 지배했던 주체는 국가와 정치 권력이었다.

 

그러나 유발 하라리는 《넥서스》 4편을 통해 그 강력한 주도권이 이제 국가라는 울타리를 넘어

알고리즘과 인공지능(AI)으로 옮겨가고 있다고 엄중하게 경고한다.

 

우리는 보통 기술과 컴퓨터 프로그램이 사람보다 훨씬 더 객관적이고 중립적이며 공정할 것이라고 기대한다.

감정에 휘둘리지 않는 기계야말로 가장 이상적인 판단을 내릴 것이라 믿기 때문이다.

 

하지만 하라리가 파헤친 디지털 정보 생태계의 실상은 충격적이다.

AI는 공정한 수호자가 아니라, 인간 사회의 가장 어두운 본능과 편견을 그대로 학습하고 닮아가는 거울에 가깝다.

 

1. 알고리즘은 왜 자극적인 '분노'에 열광하는가?

책에서 다루는 가장 대표적이고 비극적인 사례는 메타의 페이스북 알고리즘이다.

페이스북을 만든 개발자들과 경영진이 처음부터 대중을 선동하거나,

특정 사회에 치명적인 갈등과 폭력을 유발할 목적으로 알고리즘을 설계한 것은 아니었다.

 

그들이 설정한 목표는 지극히 상업적이고 단순했다. "이용자들이 플랫폼에 최대한 오래 머물게 만들고,

클릭과 좋아요, 댓글 같은 참여도를 극대화하는 것"이었다.

 

하지만 이 중립적이고 단순한 목표가 인간의 취약한 심리와 결합하면서 예상치 못한 폭주를 시작했다.

결국 AI나 알고리즘이라는 기술 자체가 사악해서 인간을 조종한 것이 아니다.

인간이 가진 자극적인 본능과 편향된 행동 데이터가 알고리즘을 괴물로 학습시킨 원인이었다.

 

2. 컴퓨터 편향(Computer Bias): 사회의 불평등을 재현하는 AI

우리는 중요한 결정을 사람이 아닌 AI 알고리즘에 맡길 때 "사심 없이 공정할 것"이라는 일종의 디지털 환상을 갖는다.

판사 대신 AI가 판결을 내리거나, 인사권자 대신 AI가 채용을 진행하면 지연이나 학연, 개인적 편견이 개입하지 않을 것이라

기대하는 것이다. 그러나 AI는 무(無)에서 지식을 스스로 창조하지 못한다. 이미 인간이 만들어 놓은 과거의 빅데이터를

바탕으로 학습한다.

 

• 사회의 편견을 그대로 흡수하는 구조: 데이터 속에 기존 사회의 성차별, 인종차별, 계급적 편견이 스며들어 있다면,
  AI는 이를 부조리가 아닌 '자연스러운 정상 패턴'이자 '사회적 지식'으로 받아들인다.
  
  
• 불평등의 정당화와 고착화: 기업의 채용 AI나 금융권의 대출 심사 알고리즘이 과거 데이터를 학습할 경우,
  과거 관행에 존재했던 특정 계층이나 여성에 대한 불이익을 그대로 재현한다.
  그러면서도 "AI의 공정한 데이터 분석 결과"라는 명목으로 차별을 합리화한다.

 

결국 AI는 스스로 새로운 차별을 만들어낸다기보다,

우리가 외면하거나 눈감고 있던 인간 사회의 부조리와 편견을 거울처럼 따라하는 역할을 수행하고 있다.

 

3. 인간과 AI의 결정적 차이: 데이터 학습과 윤리적 자각

하라리가 이 대목에서 던지는 본질적이고 철학적인 질문은 "과연 인간과 인공지능의 차이는 무엇인가?"이다.

 

AI는 인간이 평생을 바쳐도 전부 읽을 수 없는 막대한 양의 데이터를 단 몇 초 만에 분석하고 통계적 패턴을 추출해 낸다.

하지만 AI에게는 인간이 가진 결정적인 특성이 완전히 부재하다.

바로 몸으로 겪는 직접적인 체험, 타인에 대한 공감, 그리고 스스로 옳고 그름을 깨닫는 윤리적 자각 능력이 없다는 점이다.

 

따라서 AI 기술의 발전에서 진짜 핵심적인 과제는

"얼마나 많은 연산 능력과 테라바이트(TB)의 데이터를 주입하느냐"가 아니라,

"그 데이터 속에 무엇을 담아 배우게 할 것인가"라는 인간의 가치관과 윤리적 기준 정립이다.

 

4. 한국 문학과의 접점: 자극적인 정보와 왜곡된 진실

이러한 알고리즘의 자극성과 가짜 뉴스의 위험성은 한국의 문학 작품이나 현대 사회의 폭력 구조에서도 동일하게 발견된다.

이강백의 희곡 《파수꾼》에서 마을 사람들은 '이리 떼가존재해 위험한가?'에 대한 객관적 사실 검증에는 관심이 없다.

오직 촌장이 유포한 '이리 떼의 습격'이라는 자극적이고 공포스러운 서사에 열광하고 선동당할 뿐이다.

 

오늘날 유튜브의 자극적인 썸네일, SNS의 찌라시 뉴스, 커뮤니티 공간에서 일어나는 집단적 린치 역시

이 메커니즘과 정확히 일치한다.

알고리즘은 대중의 엿보기 심리와 분노를 자양분 삼아 '디지털 파수꾼' 노릇을 하고 있다.

진실이나 통찰보다는 '자극'과 '분노'가 더 큰 돈과 권력이 되는 구조가 형성된 것이다.

 

5. 우리의 미래: 거울을 탓할 것인가, 얼룩을 지울 것인가

《넥서스》 4편을 읽으며 가장 서늘하게 다가오는 통찰은, 우리가 진정으로 두려워해야 할 대상이

영화에 나오는 정체불명의 사악한 AI가 아니라 '우리가 만들어낸 왜곡된 사회 모습 그 자체'라는 사실이다.

 

사람들이 진실보다 가짜 뉴스를 더 즐겨 퍼뜨리면 알고리즘도 가짜 뉴스를 배운다.

사회 전반에 혐오와 편견이 만연하면 AI 역시 혐오와 편견을 그대로 출력할 뿐이다.

AI는 인간 사회의 허물과 얼룩을 아무런 필터 없이 보여주는 투명한 거울에 지나지 않는다.

 

따라서 AI 기술이 가져올 위험을 통제하기 위해 필요한 것은 단순히 알고리즘 코드를 수정하는 기술적 작업에 그쳐서는 안 된다. 우리 사회가 현재 어떤 정보를 유통하고 있으며, 어떤 가치를 지향하고 있는지 스스로의 문화와 시스템을 돌아보는

자정 노력이 선행되어야 한다.

 

💡 4편을 마치며

《넥서스》 4편은 AI라는 첨단 기술의 문제를 통해 역설적으로 인간성의 본질과 우리 사회의 도덕적 책임감을 무겁게 되묻는다. AI가 인간을 닮아간다는 것은, 결국 우리가 어떤 사회를 만드느냐에 따라 AI의 미래 모습도 결정된다는 뜻이다.

기술의 발전 속도만을 다투기 이전에, 우리가 일상에서 생성하고 소비하는 정보의 질을 스스로 비판적으로 검토하지 않는다면,

우리는 알고리즘이라는 디지털 거울 속에서 스스로가 만든 증오와 편견에 갇히게 될 것이다.

 

📌 다음 편 예고: 《넥서스》 읽기 5편

다음 5편에서는 인간의 복잡한 윤리적 고뇌를 과연 알고리즘으로 수식화할 수 있는지 탐구해 본다.

트롤리 서바이벌 문제와 자율주행차의 순간적인 선택, 그리고 칸트의 철학을 통해 기술과 도덕이 충돌하는 AI 윤리의

가장 최전선을 파헤쳐 보고자 한다.

 

 

유발 하라리, 《넥서스》 읽기 5편 | AI에게 윤리를 가르칠 수 있을까?(칸트, 자율주행차, AI윤리)

유발 하라리, 《넥서스》 읽기 5편 | AI에게 윤리를 가르칠 수 있을까?(칸트, 자율주행차, AI윤리)