『넥서스』 칸트가 AI 책에 등장한 이유｜AI 시대에 필요한 윤리와 책임

유발 하라리, 《넥서스》 읽기 4편 | 페이스북 알고리즘은 왜 위험할까?

유발 하라리, 《넥서스》 읽기 4편 | 페이스북 알고리즘은 왜 위험할까?

 

 

유발 하라리의 『넥서스』를 읽다가 가장 놀랐던 부분은 철학자 칸트가 등장한 장면이었다. 인공지능과 정보 네트워크를 이야기하는 책에서 왜 18세기 철학자의 사상을 설명하는지 처음에는 조금 뜬금없게 느껴졌다. AI의 발전이나 알고리즘의 위험성을 다루다가 갑자기 오래된 철학 이야기가 나오니 흐름을 따라가기 어려웠다.

 

하지만 내용을 천천히 읽다 보니 하라리가 말하고 싶었던 것은 단순히 AI 기술이 아니었다. 중요한 것은 AI가 얼마나 똑똑해질 수 있는지가 아니라, 그 뛰어난 능력을 어떤 원칙에 따라 사용하게 할 것인가였다. 다시 말해 AI의 성능보다 AI가 따라야 할 윤리적 기준을 묻기 위해 칸트의 철학을 가져온 것이었다.

 

🤔 칸트는 어떤 원칙을 말했을까?

칸트는 결과보다 행동의 동기와 원칙을 중요하게 생각한 철학자였다. 어떤 행동으로 좋은 결과가 나왔다는 이유만으로 그 행동이 언제나 옳은 것은 아니라고 보았다. 그는 다음과 같이 말했다.

“네 의지의 준칙이 언제나 동시에 보편적 입법의 원리가 될 수 있도록 행동하라.”

 

처음 읽으면 무슨 뜻인지 쉽게 이해되지 않는다. 나 역시 문장을 여러 번 읽어야 했다. 쉽게 풀어보면 다음과 같은 뜻이다.

 

“내가 지금 하려는 행동이 모든 사람에게 적용되는 규칙이 되어도 괜찮은가?”

 

자신에게만 유리한 기준을 만들지 말고, 누구에게나 똑같이 적용할 수 있는 원칙에 따라 행동하라는 것이다.

 

예를 들어 급한 상황에서는 거짓말을 해도 괜찮다고 생각해 보자. 그렇다면 나뿐만 아니라 모든 사람이 자신이 급할 때 거짓말을 하는 사회도 받아들일 수 있어야 한다. 내가 바쁘다는 이유로 신호를 무시해도 된다고 생각한다면, 다른 사람들도 바쁠 때마다 신호를 무시하는 상황을 인정해야 한다. 그러나 모두가 거짓말을 하고 교통 신호를 지키지 않는다면 사회의 약속은 오래 유지될 수 없다.

 

칸트는 이처럼 상황이나 감정, 개인의 이익에 따라 원칙을 마음대로 바꾸어서는 안 된다고 보았다. 내가 선택한 행동이 모든 사람에게 적용되어도 괜찮은지를 생각해야 한다는 것이다. 이것이 칸트가 말한 보편적인 도덕 원칙이다.

 

🤖 그런데 AI도 보편적인 원칙을 따를 수 있을까?

『넥서스』에서 하라리는 칸트의 철학을 통해 새로운 질문을 던진다.

 

AI에게도 모든 사람에게 적용할 수 있는 보편적인 원칙을 가르칠 수 있을까?

 

AI는 인간이 평생 읽기 어려운 양의 정보를 짧은 시간 안에 분석한다. 수많은 자료에서 공통점을 찾고, 주어진 조건에 따라 빠르게 결론을 내린다. 사람보다 더 정확하게 계산하고 더 많은 가능성을 비교할 수도 있다.

 

하지만 데이터를 많이 알고 있다는 사실과 무엇이 옳은지를 판단하는 능력은 같지 않다. AI가 내놓는 판단은 인간이 만든 자료와 규칙, 목표를 바탕으로 한다. AI가 인간과 똑같은 방식으로 선과 악을 고민하거나 자신의 결정에 양심의 가책을 느끼는 것은 아니다.

 

결국 AI가 어떤 기준으로 판단할지는 인간이 결정해야 한다. AI에게 무엇을 우선하도록 가르쳤는지, 어떤 정보를 학습시켰는지, 누구의 안전과 이익을 중요하게 설정했는지에 따라 결론은 달라질 수 있다.

 

🚗  자율주행자동차는 누구를 먼저 살려야 할까?

AI 윤리 문제를 생각하면 자율주행자동차의 사례가 떠오른다. 사고를 피할 수 없는 순간에 자동차는 어떤 판단을 내려야 할까?

운전자의 생명을 먼저 보호해야 할까? 아니면 여러 명의 보행자를 보호해야 할까? 어린이와 노인이 함께 있다면 나이를 판단 기준에 포함해야 할까? 교통법규를 어긴 사람과 지킨 사람을 구분해야 할까?

 

어떤 선택을 하더라도 쉽게 정답이라고 말하기 어렵다. 사람도 의견이 갈리는 문제인데 AI에는 어떤 기준을 입력해야 할까? 더 많은 사람을 살리는 선택이 언제나 옳다고 정한다면 개인의 생명은 숫자에 따라 희생될 수 있다. 운전자를 가장 먼저 보호하도록 설정한다면 보행자의 안전은 상대적으로 가벼워질 수 있다.

 

이 문제에서 중요한 것은 AI가 순식간에 계산할 수 있느냐가 아니다. 그 계산에 사용할 기준을 누가 정하며, 그 결과에 대한 책임을 누가 져야 하는지가 더 중요하다.

 

AI가 판단한 것처럼 보여도 그 판단의 바탕에는 인간이 만든 알고리즘과 데이터가 있다. 따라서 문제가 생겼을 때 “AI가 결정했다”라는 말로 책임을 피할 수는 없다. AI를 만든 기업과 개발자, 사용을 허가한 국가와 제도를 만든 사람들이 함께 책임을 고민해야 한다.

 

⚖️ AI의 원칙은 정말 모두에게 공평할까?

칸트는 누구에게나 적용할 수 있는 보편적인 원칙을 강조했다. 그러나 실제 사회에서는 같은 규칙을 적용하는 것만으로 모든 사람이 공평해지는 것은 아니다.

 

AI가 학습하는 데이터 안에 이미 인간 사회의 편견과 차별이 들어 있을 수 있기 때문이다. 과거의 채용 기록에 특정 성별이나 출신 학교를 선호한 경향이 있었다면 AI는 그것을 성공적인 채용 방식이라고 학습할 가능성이 있다. 대출 심사 자료에 지역이나 직업에 대한 편견이 담겨 있다면 AI의 판단도 그 영향을 받을 수 있다.

 

AI는 자신이 참고한 자료가 공정한지 스스로 의심하지 않는다. 통계적으로 자주 나타나는 모습을 찾아낼 뿐이다. 그러나 자주 반복되었다는 사실이 곧 옳다는 뜻은 아니다. 오랫동안 이어진 차별도 데이터 안에서는 하나의 반복되는 경향으로 나타날 수 있다.

 

그래서 AI 시대의 보편적 원칙은 단순히 “모두에게 같은 규칙을 적용하자”에서 끝나서는 안 된다. 그 규칙이 특정 사람에게만 불리하게 작용하지 않는지, 약한 위치에 있는 사람을 더 위험하게 만들지는 않는지 계속 살펴야 한다.

 

🧠 데이터는 계산하지만 연민까지 계산할 수 있을까?

AI는 방대한 데이터를 분석하는 능력에서는 이미 인간보다 뛰어난 모습을 보인다. 하지만 관용과 연민이 많은 데이터에서 저절로 생기는 것은 아니다.

 

상대가 왜 그런 선택을 했는지 이해하고, 실수한 사람에게 다시 기회를 주고, 원칙과 현실 사이에서 오래 고민하는 일에는 인간의 경험과 감정이 들어간다. 같은 잘못을 했더라도 그 사람이 처한 사정과 잘못 이후의 태도에 따라 판단이 달라질 수 있다.

 

물론 AI도 미리 정해 놓은 예외 규정을 적용할 수 있다. 상대의 상황을 보여 주는 자료를 분석해 서로 다른 결과를 내놓을 수도 있다. 그러나 그것이 인간처럼 상대의 아픔을 느끼고 용서한다는 뜻은 아니다. AI는 연민을 표현하는 문장을 만들 수는 있지만, 그 판단에 대해 마음 아파하거나 책임감을 느끼지는 않는다.

 

여기에서 인간의 역할이 중요해진다. AI가 빠르게 결론을 내리더라도 그 결과를 그대로 받아들여서는 안 된다. 그 판단이 사람의 존엄성을 해치지 않는지, 숫자로 드러나지 않은 사정은 없는지 인간이 다시 살펴야 한다.

 

🧭  AI 시대에 칸트가 필요한 이유

이 부분을 읽으며 AI 시대에 오히려 오래된 철학이 더 필요할 수 있겠다는 생각이 들었다. 기술이 발전하면 모든 문제가 해결될 것 같지만, 기술은 우리에게 정답을 알려 주지 않는다. 우리가 정한 목표를 더 빠르고 강력하게 실행할 뿐이다.

 

잘못된 목표를 가진 AI가 뛰어난 능력을 갖게 된다면 성능이 좋을수록 위험도 커질 수 있다. 반대로 인간의 존엄과 안전, 공정성을 중요한 원칙으로 정한다면 AI는 사회에 도움이 되는 도구가 될 수 있다. 결국 핵심은 기술 자체가 아니라 기술을 움직이는 인간의 기준이다.

 

칸트의 질문을 AI 시대에 맞게 바꾸어 보면 다음과 같을 것이다.

 

“우리가 AI에 입력한 이 원칙이 모든 사람에게 적용되어도 괜찮은가?”

 

또 하나의 질문도 필요하다.

 

“이 원칙으로 피해를 보는 사람이 생겼을 때 우리는 그 결과를 책임질 수 있는가?”

 

AI 개발자만 이 질문에 답해야 하는 것은 아니다. AI를 사용하는 기업과 정부, 학교와 병원, 그리고 일상에서 AI를 선택하는 우리 모두가 함께 고민해야 한다.

 

📖 『넥서스』를 읽고 든 생각

이 장을 읽으며 AI의 가장 큰 문제는 성능이 아니라 윤리일 수 있다는 생각이 들었다. AI는 앞으로 인간보다 더 많은 데이터를 분석하고 훨씬 빠르게 판단할 것이다. 하지만 무엇을 중요한 가치로 볼 것인지, 어떤 원칙을 먼저 적용할 것인지는 결국 인간이 정해야 한다.

 

칸트는 나에게만 유리한 기준이 아니라 모두에게 적용할 수 있는 원칙을 생각하라고 말했다. 하라리는 그 오래된 질문을 AI 시대의 문제로 다시 가져온다. 인간도 지키기 어려운 보편적인 원칙을 AI에 어떻게 가르칠 것인지, 그리고 AI의 판단이 누군가를 해쳤을 때 누가 책임질 것인지 묻는 것이다.

 

기술은 계속 발전할 것이다. 그러나 관용과 연민, 인간의 존엄까지 숫자로 정확하게 계산할 수 있을지는 모르겠다. 나는 아직은 어렵다고 생각한다. 그렇다고 AI를 무조건 두려워하거나 거부해야 한다는 뜻은 아니다. AI가 내놓은 답을 최종적인 정답으로 받아들이지 않고, 인간이 판단과 책임을 놓지 않는 것이 중요하다.

 

AI가 아무리 똑똑해져도 우리가 어떤 사회를 원하는지 대신 결정해 줄 수는 없다. 더 빠른 사회를 만들 것인지, 더 공정한 사회를 만들 것인지, 약한 사람을 보호하는 사회를 만들 것인지는 인간이 선택해야 한다.

 

그래서 AI 시대일수록 기술을 배우는 일만큼 철학을 읽고 윤리를 고민하는 일이 필요하다. 칸트가 AI를 다루는 『넥서스』에 등장한 이유도 바로 여기에 있다고 생각한다.

 

AI는 원칙을 계산하고 적용할 수 있다. 그러나 어떤 원칙이 필요한지 정하고 그 결과를 책임지는 일은 여전히 인간의 몫이다. 결국 AI의 미래는 기술의 성능보다 인간이 어떤 윤리를 선택하느냐에 달려 있다.

 

다음 편 예고

『넥서스』 6편｜데이터 식민주의와 디지털 제국

데이터를 가진 기업과 국가는 어떻게 새로운 권력을 얻게 될까? 다음 글에서는 정보와 데이터가 세계의 힘을 어떻게 바꾸고 있는지 살펴보려 한다.

 

유발 하라리, 《넥서스》 읽기 6 | 데이터 식민주의와 디지털 제국편

유발 하라리, 《넥서스》 읽기 6 | 데이터 식민주의와 디지털 제국편