유발 하라리, 《넥서스》 읽기 5편 | AI에게 윤리를 가르칠 수 있을까?(칸트, 자율주행차, AI윤리)

칸트가 AI 책에 등장한 이유

『넥서스』를 읽다가 가장 놀랐던 부분은 철학자 칸트가 등장한 것이었다.

AI를 이야기하는 책인데 왜 18세기 철학자의 이야기를 할까?

처음에는 조금 뜬금없다고 생각했다.

 

하지만 읽다 보니 하라리가 말하고 싶었던 것은 AI 기술이 아니라 AI가 따라야 할 기준이었다.

---

 

칸트는 어떤 원칙을 말했을까?

칸트는 결과보다 원칙을 중요하게 생각한 철학자였다.

그는 이렇게 말했다.

 

"네 의지의 준칙이 언제나 동시에 보편적 입법의 원리가 될 수 있도록 행동하라."

 

 

처음 읽으면 어렵다.

쉽게 말하면,

 

"내가 하는 행동이 모든 사람의 규칙이 되어도 괜찮은가?"

를 먼저 생각하라는 뜻이다.

 

예를 들어,

내가 거짓말을 해도 괜찮다고 생각한다면,

모든 사람이 거짓말을 하는 사회도 괜찮아야 한다.

 

내가 신호를 무시해도 된다고 생각한다면,

모든 사람이 신호를 무시하는 사회도 괜찮아야 한다.

 

그래서 칸트는 상황이나 감정에 따라 원칙이 바뀌어서는 안 된다고 말했다.

---

 

그런데 AI도 같은 원칙을 따를 수 있을까?

하라리는 여기서 새로운 질문을 던진다.

 

AI에게도 이런 보편적인 원칙을 가르칠 수 있을까?

 

AI는 엄청난 양의 데이터를 학습한다.

 

하지만 무엇이 옳고 그른지 스스로 고민하지는 않는다.

 

인간이 만든 기준을 계산해서 적용할 뿐이다.

---

 

자율주행자동차는 누구를 살려야 할까?

이 문제는 자율주행자동차를 떠올리면 더 분명해진다.

 

사고를 피할 수 없는 순간,

운전자를 먼저 살릴 것인가,

보행자를 먼저 살릴 것인가.

정답은 쉽게 나오지 않는다.

 

사람도 의견이 갈리는 문제를 AI는 어떤 기준으로 판단해야 할까?

결국 AI는 스스로 윤리를 만드는 것이 아니라,

 

인간이 정해 놓은 원칙 안에서만 선택할 수 있다.

---

 

데이터는 계산하지만, 연민은 계산하지 못한다.

AI는 데이터를 분석하는 데는 인간보다 뛰어날 수 있다.

 

하지만 관용과 연민은 데이터에서 자동으로 만들어지지 않는다.

 

상대의 사정을 이해하고,

실수를 용서하고,

원칙과 현실 사이에서 고민하는 것은 인간이 하는 일이다.

 

AI는 규칙을 적용할 수는 있어도,

왜 그 규칙이 필요한지,

언제 예외를 인정해야 하는지는 스스로 판단하지 못한다.

---

 

💭 내 생각

이 장을 읽으며 AI의 가장 큰 문제는 성능이 아니라 윤리라는 생각이 들었다.

 

AI는 앞으로 인간보다 더 많은 데이터를 분석하고,

더 빠르게 판단할 것이다.

 

하지만 어떤 원칙을 따를지는 결국 인간이 정해야 한다.

 

칸트는 모두에게 적용될 수 있는 보편적인 원칙을 이야기했다.

그리고 하라리는 그 원칙을 이제는 AI에게도 어떻게 적용할 것인지를 묻고 있었다.

 

기술은 계속 발전하겠지만,

관용과 연민, 그리고 인간의 존엄까지 데이터로 계산할 수 있을까?

 

나는 아직은 아니라고 생각한다.

그래서 AI 시대일수록 기술보다 인간의 윤리와 책임이 더 중요해질 것이라는 생각이 들었다.

---

 

AI는 원칙을 계산할 수는 있어도, 그 원칙이 왜 필요한지는 이해하지 못한다. 결국 AI의 미래는 기술보다 인간이 어떤 윤리를 선택하느냐에 달려 있다.

 

 

---

다음 편 예고
6편 : 데이터 식민주의와 디지털 제국