AI는 인간을 닮아간다.
4편에서는 권력이 정보를 장악하면 사람들의 생각까지 통제할 수 있다는 이야기를 했다.
이번에는 하라리가 그 권력이 국가가 아닌 알고리즘과 AI로 넘어오고 있다고 말한다.
처음에는 AI가 사람보다 더 객관적이고 공정할 것이라고 생각했다.
하지만 책을 읽으며 오히려 AI는 인간 사회를 가장 닮은 존재가 될 수도 있다는 생각이 들었다.
알고리즘은 왜 자극적인 글을 추천할까?
『넥서스』에서 가장 인상 깊었던 사례는 페이스북이었다.
페이스북은 사람들을 화나게 하거나 갈등을 만들기 위해 만들어진 서비스가 아니다.
사람들이 오래 머물고 많이 반응하는 콘텐츠를 보여 주도록 설계되었을 뿐이다.
문제는 사람들이 차분한 이야기보다 자극적인 기사와 분노를 일으키는 글에 더 많이 반응했다는 것이다.
결국 알고리즘은 사람들의 행동을 학습했고, 자극적인 정보를 더 많이 추천하기 시작했다.
AI가 사람을 바꾼 것이 아니라,
사람들의 행동이 AI를 그렇게 학습시킨 것이다.
AI도 편향을 배운다.
우리는 AI가 사람보다 더 객관적일 것이라고 생각한다.
하지만 AI는 자신이 학습한 데이터를 바탕으로 판단한다.
예를 들어 사회에 남녀차별이 남아 있다면, AI도 그 데이터를 배우면서 같은 편향을 가질 수 있다.
특정 직업이나 인종에 대한 편견이 많다면 AI 역시 그것을 자연스러운 정보로 받아들일 가능성이 있다.
즉,
AI는 차별을 만드는 것이 아니라, 인간 사회의 차별을 그대로 배우는 것이다.
인간과 AI의 가장 큰 차이
이 부분을 읽으며 가장 오래 생각하게 된 것은 인간과 AI의 차이였다.
AI는 엄청난 양의 데이터를 학습할 수 있다.
하지만 인간처럼 경험하고, 공감하고, 스스로 옳고 그름을 깨닫지는 못한다.
사람은 잘못된 행동을 보며 반성할 수 있고, 타인의 아픔을 이해하며 생각을 바꿀 수도 있다.
반면 AI는 데이터 속에 있는 패턴은 배울 수 있지만, 왜 그것이 옳고 그른지는 스스로 깨닫지 못한다.
그래서 AI에게 가장 중요한 것은 얼마나 많은 정보를 배우느냐가 아니라,
무엇을 배우게 할 것인가라는 생각이 들었다.
💭 내 생각
이 장을 읽으며 가장 무서웠던 것은 AI가 아니었다.
오히려 AI가 우리 사회를 너무 닮아 간다는 점이었다.
사람들이 자극적인 정보를 좋아하면 알고리즘도 그것을 배우고,
사회에 편견이 많으면 AI도 그 편견을 학습한다.
결국 AI는 인간보다 더 나은 존재가 아니라,
우리가 살아가는 사회를 비추는 거울일지도 모른다.
그래서 앞으로는 AI를 발전시키는 것만큼,
우리가 어떤 사회를 만들고 어떤 정보를 만들어 내고 있는지 돌아보는 일이 더 중요하지 않을까 하는 생각이 들었다.
다음 편 예고
5편 : AI에게 윤리를 가르칠 수 있을까?
(칸트, 자율주행차, AI윤리)