#498 'AI에 대한 서사'를 만드는 것이 필요하다

[이번 주의 책] 마크 코켈버그, 《AI 윤리에 대한 모든 것(AI Ethics)》

지난주의 책인 《마르크스 이해하기》는 한 주나 두 주 더 읽고 정리해야 할 것 같아. 그래서 이번 주의 책은 함께 읽을 것을 골랐는데, AI와 관련해 내가 읽고 싶었던 주제, 내용에 정확히 부합하는 책을 찾았어.

《AI 윤리에 대한 모든 것》, 마크 코켈버그(지음), 신상규·석기용(옮김), 아카넷, 2023.

이전에도 AI에 대한 책을 몇 권 읽어보려고 했지만 몇 가지 걸림돌이 있었지.

• 컴퓨터공학과 연관된 내용은 이해도 못하고 크게 관심도 없음

• AI 열풍에 편승한 ‘사기꾼’들이 쓴 책이 많음

• 내 현실과 크게 동떨어져 있는, 별 상관 없는 내용으로 차있음

• 레이 커즈와일, 닉 보스트롬 같은 ‘AI 셀럽’들의 결코 동의할 수 없는 주장을 걸러내고 싶음

아직 다 읽지는 못했지만, 이 책은 저 걸림돌들을 모두 해결해주는 내용으로 시작하고 있어.

이 책은 AI의 미래에 대한 영향력 있는 서사와 인간의 본성과 미래에 관한 철학적 질문에서부터 책임과 편견에 대한 윤리적 우려, 그리고 기술로 인해 제기되는 현실 세계의 실천적인 문제를 정책을 통해 처리하는 방법에 이르기까지, 폭넓게 이해된 AI의 윤리적 문제에 대한 좋은 개괄을 가능한 한 너무 늦지 않게 독자에게 제공하는 것을 목표로 하고 있다. (p.22)

저자는 특히 AI에 대한 서사¹를 만드는 것이 필요하다고 강조하고 있어.

이러한 생각이 영향력이 큰 이유는 아마도 우리의 집단의식에 존재하는 인간과 기계에 대한 깊은 우려와 희망을 건드리기 때문일 것이다. 이러한 특정 생각을 거부하든 거부하지 않든 간에 이것들은 인간과 기계에 대한 우리의 관계를 이해하려는 인류 문화와 역사 속 허구적 서사와 분명하게 연결되어 있다. 이 생각의 일부를 맥락화하고 더 잘 이해하기 위해 이러한 서사를 명시적으로 만들 필요가 있다. 더 일반적으로는 서사 연구를 AI 윤리에 통합하는 것이 중요하다. 예를 들어 특정 서사가 널리 퍼진 이유와 그 서사가 누구에 의해 만들어졌는지, 누가 그로부터 혜택을 받는지 이해하는 것이 중요하다(Royal Society, 2018). 이는 또한 AI의 미래에 대한 새로운 서사를 구성하는 데 도움이 될 수 있다. (pp.30-31)

“인간과 기계에 대한 우리의 관계를 이해하려는 인류 문화와 역사 속 허구적 서사”들의 사례로 《일리아스》, 피그말리온 신화, 알렉산드리아의 헤론의 《오토마타》, 골렘 전설, 프로메테우스 신화, 《프랑켄슈타인》, 연극 〈R.U.R.〉, 영화 〈2001: 스페이스 오디세이〉, 〈엑스 마키나〉, 〈터미네이터〉 등을 들고 있어. 각 사례에 대한 설명은 짧지만 충분히 납득할만한 연관성을 제시해.

이제 저자는 이러한 인간과 기계의 “경쟁 서사를 뛰어넘어 AI나 유사한 기술의 미래를 이해하는 보다 내재적인 방법을 찾을 수 있을까?”라는 질문을 던지며, “탈출구”를 제안하고 있어. (p.41)

“첫째, 우리는 서구 문화 바깥에서 기술에 관한 비프랑켄슈타인적 서사와 비플라톤적 사고방식을 찾아볼 수 있다. … 따라서 서구 문화 너머(또는 자연 종교가 있는 서양의 아주 오래전 과거)를 살펴보는 것이 AI의 미래에 대한 주류 서사들을 비판적으로 평가하는 데 도움이 될 것이다.”

“둘째, 과장된 이야기를 넘어서고 AI에 대한 윤리적 논의를 먼 미래에 대한 꿈과 악몽으로 제한하지 않기 위해서 우리는 1) 철학과 과학을 사용하여 이러한 시나리오와 논의에서 중요한 역할을 하는 AI와 인간에 대한 가정을 비판적으로 검토하고 토론할 수 있다. … 2) 현존하는 AI는 무엇이며 오늘날 다양한 애플리케이션들에서 그것이 어떤 역할을 하고 있는지 자세히 살펴볼 수 있다. 3) 오늘날 적용되고 있는 AI가 제기하는 보다 구체적이고 시급한 윤리적, 사회적 문제에 대해 논의할 수 있다. 4) 가까운 미래를 위한 AI 정책을 조사할 수 있다. 5) 현재 공적 담론에서 AI에 초점을 맞추는 것이 우리가 직면한 다른 문제에 비추어 도움이 되는지, 지능에만 초점을 맞춰야 하는지에 대해 질문할 수 있다. (pp.41-42)

그리고 책의 이후 내용들은 이 제안들을 논증하고 있어.

책 분량은 264페이지여서 금방 읽고 카드로 정리할 수 있을 것 같아. 입문 역할을 하는 책들은 이렇게 짧게 정리되어 있어야 더 신뢰가 가더라고. ‘Very Short Introduction’ 시리즈처럼 말이지.

이 책의 저자인 마크 코켈버그의 책들을 더 읽어보고 싶어서 찾아봤더니 이미 국내에 몇 권이 번역되어 나와있더라. 《뉴 로맨틱 사이보그》 (2022), 《인공지능은 왜 정치적일 수밖에 없는가》 (2023), 《그린 리바이어던》 (2023) 등이 있는데, 작년과 올해에 집중적으로 출간된 것을 보니 역시 ‘AI 열풍’ 때문인 것 같지? 독자 입장에서는 나쁠 것 없지.

1. 혹시 ‘서사’라는 개념이 어렵게 느껴지는 분들은 이 내용을 참고하시길. 나도 예전에는 ‘이야기(narrative)’라는 단어를 놔두고 굳이 이렇게 거창하게 느껴지는 용어를 써야하나라는 반감이 있었는데 규정할 수 있는 내용에 차이가 있음.