#499 "AI는 패턴을 인식하는 데 능숙하지만 지혜를 기계에 위임할 수는 없다"

[이번 주의 책] 마크 코켈버그, 《뉴 로맨틱 사이보그》 (2022)

먼저 지난주에 읽은 책 《AI 윤리에 대한 모든 것》에 대해 얘기해보자면, 얇지만 꽉 찬 내용 때문에 정리할 게 많았어. 인문학과 기술 영역을 연결해서 AI 윤리와 관련된 거의 모든 쟁점들을 개괄하고 있다보니 흥미로운 내용이 많더라고. 카드로 만들 내용을 ‘엄격히 선별’하는 데 공을 들였음에도 36장이나 되네. 👾 지식정원에 올려놨으니 참고하시면 됩니다.

굽이굽이 여러 논의와 설명들을 거쳐, 저자의 최종 결론은 이거야.

우리 시대의 큰 문제를 해결하는 데 우리의 성공 여부는 추상적인 지능(인간 지능과 인공지능)과 구체적인 실천적 지혜의 결합에 달려 있을 것이다. 후자는 기술에 대한 우리의 경험을 포함하여, 구체적이고 상황적인 인간의 경험과 실천을 바탕으로 개발된다. AI의 향후 발전이 어떤 방향으로 나아가든 후자 종류의 지식과 학습을 개발하는 과제는 우리의 몫이다. 인간이 그것을 해야 한다. AI는 패턴을 인식하는 데 능숙하지만 지혜를 기계에 위임할 수는 없다. (p.230, 강조는 내가 함)

어찌보면 당연하고 익숙한 주장처럼 보이지만 앞의 논증들에 동의하다면 이것이야말로 ‘정당한’ 결론이라고 생각해.

초지능, 일반 인공지능(“인간이 할 수 있는 모든 인지 작업을 수행하는 AI”), 트랜스휴머니즘 등의 주장이 현시점에서는 고려할 가치가 없다는 것도 알게 되고, 무엇보다 중요한 것은 AI에 대한 논리는 곧 인간에 대한 논의라는 것, AI 윤리를 위한 새로운 서사를 만들어야 한다는 것이었어.

이는 AI가 무엇이며 어떤 존재가 되어야 하는지에 관한 것만큼이나 인간은 무엇이며 어떤 존재가 되어야 하는지에 관한 논의이기도 하다. (p.46)

이 책을 읽고 포스트휴머니즘에 대해 주목하게 됐고, 어렴풋이 이해했던 행위자-네트워크 이론(Actor-Network Theory), 짐작도 가지 않던 도나 해러웨이의 주장 들에 대해 힌트를 얻을 수 있었어.

다음 책은 같은 저자의 《뉴 로맨틱 사이보그》라는 책을 선택했어. 《AI 윤리에 대한 모든 것》에서 좀 더 심화된 내용을 읽어보고 싶기도 했고, 요즘 나를 계속 따라 다니는 키워드 중 여러 개 — 게임, 서사, 낭만주의 — 와 연결되어 있기도 해서 말이야.

《뉴 로맨틱 사이보그: 낭만주의, 정보기술, 기계의 종말》, 마크 코켈버그(지음), 김동환·최영호(옮김), 컬처북스, 2022.

《뉴 로맨틱 사이보그》는 기술을 낭만주의와 연결한다. … (1) 게임과 삶의 형태, (2) 서사, (3) 낭만주의의 개념을 빌어 세 가지 방법으로 기술과 문화 사이의 관계를 개념화하는 데 주력했다. …

기술은 그 실제 사용과 관련해 고려되어야 하고, 이런 기술 사용은 항상 게임과 우리의 삶의 형태, 즉 사회적·문화적으로 상황화된 우리의 행동 방식과 직결될 수밖에 없다는 것이 나의 주장이다. …

기술 윤리와 서사 사이의 관계를 어떻게 개념화할 수 있는지를 연구했다. … 텍스트와 유사하게 기술도 그 자체로 이야기를 하고 우리의 일상세계를 이루고 있다는 것을 역설했다. …

기술에 대한 현대적 사용과 사고방식이 역사적으로 발전한 사고 패턴, 특히 기계에 대한 우리의 낭만적 사고에 깊이 영향을 받는다고 주장했다. …

《뉴 로맨틱 사이보그》는 현대 기술이 (기술)낭만주의의 영향을 받는 것으로 해석 가능한 하나의 틀을 제공한다. …

이 책에서 나는 우리가 [덜 이원적인 비-근대와 비-서양의 사고방식을 탐구하는] 두 번째 경로를 수용하고, 아무리 어렵더라도 기계 사고(machine thinking), 즉 근대-낭만적 사고를 넘어서는 시도를 해야 한다고 제안했다.

(‘한국어판 저자 서문’ 중, 강조는 내가 함)

5백 페이지 정도 되는 책이라 이번주에 다 읽을 수 있을지는 모르겠지만, 재미가 내 엉덩이를 차주길 바랄 뿐.