포스트 휴먼이 몰려온다.(2020) -신상규, 이상욱, 이영의, 김애령, 구본권, 김재희, 하대청, 송은주-

<기계지능, 사이보그, 인공자궁, 소셜로봇, 가짜뉴스, 기본소득, 마이크로워크, 인류세> 8명의 저자들의 묶음 책이다. 2020년 출간이므로 그 이전에 강연이 있었을 것으로 예상된다. 4년이 지난 지금도 이슈들의 중요도가 달라진 것이 없어 보인다. 

이 책에는 많은 내용들이 나오지만, 내게 기억이 남는 몇가지만을 남겨두려고 한다.

내가 이 책을 읽기전까지 읽어오면서 바라본 미래는 디스토피아에 가까웠다. 인공지능, 생명공학, 로봇공학을 통해서 유발 하라리가 "호모데우스"에서 얘기했듯이 자본주의의 문제점으로 인해서 빈부의 격차가 커지다가 종의 분화가 일어날 것이라고 생각했다. 사이보그가 되던, 생체이식을 받던, 자신을 기계로 복제를 하던 돈을 가진 사람은 영생과 비견될만큼 오랜 시간을 살 수 있게 될 것이고, 더 나은 인공지능을 보유할 수 있는 사람들과 더 낮은 단계의 권한을 갖는 인공지능을 활용하는 사람과 인공지능을 활용하지 못하는 사람의 단계별로 계층이 나눠질 것이라고 예상했다.

하지만, 여러 저자들의 글을 읽으면서 공포는 무지에서 온다는 것을 다시 한번 느끼게 되었다. 인공지능이 어떻게 학습하는지 인공지능이 작동하도록 하기 위해서 데이터 수집과 레이블링을 위한 마이크로워크가 저소득 국가에서 이뤄지고 있는 것을 몰랐다. 인공지능이 곧 특이점을 넘어서 스스로 생각하고 판단하면서도 인간보다 처리속도가 훨씬 빠른 도구 이상의 경쟁자가 될 것이라고 생각했다. 하지만, 이 생각도 인공지능은 의식이 없고, 목적이 없고, 어떻게 무엇을 왜 하는지 모르고 일을 한다는 것을 듣고 내가 정말 무식했다는 것을 인식하게 됐다.

이 책의 전반적인 내용들은 현재의 문제점을 얘기하지만 미래를 유토피아적으로 보는 따뜻한 시선을 느낄 수 있다. 우리가 지금 잘하면 더 나은 미래를 만들 수 있다는 희망을 품고 있는 책이라서 좋았다.

기술과 경쟁하기보다는 기술과 공존하고 협력할 방법을 찾아야 한다는 것과 동물과 인간의 의미는 인간과의 관계를 맺는 것에 따라서 달라질 수 있다는 것은 내가 앞으로의 유토피아적 삶을 위해서 나아가야 할 방향을 제시해주는 것 같았다.

재미있게도 가짜뉴스는 전에 읽었던 포스트트루스의 내용과 연결이 된다. 기계지능, 사이보그 등은 유발하라리의 호모데우스와 연결이 되는 것 같다. 한국의 지식인들을 통해서 현대의 이슈가 되는 과학쟁점들을 살펴볼 수 있다는 점에서 이 책은 대단히 선명하고 좋았다.

한 챕터 한 챕터를 다시 읽고 좋은 문구와 생각거리를 적을 수도 있을 것 같지만, 대략적인 이미지만을 담아두고 다음으로 넘어간다.

돈오와 점수라는 불교의 수련법이 있다고 하는데, 난 하나에서 큰 깨달음, 갑작스러운 깨침을 얻는 돈오보다는 점진적으로 조금씩 쌓여서 달라지는 점수라는 방식이 맞는 것 같다.

---

우리는 물질뿐 아니라 생명이나 정신마저도 우리 마음대로 조작하고자 하는 시대를 살게 되었다. ~~~ 지금이야말로 우리 인간이 새로운 기술 진보를 어떻게 수용하고 적응하며 스스로 변화를 도모할 것인지에 대한 지혜가 필요한 때이다. (P7)

포스트휴먼이 도래한다는 것을 근대가 끝났다는 의미로 해석한다. 근대의 핵심은 휴머니즘인데, 이때 말하는 휴머니즘은 대체로 인간중심주의 혹은 인간종족주의를 의미한다. (P16)

포스트휴먼의 미래를 상상하는 일은 새로운 가치관과 실천적 지향을 통해 지금과는 다른 삶과 관계의 방식을 발명하는 것과 다르지 않다. (P23)

기가 막힌 수행 능력과 그 수행 과정을 자각하고 경험하는 일은 본질적으로 관련이 없다. ~~~ 램브란트 스타일의 그림을 제작한 인공지능은 자기가 뭘 하는지 전혀 모른다. (P37)

인간과 협력이 전제되어야 인공지능이 지능을 발휘한다는 점 외에도 인공지능과 인간의 작업은 결과물만 비슷할 뿐 과정은 전혀 다르다는 점에 주목해야 한다. (P40)

특정 대상에 어떤 개념을 적용하는지가 우리 사고의 흐름을 좌우한다. ~~~ 인공지능은 아직 욕구도 없고 목적도 없다. 모두 인간이 주어야 한다. 그렇기에 인간지능보다는 매우 뛰어난 자동기계라고 생각하는 것이 더 적절하다. (P42)

최근에는 인도 갠지스강에도 법인 자격이 일부 부여되었다. (P51)

이 책에서 인간은 태양계 너머 더 큰 우주로 진출하는 과정에서 자신의 몸과 마음을 적극적으로 변형한다. 인간은 지구에서 진화한 존재라 우주여행에 적합하지 않은 존재이기 때문이다. (P55)

사이보그 : 사이버네틱스(cybernetics)와 생명을 갖는 것을 뜻하는 유기체(organism)의 합성어이다. (P61)

단순히 몸을 변형하여 사이보그가 될 수 있지만 이보다 더 중요한 것은 새로운 문화를 개척하고 창조하는 문화적 사이보그다. (P70)

새로운 천년에서 초인의 임무는 '신으로부터 인간의 해방'이 아니라 '인간으로부터 신의 해방'이다. (P82)

아이보 장례식 : 물리적으로 보면 기계에게 장례식은 필요 없죠. 다만 인간의 마음은 로봇에 반영되어 있죠. 그게 인간의 흥미로운 부분이죠. 그것이 인간의 아날로그적인 면입니다. (P118)

데이비드 흄 : 사실은 당위에 관한 판단을 논리적으로 함축하지 않는다고 생각한다. (P129)

개, 고양이, 돼지 : 우리는 오직 그들과 맺고 있는 다양한 관계의 맥락이라는 문법 속에서만 그들이 어떤 존재인가에 대해 이야기할 수 있다. (P135)

로봇의 도덕적 지위라는 것도 실제로 그것들이 처해 있는 맥락과 그 속에서 이루어지는 상호 작용의 관계를 통해서 보아야 한다. (P136)

감정에 문제가 생기면 기본적 의사결정이나 합리적 판단 능력에 문제가 생겼다. (P139)

뒤무셀 : 우리는 감정적인 교환 행위를 통해서 서로 이견을 조율하며 관계를 맺는 것이다. (P141)

우리가 어떤 가치관, 어떤 이념, 어떤 규범을 가지고 세상을 바라보느냐 하는 것은 곧 다른 존재, 단순히 로봇이 아니라 로봇과 각자 다른 관계를 맺고 있는 다른 '인간'을 우리가 어떻게 보느냐의 문제이다. (P144)

인공지능은 인간만을 인식과 사회적 행동의 주체로 여겨온 오랜 인식과 사회 체계에 새로운 차원의 관점을 요청하고 있다. 사회혁명에 비견되는 전면적인 관점 전환과 새로운 사고의 틀을 요구한다. 시민이라는 주체의 등장과 비교 (P157)

단계적 수식 프로그램인 알고리즘은 세부적 코드마다 실제로는 구체적인 가정과 선택을 필요로 한다. 이 과정에 개발자의, 성향과 판단, 사회적 압력이 알게 모르게 개입한다. ~~~ 조지아공대 기술사학자 멜빈 크랜즈버그 "기술 자체는 좋은 것도 나쁜 것도 아니지만, 중립적이지도 않다." (P165)

도구적 인간이 끝없이 효율과 편리를 추구한 결과, 더 강력하고 효율적인 도구를 갖게 되었지만 그에 대한 통제는 소수에게 넘어갔고 도구적 인간은 도구의 지배를 받는 종속적 처지가 되고 있다.  (P169)

작업이야말로 노동으로 환원될 수 없는 인간적 활동의 독특성과 창의성을 보여 주는 것이다. ~~~ 아렌트에 따르면, 인간다운 활동의 고유성은 결국 노동에 있는 것이 아니라, 노동을 넘어선 '작업'과 '행위'에 있다. (P183)

노동으로 환원되지 않는 작업 능력과 행위 능력을 되찾아야 할 것이다. 인공지능 기계가 할 수 있는 노동을 넘어서, 또 인공지능 기계가 할 수 없는 사유 능력과 공감 능력을 토대로, 포스트노동은 지속 가능한 가치를 창조하는 작업과 공적 공간에서 토론할 수 있는 정치적 행위를 담아 내야 할 것이다. (P184)

노동 소외의 문제는 기술의 자동화 그 자체에 있는 것이 아니라 기술성의 발달 수준에 맞추어 인간과 기술의 적합한 관계방식을 찾아내는 것에 그 해법이 있다. (P188)

비판적 사고력과 앎의 능력을 키우고, 무관심의 경제를 '기여경제'로 전환할 수 있는 정치경제적 토대를 마련하기 위해 노력해야 한다고 주장한다. (P194)

오티움(otium) : 라틴어로 유유자적, 책을 읽고 사색하고 글을 쓰며 평화롭게 대화를 나눌 수 있는 품격 있는 여가를 의미. 스콜레(schole) : 학교의 어원으로 일하지 않고 한가하게 공부하는 것을 뜻한다. (P200)  

인공지능을 대신해 유해한 콘텐츠를 실시간으로 제거하는 숨은 인간노동이 있기 때문이다. 인공지능의 커튼 뒤에는 보이지 않는 인간들이 인공지능의 모자란 능력을 채워 주며 인공지능의 일을 부지런히 도와주고 있다. (P215)

내 말을 알아듣는 인공지능 스피커 뒤에는 음성을 녹취해 인공지능을 훈련시키는 보이지 않는 노동자들이 있다. ~~~ 하루 10달러 ~~~ 저개발국 교육받은 노동자 (P220)

혹시 인공지능이 계속 발전하면 인공지능이 데이터 수집과 레이블링 작업까지 스스로 할 수 있지 않을까? 단언할 수는 없겠지만 현재의 딥러닝 기술은 그렇게 할 수 없을 것 같다. (P227)

인간은 늘 필요하다. ~~~~ 규칙이 변화무쌍하고 데이터가 거의 없는 영역에선 인공지능이 무력하지만, 인간은 적은 데이터로도 세계에 대한 모델을 구축하고 추론할 수 있다. ~~~ 우리는 인간의 쓸모없음이 기정사실인 것처럼 미래를 그려 내는 상상과 내러티브에 맞서야 한다. (P230)

생태학의 기본명제 : "모든 것은 모든 것과 연결되어 있다." (P251)

포스트휴먼이 된다는 것은 ~~~~ 인간이 투공성(???)의 존재이며 주변 환경과 모든 비 인간 존재들과 연결되어 운명을 함께하는 존재임을 깨닫는 것이다. (P258)