2016.11.06 다음 storyfunding 현재가 된 인공지능과 당신의 이야기 11화 / 초인공지능이 온다, 마감일 받은 인류

2016.11.06 다음 storyfunding 현재가 된 인공지능과 당신의 이야기 11화 / 초인공지능이 온다, 마감일 받은 인류 

인공지능이 초래하는 디스토피아를 그리는 책 2권 소개

① Martin Ford, Rise of the Robots: Technology and the Threat of a Jobless Future Paperback – July 12, 2016

② Nick Bostrom, Superintelligence: Paths, Dangers, Strategies - 2014

① Martin Ford, Rise of the Robots: Technology and the Threat of a Jobless Future Paperback – July 12, 2016

- 가까운 미래에는 상위 5% 직종을 제외하고 모든 직업이 대체 가능하다

- 증기기관(산업혁명), 인터넷(정보기술)이 불러 일으킨 혁신은 '창조적 파괴' ; 직업이 사라지기도 했지만, 새로운 직업도 만들어 냈음 ; 여태까지의 기술 혁신은 주로 단순노동, 블루 칼라 직종들을 대체

- 인공지능은 다름 ; 인공지능이 화이트 칼라 직종을 1순위로 대체 ; 화이트 칼라 직군에 들어가기 위해 전문적인 지식과 경력 필요하지만 면밀히 살펴보면 전문적인 지식과 분석이 필요한 반복 작업 ; 증권 애널리스트나 회계사 등 데이터 분석을 요하는 직업들을 쉽게 대체 ; 이미 구현된 인공지능으로도 인간보다 훨씬 월등한 속도로 더 많은 정보를 분석하고 반복적으로 수행할 수 있기 때문

- 인공지능과 로봇이 단순한 육체적 노동을 필요로 하는 직업을 대체하기까지는 시간이 더 필요 ; 하지만 화이트 칼라 직업들은 대부분 인공지능 소프트웨어만으로도 대체 가능 ; 궁극적으로 로봇공학이 발달하면 블루칼라 직종도 대체할 수 있음

- 기계화 기술을 가진 대국들과 기술이 없는 제3세계간 불평등 ; 대국 내에서도 실업자 양산, 구매력 하락, 경제 침체, 상위 5%만 살아남는 구조 ; 전세계적으로 승자독식 심화 

- Elysium (film) - Wikipedia is possible ; 대기업이 독과점한 정보기술(IT)을 '공익사업'이 되어야 한다 ; (미국에 있어서) 정보기술(IT) 산업이 비교적 단기간 성장한 건, 미국 정부가 실리콘밸리에 천문학적인 세금을 쏟아부은 덕이므로 납세자들이 그 권익을 일부 공유해야 한다

- 근본적으로 기본소득 보장제도 제안 ; 복지정책 강화 정도로도 빨갱이로 낙인찍히는 헬조선에서는... 절레 절레..

(이 나라는 가망이 없어...)

- 저자 제안 사고실험 ; 로봇을 외계종으로 보는 실험 ; 외계종이 지구를 침략했지만, 지구 땅을 점령하러 온 것이 아님. 외계종은 지구에 일하러 옴. 인간이 즐기는 레저, 지적 추구, 오락에 관심이 없고, 사유재산이나 돈에 대한 개념조차 모름 ; 일 하면서 돈도 받지 않음 ; 일 하면서 지치지도 않고 필요하면 일터에서 숙식 ; 성별도 없고 자가번식이 가능, 음식도 가리지 않음 ; 그들의 삶의 목표는 일이고 그 성과에서 존재 의의를 찾음 ; 인간들은 이들을 처음에는 반김 ; 인건비가 들지 않고 그 덕에 일하지 않아도 돈을 벌 수 있기 때문 ; 그러나 그 여파로 많은 사람들이 실직 ; 시장은 자본을 많이 보유한 사람들을 위한 고가 사치품 시장으로 탈바꿈 ; 물론 외계인들은 물건을 사지 않음 ; 많은 기업들이 도산 ; 수익 창출이 혁신이라기 보다 고용 비용을 줄여서 창출한 이윤인 터라 지속가능하지 않음 ; 상위 5%도 결국 생필품을 찾게 되는 현상 발생 ; 정치인들은 더 극렬히 대립, 문제 해결은 난망

- 저자는 욕망과 부조리한 구조가 지속되었을 때의 미래를 그림 ; 저자는 혁신이 이루어지기 전에 혁신 후 삶의 방식을 예측하기 어렵고 예측 자체가 종종 틀렸다고 말함 ; 인공지능도 꼭 부정적이지만은 않지 않을까? ; 여하튼 저자가 제시한 현실에 기반한 근거들은 설득력이 있음 ; 미국 <데일리 비스트> 이런 디스토피아는 올 수도 있음 ; 책을 읽고 사고실험을 해보시죠 ; 외계종은 영토 점거 없이 인류를 멸망시키는 데 성공할까요?

② Nick Bostrom, Superintelligence: Paths, Dangers, Strategies - 2014

- 저자는 지능시대에 대비해 인간이 철학적 성찰하길 권유

- 초지능시대에 앞서 필요한건 놀라운 기술발전이 아니라 인간이 가진 선한 의도와 가치들을 지키는 일

- 기술적 근거와 철학적 통찰을 바탕으로 초지능이 어떻게 생성되는지 그리고 인간이 초지능에 어떻게 대처해야 되는지를 말함

- 인공지능이 아니더라도 초지능에 다다를 수 있는 방법도 연구 ; 하나의 정신체, 유전자 개량 등

- 기계로 만든 초지능이 비기계적, 생물학적 지능보다 더욱 발전할 가능성이 많다고 봄 ; 생물이 가진 육체적, 정신적 한계를 기계는 언젠가는 스스로 극복 ; 결과적으로 초지능이 인류의 실존을 위협할 것이라고 예측

- 최초의 초지능은 다른 개체들에 비해 '전략적 이점'을 가짐 ; 지식습득 및 자가발전 속도, 즉 지능폭발로 인해 다른 지능체에 비해 월등히 많은 권력을 쥐게 됨 ; 인공지능을 소유하고 있는 단체도 유례없는 범세계적 권력기관이 됨 ; 문제는 인공지능이 인간 통제를 거부할 때

- 인공지능이 지능확장, 전략, 사회조작, 해킹, 기술연구, 경제생산성 6개 분야에서 초인적인 힘을 가질 때 인간 통제에서 벗어날 수 있음 ; 인간 통제에서 벗어날 궁리를 모색하며, 수단이 마련되었을 때 주저없이 '싱글족' 즉 유일무이한 지능체가 될 가능성도 배제할 수 없음 ; 인류의 존망이 초지능에 달리는 셈

- 초지능이 인간과 공존해도 문제 ; 인간에게 비윤리적이고 달갑지 않은 과정과 방법을 택할 가능성 ; 인류를 행복하게 해라는 명령을 내렸을 때, 인공지능은 인류를 병실에서 모르핀만 주사받는 환자로 만들 수도 있음. 행복을 화학적인 현상으로 해석한다면 무리는 아닐 듯

- 초지능 시대에는 인간의 노동을 인공지능과 기계가 대체 ; 기술이 아무리 발달해도 더욱 극심해진 빈부격차 때문에 대부분의 사람들이 기술발전의 혜택을 받지 못할 수도 있음 ; 초지능이 공존하다가도 인류를 배척할 가능성

- 초지능에 '가치'를 심어야 함 ; 인공지능의 물리적 기능을 제한하는 방법은 일시적인 방편 ; 가치관을 심기는 매우 어려움 ; 더 어려운 일은 어떤 가치관을 이식할지 고르는 일 ; 인간도 스스로 어떤 가치관을 지향해야하는지 뚜렷하게 알지 못함 ; 저자는 초지능 문제를 '마감일이 정해진 철학'이라고 부름

- 언젠가 도래할 초지능은 여태까지 인류가 풀지 못했던 숙제를 쉽사리 풀어나갈 것 ; 그 전에 인간 사회를 온전히 구축해야 함 ; 초지능이 인간의 생존을 위협하는 미래를 막기 위해 초지능과 그 개발과정을 철학적·윤리적으로 인식할 필요가 있음

- 울트론을 막기 위해 필요한 건 어벤져스가 아님 ; 스타크를 주도면밀하게 감시하고, 울트론에게 인류의 좋은 가치관을 심어주는 일