맥스 테그마크 지음
백우진 옮김
동아시아 펴냄
2017년 12월 06일 출간
AI 의 발전은 그 특성상 누적적이고 지수적이다. 그런 특성으로 인해서 어느 시점에 우리의 지능을 뛰어 넘는 초지능이 나타날 수도 있다. 그런 초지능이 나타났을때, 우리는 어떻게 될 것인가? 에 대한 고민을 하게 하는 책이다.
자자가 이야기 하는 라이프3.0 은 소프트웨어와 하드웨어 모드 업그레이드 할 수 있는 상태를 말한다. 우리 인간은 뇌를 가지고 있어서 소프트웨어를 업그레이드 가능하지만, DNA에 의해 구성된 하드웨어의 제약을 받는다. AI의 최종적인 목표는 소프트웨어와 하드웨어를 모드 설계하고 끊임 없이 업그레이드 할 수 있는 무엇이 되는 것일 것이다.
저자가 이야기 한 "초지능 AI의 진짜 위험은 악의가 아니라 능력이다."라는 주장은 진지하게 고민해 봐야할 사항 같다. 유발 하리리가 이야기 했던 것처럼 호모 사피엔스는 새로운 힘을 얻는 데는 극단적으로 유능하지만 그것을 우리의 행복으로 바꾸기에는 미숙하기 때문일 것이다. 초지능 AI의 목적이 우리의 목적과 같게 할 수, 그리고 초지능 AI가 그 목적을 계속 유지하게 할 수 있을 것인가? 우리의 삶의 목적은 무엇인가? 등 기술적 문제뿐만 아니라 우리 자신에 대한 이해와 목표에 대한 고찰이 필요하다고 저자는 이야기 한다.
"우리가 AI를 어떻게 개발할지 현명하게 결정하려면, 우리 인간은 전통적인 전산 과제뿐 아니라 철학의 고도 난제도 정면으로 마주할 필요가 있다. 우호적인 AI를 프로그램 하기 위해 우리는 생명의 궁극적인 의미를 파악해야 한다."
우리는 의식이 있는 (아마도 유일한) 존재이다. 의식의 존재로 우주가 우리에게 의미를 부여하는 것이 아니라 우리가 우주에 의미를 부여하게 되는 것이라는 것이다. AI 에 대한 고찰에는 그 "의미", 우리 생명체의 "목표"가 같이 고찰되어야 한다고 저자는 강조한다.
