인공지능, 인간을 뛰어넘을까?

<슈퍼인텔리전스> 닉 보스트롬 지음, 조성진 옮김, 까치

인간을 위협하는 신기술은 늘 기대와 우려의 2가지 시선이 존재한다. 2,000여 년 전 철기가 발명됐을 때도 인류 문명사에서는 공포심이 존재했으며, 20세기 들어 등장한 핵에너지는 체르노빌과 후쿠시마 원전 참사를 통해 대재앙의 가능성을 다시 한 번 깨닫게 했다. 이제 인류는 초지능과 초연결을 특징으로 한 4차산업 혁명기를 맞고 있다. 그 중심기술은 인공지능이다. <특이점이 온다>를 쓴 미래학자 레이 커즈와일 등 상당수 과학자들은 이르면 20~30년, 늦어도 금세기 내 인공지능의 인간지능 복제를 점친다.
인공지능에 대한 디스토피아적 관점을 대표하는 인물이 영국 옥스퍼드대 인류미래연구소장인 닉 보스트롬이다. 그가 2014년 출간한 <슈퍼인텔리전스>는 인공지능에 대한 세계적 논의의 기폭제가 된 책으로 꼽힌다. 그는 인공지능 중에서도 ASI 출현 이후를 그린다. 당대 인류가 경험하고 있는 인공지능은 ‘ANI’(Artificial Narrow Intelligence: 약인공지능)이다. 초기 수준의 딥 러닝 기술만으로도 이미 체스, 오셀로, 바둑 등 인류 고유의 두뇌 게임에서 인간을 뛰어 넘었다. 과학계가 개발에 집중하는 인공지능은 그보다 월등한 ‘기계 두뇌’, 인간 수준과 비슷한 AGI(Artificial General Intelligence: 강인공지능)와 인간의 능력을 넘어서는 ASI(Artificial Super Intelligence: 초인공지능)다. 기계 두뇌의 ‘숙주’는 인간이다. 주요 개발 경로는 인간 뇌를 모형화하는 ‘전뇌 에뮬레이션’, 인위적으로 인간지능 자체를 높이는 ‘반복적인 배아 선별 기술’, 인간과 기계의 결합인 ‘사이보그화’ 등 세 갈래로 압축된다.
저자는 기존 학계 용어인 ‘싱귤래리티’(기술적 특이점) 개념이 아닌 ‘지능 대확산’이라는 개념으로 기계지능 혁명에 접근한다. 인공지능은 지능지수(IQ)만 높은 단순한 기계는 아니다. 인간지능에 도달한 인공지능은 자가발전을 통해 인간을 뛰어넘는 초지능으로 도약할 수 있다. 인공지능이 어느 시점부터 외부 환경을 자기 뜻대로 재 구성하고, 지능 증폭 능력에 맞춰 물리적 실행장치를 구축해나갈지 예측 가능하다.
이 책이 예언하는 과학적 시나리오를 보면 초지능이 지구 모든 생명체의 미래를 좌지우지할 가능성, 즉 ‘존재적 재앙’을 일으키지 않을 것이라고 확신할 근거는 없다. 저자는 하나의 초지능이 아닌 여러 초지능이 동시 다발적으로 출현해 경쟁하고, 서로 상충된 목표로 충돌할 가능성도 짚는다. 인간이 선(善)의 의지로 초지능에게 요구하는 목표조차 악의 형상으로 구현될 수 있다. 그리고 역으로 “인간들이 왜 존재해야 하느냐”고 인류에게 묻는다면 어떨까. 저자가 ‘초지능’적 존재들을 통제하기 위해 인류가 할 수 있는 일들이 무엇일지 숙고하자고 외치는 이유다.

휴머니즘에서 답을 찾다

<지능의 탄생> 이대열 지음, 바다출판사

이대열 미국 예일대 석좌교수의 <지능의 탄생>은 인공지능에 대한 인간의 우월적 지위를 낙관하게 한다는 점에서 조금은 편안하다. 그는 생명과 유전자의 관점에서 지능을 본다. 지능의 기원과 진화 과정에 비춰보면 오직 생명체만이 지능을 가지며, 무엇보다 지능의 핵심인 인간의 두뇌는 ‘자기 복제’된다는 설명이다. 모든 생명체는 소멸된다. 저자는 이를 열역학 제2법칙(엔트로피 증가)으로 설명한다. 생명체는 시간이 흐르면 형태를 잃고 무너지는, 숙명적으로 엔트로피의 증가를 경험한다. 생존하기 위해서는 결국 번식, 즉 자기 복제를 할 수밖에 없다. 진화는 원본보다 더 뛰어난 복사본의 출현 과정이다. 이 대목에서 리처드 도킨스의 <이기적 유전자>를 떠올리게 된다. 생명의 자기 복제 명령을 내리는 건 이기적인 유전자(DNA)이며, 지능은 그 명령을 효율적으로 실행하는 조력자라는 관점을 공유하고 있기 때문이다.
초지능적 인공지능은 자기 복제의 한계를 극복해야 한다. 인간이 인공지능의 자기 복제를 차단하면 인간의 또 다른 기계적 발명품에 머물게 된다. 물론 이대열 석좌교수 역시 언젠가는 인공지능이 인공생명을 확보하는 단계로 진화될 가능성을 조심스럽게 열어둔다. 바로 “인공지능을 장착한 기계가 자기 복제를 할 수 있게 되면 그것이 인공생명의 시작”이며 “인공지능은 진정한 의미에서 지능의 자격을 갖추게 될 것”이라는 얘기다.
<슈퍼인텔리전스>와 <지능의 탄생>은 인간의 진화와 인공지능의 미래를 다양한 관점에서 그린다. 여전히 숙고해야 할 부분이 있다. 바로 우리 자신, 인간 본성에 대한 통찰이다. 기계와 다른 인간만의 차별적 본성, 이타성과 자유의지 등을 포기하지 않아야 한다는 도덕률이다. 인류와 인공지능의 공존은 인류 문명에 대한 진보와 헌신, 휴머니즘이라는 가치를 사유하는 데서 출발해야 하지 않을까.