게임엔 이미 도래… "사고과정 가시화"가 최대 과제

결정·판단 이유 설명 못 해 아직은 'SF단계'

구글의 인공지능(AI) 알파고가 이세돌, 커제(柯潔) 등 세계 바둑계의 최고수들을 잇따라 완파한 것을 계기로 AI가 인류의 지능을 뛰어넘는 시대가 현실화할지에 관심이 모아지고 있다.

AI가 인류의 지능을 넘어서는 전환점, 또는 그것이 초래할 변화는 '기술적 특이점"(Technological Singularity)이라고 불린다. 그냥 '싱귤래리티'로 부르기도 한다. 미국 미래학자 레이 커즈와일(Ray Kurzweil)이 2005년 '특이점이 온다'(The Singularity Is Near)라는 저서에서 처음 사용했다.

바둑과 장기 등의 '보드게임'에는 이미 이런 시대가 도래한 것으로 평가되고 있다.

알파고는 당대 최고의 기사로 꼽히는 이세돌과 커제를 잇따라 완파했다, 지난 4월과 5월에는 장기 AI "포난자"가 일본 장기 명인인 사토 아마히코를 상대로 2연승했다. AI가 바둑과 장기의 패권을 장악한 것이다.

인공지능 전문가인 마쓰바라 진 일본 공립 하코다테 미래대학 교수는 "이미 싱귤래리티가 도래한 바둑계의 모습이 향후 AI 사회를 점쳐 보는 힌트가 된다"고 말했다. "AI는 인간 바둑 기사가 아직 보지 못한 묘수를 찾아내는 뛰어난 능력을 보여줬지만" AI가 그 수(手)를 결정하는 사고과정은 전혀 볼 수 없다는 것이다.

마쓰바라 교수는 이 "블랙박스"를 볼 수 있도록 가시화하는 게 가장 큰 과제라고 지적했다.

바둑의 경우 AI는 인간 대 인간, AI대 AI의 엄청나게 많은 기보를 토대로 해당 국면에서 가장 좋은 수를 학습한다. 대국 결과를 토대로 지금까지 불가능한 것으로 인식돼온 국면 국면의 형세판단을 데이터화하는 데 성공했다. 그러나 이는 논리에 따른 것이 아니라 방대한 기보를 학습한 경험을 토대로 수(手)를 선택한 것이기 때문에 인간에게 왜 그 수가 좋은 수였는지, 그 장면에서 승률이 높은 이유 등을 설명하지 못한다.

바둑이나 장기에서 다음 둘 수를 지정하듯 AI에게 실제 사회의 의사결정을 맡기면 어떤 일이 일어날까. 의료분야에서는 자기공명영상(MRI)이나 CT사진에서 병소(病巣)를 찾아내는 화상진단이 실용화 단계에 이르고 있지만, AI는 왜 그런 진단을 내렸는지는 설명하지 못한다. 마쓰바라 교수는 "진단이 100% 정확하다면 AI에게 맡길 수 있을지 모르지만, 오진이 전혀 없을 수는 없다. 이유도 모르는 채 생명을 맡길 수는 없다"고 말했다. "판단에 대한 설명능력이 필요하며 그걸 실현하지 못하면 AI의 미래는 없다"는 게 그의 지론이다.

"AI의 충격, 인공지능은 인류의 적인가"의 저자인 고바야시 마사카즈에 따르면 미국에서는 "설명하는 AI" 연구가 이뤄지고 있다. 그렇지만 "AI가 진화해 학습능력이 높아질수록 내부 구조도 복잡해져 어디서, 어떻게 정보가 전달돼 결과가 나오는지 알 수 없게 된다"고 한다.

"바둑 같은 보드 게임이 AI의 성능을 측정하는 표준이 됐다. 이제 잔재주를 시험해보는 게 끝나고 드디어 사회의 중요한 부분에 적용하는 과정에서 AI가 오류를 일으키면 기술자가 '우리도 원인을 모른다'고 하는 것만으로 끝날 수 없게 된다"는 것이다.

실제 사회에서 싱귤래리티가 일어날지에 대해서는 의문을 표시하는 전문가가 많다. 가미사토 다쓰히로 지바(千葉)대 교수(과학사)는 "명확한 룰이 정해져 있는 게임 프로그램에서는 원리적으로 모든 서술이 가능하지만, 인간사회는 그보다 훨씬 복잡하다"고 전제, "사회적으로 AI가 인간을 능가하는 건 기본적으로 공상과학(SF)의 세계"라고 말했다.

아사히(朝日)신문은 "오히려 걱정되는 건 AI의 신격화"라고 지적했다. 예를 들어 정치가가 프로그램을 주무르면 자의적이 결과가 나올 수 있는데도 "이게 AI에 입각한 판단"이라며 정치적으로 이용하는 경우도 있을 수 있다는 것이다. 기술은 본래 누가 지배하느냐가 중요한데 그걸 속이는 게 더 무섭다는 것이다.