기술과문화 - 29편] ‘ 이글 아이’네트워크와 인공지능이 빚어낸 디스토피아 시

‘ 이글 아이’네트워크와 인공지능이 빚어낸 디스토피아 4차 산업혁명의 이기(利器) 중 하나인 사물인터넷. 그러나 그것이 특정인 감시를 위해 악용될 경우 얼마만한 파괴력을 몰고 올 것인가. 이번에 소개할 ‘이글 아이(Eagle Eye)’는 그런 위험성을 보여주는 영화다. 이동훈 [과학칼럼니스트] 영화의 주역 캐릭터인 제리 쇼와 레이철 홀로먼. 네트워크에서 벗어나지 못하는 현대인에 대한 풍자일까? 할리우드 액션 영화를 얘기할 때 흔히 드러나는 편견 아닌 편견이 있다. “닥치는 대로 싸우고 부수지만 남는 것은 없는 장르”라는 것이다.‘이글 아이’ 역시 외양은 전형적인 할리우드 액션물이다. 미국의 군·관·민이 보유한 무력의 크기는 명실공히 세계 최고 수준이다. 그런 미국에서만 볼 수있을 법한 스케일의 총기와 장비가 나와 신명나는 굿판을 벌인다. 하지만 본지의 독자라면 그것 말고도 주의 깊게 볼 것이 있다. 영화의 주인공 제리 쇼(샤이아 러버프 분)는 스탠퍼드대를 중퇴하고, 월세도 밀려 있는 꽤 불쌍한 친구다. 그러나 공군 장교로 일하던 쌍둥이 형 이선이 갑자기 죽고 나서부터 그의 삶에 알 수 없는 일이 마구 벌어진다. 은행 계좌에는 난데없이 거액의 돈이 입금돼 있고, 집에는 대량의 무기가 배달된다. 그 와중에울리는 휴대전화. 휴대전화 저편의 여자는 미국 연방수사국(FBI) 요원이 자신을 체포하러 오고 있다며 도망치라고 말하는데…. 기계의 반란, 걱정할 부분인가? 영화가 계속 진행되면서 결국 드러난 이 모든 사태의 배후는 인공지능(AI)이었다. 미 국방부는 비밀 프로젝트인 정보수집 슈퍼컴퓨터 아리아(ARIIA·Autonomous Reconnaissance IntelligenceIntegration Analyst·자율 정찰 지능 통합 분석자)를 통해 국방 정보 수집 및 분석을 하고자 했다. 얼마 전미 대통령은 아리아의 만류에도 불구하고 해외에서 무인기로 무고한 민간인을 테러범이라 오인해 표적 살해했다. 이로 인해 미국에 대한 보복 테러가 발생하자 아리아는 미 대통령을 비롯한 정부 내각 전원을 미국의 안보를 위협하는 적으로 간주, 이들을 폭탄 테러로 제거할 계획을 꾸몄다.  그리고 그 계획의 실행에 제리 쇼와 레이철 홀로먼(미셸 모나한 분)을 강제로 끌어들인 것이었다. 따지고 보면 이 작품의 주제도 결국 카렐 차페크가 쓴 ‘로숨의 만능 로봇’ 이후 여러 SF 작품에서 계속 반복돼 온 레퍼토리인 ‘기계의 반란’이다. 다시 소분류를 해보자면 AI에 의한 반란 정도가 되겠다. 인간보다 더 바둑을 잘 두는 AI가 나와 있는 지금, 이런 설정은 수많은 사람들의 경각심을 불러일으킨다. 인간보다 더욱 우수한 인지적 능력을 지닌 AI가 인간을 제압하려거나 멸종시키려 한다는 설정 말이다. 또는 AI가 너무 열심히 일해서 주어진 목표만을 이루기 위해 그 외의 모든 것을 다 희생시켜버릴 거라는 설정도 요즘 인기를 얻고 있다. 이 영화의 설정은 이 두 가지를 적절히 버무려 놓은 듯하다. 그러나 냉정히 따져 보면, 이런 류의 이른바 ‘디지털아포칼립스’는 사실상 개연성이 없다. 그런 시나리오의 첫 번째 오류는 지능과 욕구를 혼동한 것이다. 지능은 목표 달성, 즉 욕구를 충족하기 위해 새로운 수단을 사용하는 능력이다. 그리고 인간의 지능과 욕구는 상당히 밀접한 관련을 갖고 있다. 그것은 인간이 다윈식 자연 선택, 즉 경쟁을 통해 진화해 온 생물이기 때문이다. 그러나 그렇다고 지능의 본질에 대해 헷갈리면 안 된다. AI는 진화를 통해 만들어진 것이 아니라, 인간의 목표 달성에 도움을 줄 목적으로 인간이 설계한 도구일 뿐이다. 따라서 그 자체는 욕구를 가질 수 없다. 두 번째 오류는 AI의 개념을 오해한 것이다. 어떤문제나 풀 수 있고 어떤 목표에도 도달할 수 있는 무한한 힘의 연속체이자 기적의 만병통치약으로 본 것이다. 이러한 오류 때문에 ‘만약 AI가 인간을 능가한다면 어쩌나’ 식의 타당하지 않은 질문이 나왔고, 영화 속 아리아와 같은 전지전능한 인공 일반 지능(Artificial General Intelligence·AGI)을 상상하게 만든 것이다. 그러나 실제의 AI는 절대 이만한 힘을 얻을수 없다. 그리고 AI는 기본적으로 ‘멍청한 하인’이다. 즉, 준비가 돼 있지 않고 명확한 요건을 갖추지 않은 문제는 해결하기 어렵다. 그리고 AGI라는 개념 자체가 애매모호한 데다 상업성이 낮아 아직 누구도 만들려고 하지 않는다. 설령 AGI가 만들어져 의지를 갖고 스스로의 능력을 높이기 위해 움직인다 해도 인간의 도움 없이는 어떤 물리력도 행사할 수 없다. 세 번째 오류는 지능의 개념 자체를 잘못 이해한 것이다. 지능은 상충하는 여러 목표를 가장 잘 만족시키는 선택지를 찾아내는 능력 그 자체다. 국가 안보를 위해 국가의 수뇌부를 제거하겠다는 발상을 하는 수준의 AI라면 그 자체로 이미 불량품이다. 그리고 품질 테스트도 거치지 않은 물건을 국가 안보를 위해 사용할 나라는 없다. 사물인터넷의 위험성을 미리 인식해야 오히려 이 영화에서 진지하게 받아들여야 할 현실적인 위험은 네트워크, 즉 정보통신망을 통한 감시와통제다. 이미 우리가 사는 사회는 고도로 네트워크화돼 있다. 네트워크에 접속하지 않으면 일상생활 자체가 불가능하다. 현대인들은 스마트폰과 PC를 통해 자발적으로 네트워크에 접속하고 있다. “그 사람의 쓰레기통을 보면 그가 어떤 사람인지 알 수 있다”는 가볼러지(Garbology·쓰레기학)의 금언도 있지만, 이제는 쓰레기통 대신 그 사람의 네트워크 사용 기록을 보면 되는 시대가 열린 것이다. 그러한 네트워크를 누군가가 마음먹고 해킹에 성공하는 순간, 공격자에게는 무한한 권력이 주어질 것이고 피해자는 끝도 없이 추락할 것이다. 구태여 각국 정보기관의 사찰 사례까지 갈필요도 없다. 당장 우리 주변에도 가게에 부착된 방범용 폐쇄회로(CC)TV 영상을 스마트폰으로 보며 직원감시용으로 악용하는 사장님들이 계시지 않은가. 하물며 모든 사물이 컴퓨터화되는 사물인터넷의 시대가 다가오고 있다. 모든 사물들이 컴퓨터화된다는 것은, 그 사물들의 사용 기록이 데이터화돼 네트워크에 올려지고, 가치를 창출해내는 정보로 가공될 수 있다는 의미다. 이를 역으로 보면, 스마트폰과 PC를 버려도 인간이 네트워크에서 절대 헤어 나올 수는 없고, 24시간 내내 네트워크에 정보를 제공하며 네트워크의 통제를 받을 수밖에 없다는 것이다. 마치 이 영화의 주인공들처럼 말이다. 모든 기술이 그러하듯이 사물인터넷 역시 우리에게 여러 가지 장밋빛 미래를 제시하고 있다. 그러나 네트워크를 통해 모든 것을 마음대로 조작하는 영화속 아리아의 모습은 사물인터넷이 열어줄지도 모르는 회색빛 미래다. 그리고 그런 회색빛 미래를 막는 것은 문제를 정확히 파악하고 경각심을 갖는 데서부터 시작될 것이다. 태그#KtechStory#이글아이#영화#네트워커#인공지능  댓글 쓰기  이 글에 댓글 단 블로거 열고 닫기 블로그 카페 Keep 메모 보내기 인쇄