슈미트 전 구글 CEO “AI는 실존적 위험이다!, 인공지능이 많은 사람들 죽일 수 있을 것”

슈미트 전 구글 CEO “AI는 실존적 위험이다!, 인공지능이 많은 사람들 죽일 수 있을 것”

https://www.aitimes.kr/news/articleView.html?idxno=28122

슈미트 전 구글 CEO “AI는 실존적 위험이다!, 인공지능이 많은 사람들 죽일 수 있을 것” - 인공지

 

• 기자명 정한영 기자 
•  입력 2023.05.25 18:20
•  댓글 0

 

바로가기 복사하기 본문 글씨 줄이기 본문 글씨 키우기

SNS 기사보내기

페이스북(으)로 기사보내기 트위터(으)로 기사보내기 카카오스토리(으)로 기사보내기 네이버블로그(으)로 기사보내기 URL복사(으)로 기사보내기 이메일(으)로 기사보내기 다른 공유 찾기 기사스크랩하기

보안 취약점 '제로 데이 익스플로잇'을 찾거나 새로운 종류의 매우 우려스러운 생물학적 산물을 발견할 수 있다"며, "이것은 지금은 허구로 들리겠지만 그 추론이 사실일 가능성은 매우 높다. 그런 일이 발생하면 악한 사람들이 이러한 것들을 오용하지 않도록 하는 방법이 미리 준비가 되어 있어야 한다"고 경고했다.

인공지능은 테러리즘이나 기후 변화보다 인류에게 더 큰 위험을 초래할 수 있다는 영국과학협회 이미지(편집:본지)

구글의 전 최고경영책임자(CEO) 에릭 슈미트(Eric Schmidt)는 2021년 7월에 미국 인공지능 국가안보위원회(NSCAI) 위원장 시절 “AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다”라며, "미국은 AI 시대에 대한 준비가 부족하다"고 경고까지 했었다.

인공지능(AI) 발전, 정말 놀랍다. 하루가 다르게 우리와 산업과 사회의 패러다임을 바꾸고 있다. 말 그대로 혁신적인 진화를 거듭하고 있다. AI 광풍의 중심에선 '챗GPT(ChatGPT)', '바드(Bard)', ‘라마(LLaMA)’ 등 생성 AI로 대표되는 그들은 창의적이고 독창적인 솔루션을 선보이며 놀라운 잠재력을 창출하고 있다.

여기에 이미지, 코드, 오디오 및 비주얼 등 멀티 모달로 진화하면서 인간 이상의 결과물을 선보이며, 생성 AI 모델은 교육에서부터 생활과 산업에 이르기까지 우리의 일상이 되어가고 있다.

반면에 세계적인 AI 석학과 전문가들은 가까운 미래, AI는 자신보다 더 뛰어난 AI를 만들어내기 시작하면서 인간은 더 이상 AI를 통제할 수 없게 된다는 ‘싱귤래러티(Singularity)‘을 심각히 논하며, 그 순간은 그리 멀지 않았다고 전망하기도 한다.

그들은 결국, AI와 인간의 두뇌가 자연스럽게 하나가 될 것이라고 본다며 “인간이 점점 기계처럼 될 것이고, 기계는 점점 인간처럼 될 것”이라고 한다. 즉, 인간은 기계가 되고 기계는 인간이 된다! 고 주장한다.

과연 그들이 예측한 싱귤래러티는 정말 도래할 것인가?

이러한 AI를 둘러싼 논쟁과 화려한 이슈에도 불구하고, 인간의 지능을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않고 있다. 단순한 알고리즘으로 움직이는 기계는 과연 진화할 것인가?, 여기서 멈춰 설 것인가? 에 대한 명제에는 대부분의 전문가들은 그 실현이 인간의 예측보다 훨씬 더 복잡하고 어려운 일이 될 것이며, 더 많은 시간을 요구한다고 단언한다.

에릭 슈미트

인공지능 예찬(禮讚) 그룹에 속했던 에릭 슈미트의 주장은 불과 2년여 만에 인공지능의 긍정에서 부정으로 돌아섰다. 24일(현지시간) 그는 "AI가 사람을 ‘해치거나 죽게 하는’ 실존적 위험을 내포하고 있다"고 강조했다.

이는 런던에서 열린 월스트리트저널의 'CEO 협의회 서밋(CEO Council Summit)'에서 연설하면서 AI가 ”실존적 위험”이라고 우려한다며, ”실존적 위험은 아주 많은 사람들이 해를 입거나 살해당하는 것으로 정의됩니다”라고 말한 것이다.

이어 그는 ″지금은 아니지만 합리적으로 곧 이러한 AI 시스템들이 사이버 문제에서 소프트웨어 및 시스템에서 발견한 보안 취약점 '제로 데이 익스플로잇(Zero-Day Exploit)'을 찾거나 새로운 종류의 매우 우려스러운 생물학적 산물을 발견할 수 있다"고 밝혔다.

이어 그는 "이것은 지금은 허구로 들리겠지만 그 추론이 사실일 가능성은 매우 높다. 그런 일이 발생하면 악한 사람들이 이러한 것들을 오용하지 않도록 하는 방법이 미리 준비가 되어 있어야 한다"고 경고했다.

지난 3월 17일 GPT-4 발표한 오픈AI '샘 알트만(Sam Altman)' 역시 "AI가 사회를 재구성할 것이며 위험을 인정합니다, 이것이 조금 두렵습니다(참조)" 라고 속내를 비췄다. 또한 그는 "권위주의 정부가 기술을 개발하는 것에 대해 걱정한다"며, "가능한 한 규제 기관과 사회 모두가 관여해야 한다"고 강조했다.  

구글과 알파벳 순다 피차이(Sundar Pichai) CEO도 최근 바드를 출시하면서 이 기술이 ”모든 회사의 모든 제품에 영향을 미칠 것” 이라며 사회가 변화에 대비해야 한다고 말했다.

또한 캐나다 토론토대학교 컴퓨터과학 교수이자 구글의 석학 연구원도 겸임하고 있는 제프리 힌턴(Geoffrey Hinton) 박사가 지난달 구글을 사임하면서 인공지능 기술의 미래 버전이 인류가 분석하는 방대한 양의 데이터에서 예상치 못한 행동을 배우기 때문에 인류에게 위협이 되는 것을 우려했다.

또한 개인과 기업이 AI 시스템이 자체 컴퓨터 코드를 생성할 뿐만 아니라 실제로 자체적으로 해당 코드를 실행하도록 허용하기 때문에 이것이 문제가 된다고 말했다. 또한 그는 진정한 자율 무기인 '킬러 로봇'이 현실이 되는 날이 두렵다고 했다.

지난 2021년, 테슬라 CEO 일론 머스크는 “AI 연구는 악마를 소환하는 일”이라며,  AI가 현대 문명의 ”가장 큰 위험” 중 하나라고 생각한다고 말했다. 또한 세계적인 미래학자이자 ‘싱귤래러티가 도래한다’라는 저서로 우리에게 널리 알려진 구글 기술고문인 레이 커즈와일(Ray Kurzweil)은 기술이 인간을 초월하는 순간이 온다고 예측한 2029년이 얼마 남지 않았다고 한다. 싱귤래러티(Singularity)는 인공지능이 진화하다가 인류의 지능을 초월하는 기점(특이점)을 뜻한다.

그는 인공지능과 특이점분야에 전문적인 지식을 갖고 있는 대표적인 미래학자로 기술이 선형적인 발전을 하는 것이 아니라 기하급수적인 발전을 거듭한다는 ‘수확 가속의 법칙(The Law of Accelerating Returns)’을 주장하고 있다.

그러나 대부분의 전문가들은 그 실현이 우리 예측보다 훨씬 더 복잡하고 어려운 일이 될 것이라고 말한다. AI가 인류에 이정표를 그을 것이라는 사실은 분명하다. 다만 어떤 모습으로, 어떤 영향을 미칠 것이냐에 대한 논쟁은 끊이지 않고 있는 것이다. AI를 둘러싼 과대 선전에도 불구하고 인간의 지능과 능력을 완전히 뛰어넘거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 불투명하지만 인간이 원하는 AI를 가까운 미래에 실현하기 위해서는 지금 당장 접근법을 바꿔야 한다고 그들은 말한다.

 

 

 정한영 기자 hyjung@aitimes.kr

 

다른기사 보기

저작권자 © 인공지