과학,수학,기술

딥마인드, 50년 묵은 수학 난제 풀었다

GODblessus 2023. 11. 15. 17:21

현재위치

바로가기 본문 글씨 줄이기 본문 글씨 키우기

딥마인드, 50년 묵은 수학 난제 풀었다

  • 기자명 박찬 위원 
  •  입력 2022.10.06 17:57
  •  댓글 2
  •  좋아요 0
 

SNS 기사보내기

SNS 기사보내기

페이스북(으)로 기사보내기 트위터(으)로 기사보내기 카카오톡(으)로 기사보내기 네이버블로그(으)로 기사보내기 AI타임스 유튜브

AI로 행렬 곱셈을 빠르게 하는 방법 발견

딥마인드가 더 빠른 행렬 곱셈 알고리즘을 발견하는 AI ‘알파텐서’를 공개했다.(사진=딥마인드)

인공지능(AI)이 두 개의 행렬을 곱하는 가장 빠른 방법을 찾아냈다. 50년간 난제로 남아있던 수학 문제를 해소할 수 있게 될 것으로 기대된다.

딥마인드는 AI 시스템 '알파텐서'를 이용해 행렬 곱셈의 속도를 높일 수 있는 방법을 발견, 네이처에 이를 다룬 논문을 게재했다고 5일(현지시간) 발표했다.

행렬 곱셈은 대수학의 가장 간단한 연산 중 하나다. 가장 기본적인 계산 작업이지만 오늘날 AI 신경망의 핵심 수학 연산이 되고 있다. 

두 개의 3x3 행렬을 곱하는 과정의 예 (사진=딥마인드)

행렬 곱셈은 스마트폰 이미지 처리, 음성 명령 인식, 컴퓨터 게임용 그래픽 생성, 날씨 예측을 위한 시뮬레이션, 인터넷 공유를 위한 데이터 및 비디오 압축 등에 사용된다.

전 세계 기업들은 행렬을 효율적으로 곱하기 위해 GPU와 같은 컴퓨팅 하드웨어를 개발하는 데 많은 시간과 비용을 투자한다. 행렬 곱셈의 효율성을 약간만 개선해도 비용 절감 및 에너지 절약에 크게 기여할 수 있다.

수 세기 동안 수학자들은 표준 행렬 곱셈 알고리즘이 효율성 측면에서 달성할 수 있는 최선의 알고리즘이라고 믿었다. 그러나 1969년 독일의 수학자 폴켄 스트라센이 더 나은 알고리즘이 존재한다는 것을 보여줌으로써 수학계에 충격을 줬다. 스트라센은 매우 작은 2x2 행렬에서 행렬의 항목을 결합해 더 빠른 알고리즘을 생성하는 독창적인 방법을 발견했다.

하지만 이후 수십 년간의 연구에도 불구하고 스트라센 알고리즘을 능가하는 행렬 곱셈 알고리즘을 발견하지 못했었다. 그런데 이번에 알파텐서가 다양한 행렬 크기에 대해 최신 기술보다 더 효율적이고 인간이 설계한 것보다 성능이 우수한 알고리즘을 발견한 것이다.

알파텐서는 문제에 대한 지식 없이 시작해 점차 무슨 일이 일어나고 있는지 학습하고 시간이 지남에 따라 개선된다. 시간이 지남에 따라 먼저 우리가 배웠던 표준 행렬 곱셈 알고리즘을 찾은 다음 스트라센과 같은 역사적 알고리즘을 찾고, 그런 다음 어느 시점에서 이를 능가하고 이전보다 더 빠른 완전히 새로운 알고리즘을 발견한다.

알파텐서의 배후에서 실행되는 것은 바둑과 체스와 같은 보드 게임에서 사용된 에이전트인 '알파제로'다. 여기에 행렬 곱셈을 적용했지만, 이 무한히 큰 공간을 처리하기 위해 확장해야 했던 것은 바둑 게임 방법을 배운 것과 동일한 알고리즘이다.

딥마인드에 따르면 실제로 고려할 수 있는 알고리즘의 수가 우주의 원자 수보다 훨씬 더 많으며, 심지어 작은 크기의 행렬 곱셈의 경우에도 마찬가지다. 수십 년 동안 AI의 도전 과제였던 바둑과 비교하면 가능한 이동 수가 30배나 많다.

알파텐서는 엔비디아 V100 GPU 및 구글 TPU v2 하드웨어에서 기존에 사용되던 알고리즘보다 행렬 곱셈 속도를 10~20% 더 향상했다.

행렬 곱셈은 컴퓨터 그래픽, 디지털 통신, 신경망 교육 및 컴퓨팅에 이르는 많은 계산 작업의 핵심 구성 요소이기 때문에 알파텐서가 발견한 알고리즘은 이러한 분야의 계산을 훨씬 더 효율적으로 만들 수 있다.

박찬 위원 cpark@aitimes.com

42