[지금은 과학] 양자컴퓨터 신뢰도↑…'가지치기'로 한다

[아이뉴스24 정종오 기자] 양자컴퓨터는 아직 초기 단계이다. 오류가 많아 이를 수정하는 것이 만만치 않다. ‘얽힘과 중첩’을 통해 기존 컴퓨터와 다른 시스템을 만들기에는 아직 역부족이다.

국내 연구팀이 중요한 소자만 골라내는 가지치기 방식으로 양자 컴퓨터와 인공지능(AI) 딥러닝 등에 활용되는 광자 회로의 신뢰도를 크게 높이는 데 성공했다.

한국연구재단(이사장 이광복)은 서울대 박남규 교수와 유선규 교수 연구팀이 범용 양자 컴퓨터와 광자 머신러닝의 신뢰도를 획기적으로 높이는 양자 회로 가지치기 기법을 개발했다고 26일 발표했다.

빛의 최소 단위인 광자를 최소한의 손실로 전송하고 제어하는 능력은 정보운반에 빛을 사용하는 머신러닝과 양자 컴퓨터에서 매우 중요하다. 이런 광자회로를 이용한 인공지능의 기계학습을 광자 머신러닝이라 한다.

미래 컴퓨팅에서 막대한 양의 처리 능력을 제공할 혁신기술로 빛의 역할이 주목받고 있다. 빛은 초고속, 저손실 연산 등을 가능케 한다.

특정 문제에 국한되지 않는 범용 컴퓨팅 구현을 위해서는 빛의 상태를 실시간 제어하고 프로그래밍할 수 있는 광자 집적회로 활용이 필수적이다.

회로 규모가 커지면 소자의 열잡음이 연산 신뢰도를 크게 떨어뜨린다. 양자 큐비트( 양자 컴퓨터로 계산할 때의 기본 단위) 수와 딥러닝 뉴런(인공신경망의 구조 )수를 상용 가능한 수준으로 늘리는 데 큰 어려움이 존재한다.

이번 연구는 다학제적 접근 방식을 통해 광자 회로 분야 난제를 극복했다는 점에서 주목된다.

연구팀은 매우 적은 뉴런 수로도 놀라운 기능을 하는 예쁜꼬마선충, 허브 구성 요소들이 시스템 구동을 주도하는 항공망 등에서 착안해 기존보다 효율적 광자 하드웨어 구현을 시도했다.

양자 컴퓨팅과 AI에 활용되는 광자 회로의 하드웨어 분석을 진행하는 과정에서 네트워크 과학의 파레토 법칙(80대20 법칙)이 광자 회로에서도 발견된다는 사실을 확인했다.

이는 허브 소자들이 따로 존재하며 덜 중요한 소자들을 제거해 고신뢰도, 저전력 회로를 구현할 수 있음을 의미한다.

연구팀은 자연계의 숨은 불평등성을 공학적으로 활용하기 위해 딥러닝 소프트웨어 분야에서 활용되고 있는 가지치기 개념을 광자 하드웨어 설계에 최초로 도입했다.

이를 통해 ‘양자 회로 가지치기’ 기법을 개발했다. 높은 신뢰도의 양자 컴퓨팅과 딥러닝 가속기 구현이 가능하다는 점을 증명했다. 가지치기(Pruning)란 모델 학습을 할 때 중요한 파라미터는 살리고 그렇지 않은 파라미터는 덜어내는 경량화 기술을 뜻한다.

박남규 교수는 “이번 연구는 꼭 필요한 소자만 남기는 양자 회로의 미니멀리즘이라고 할 수 있다”며 “가지치기의 효율이 대규모 양자 컴퓨팅과 딥러닝 가속기에서 더욱 향상된다는 점은 매우 고무적”이라고 설명했다.

연구 성과(논문명: Heavy tails and pruning in programmable photonic circuits for universal unitaries)는 국제학술지 ‘네이처 커뮤니케이션즈(Nature Communications)’ 4월 3일자에 실렸다.