클로드 미소스 5 양자회로 설계, 게이트를 17분의 1로 줄인 방법

앤트로픽이 10월 16일(미국 현지시간) 공개한 연구예요. 회로 설계만 잘 바꿔도 양자컴퓨터가 쓸모 있어지는 시기를 앞당길 수 있다는 게 회사 설명이에요. 논문에 따르면 클로드 미소스 5는 과제 8개 중 7개에서 큐비트와 토폴리 게이트를 함께 줄였고, 나머지 1개에서는 새 회로 구조를 찾았어요. 타원곡선 점 덧셈에서는 53시간 작업 끝에 기존 최소 큐비트 설계보다 게이트(토폴리)가 17분의 1인 설계를 내놨어요. 연구 일부는 앤트로픽 STEM 펠로 프로그램으로 진행됐고, 논문은 arXiv 사전 공개본이에요.

양자회로 8개 설계: 7개에서 큐비트·게이트 함께 줄여

양자컴퓨터는 큐비트(0과 1 상태를 동시에 가질 수 있는 양자 정보 단위)로 계산을 처리해요. 이 큐비트 상태를 바꾸는 기본 연산 단계를 게이트(큐비트 값을 바꾸는 기본 연산)라고 불러요. 같은 문제를 풀더라도 회로를 어떻게 짜느냐에 따라 필요한 큐비트와 게이트 수가 크게 달라져요.

왜 회로 설계가 중요한가: FeMoco 시뮬레이션 사례

앤트로픽에 따르면 지금까지 나온 양자컴퓨터는 큐비트가 수백~수천 개 수준이에요. 게다가 큐비트는 열이나 진동 같은 주변 잡음에 아주 약해서 계산 도중 오류가 나기 쉬워요. 그래서 제한된 장비로 쓸모 있는 계산을 하려면 회로가 쓰는 큐비트와 게이트를 최대한 줄여야 해요.

대표적인 예가 질소 고정 효소의 핵심 분자인 ‘FeMoco’를 양자컴퓨터로 계산하는 문제예요. 앤트로픽에 따르면 2017년 첫 추정에서는 토폴리 게이트(양자회로에서 비용이 많이 드는 핵심 3큐비트 논리 연산 단계)가 약 50조 개 필요했어요. 이후 여러 연구팀이 8년에 걸쳐 회로를 다시 설계한 끝에 이 숫자를 약 3억 4천만 개로 줄였어요.

기존보다 약 15만 배 줄어든 수치예요. 덕분에 물리 큐비트 약 300만 개를 갖춘 미래 양자컴퓨터에서 몇 시간이면 계산할 수 있는 수준으로 내려왔어요. 앤트로픽은 이 감소가 더 나은 하드웨어보다 회로를 다시 설계한 데서 주로 나왔다고 설명해요.

클로드가 일한 방식: 설계·평가·수정의 닫힌 고리

연구진은 화학, 최적화, 양자 시뮬레이션, 정수론, 수치 계산 분야에서 핵심 회로 8개를 골랐어요. 클로드 미소스 5에는 각 회로가 해야 할 일을 쉬운 말로 적은 설명서와 자동 평가기(회로가 맞는지 확인하고 점수를 매기는 프로그램)를 함께 줬어요. 평가기는 회로가 정확하게 작동하는지 검사한 뒤, 큐비트 수와 게이트 수를 곱한 값으로 효율 점수를 매겼어요.

양자회로는 일반 컴퓨터 프로그램과 달리 가역성(계산 결과에서 입력값을 거꾸로 되찾을 수 있어야 하는 성질)을 지켜야 해요. 중간 계산값을 일반 프로그램처럼 그냥 지울 수 없고, 남겨 두면 최종 결과를 망쳐요. 또 중간 계산에 쓴 임시 큐비트를 원래 상태로 되돌려 놓는 언컴퓨트(임시 계산값을 역연산으로 지워 큐비트를 회수하는 과정)도 꼭 거쳐야 해요.

클로드 미소스 5는 파이썬 코드로 회로를 짜고 평가기 점수를 확인한 뒤 스스로 설계를 고쳤어요. 사람이 중간에 코드를 고쳐 주지 않아도 설계·평가·수정을 반복하는 ‘닫힌 고리’ 방식으로 움직였어요. 논문에 따르면 8개 과제 중 7개에서 토폴리 게이트 수와 큐비트 수를 모두 기존에 발표된 설계보다 줄였어요.

나머지 1개 과제인 소수체 모듈러 역원(소수로 나눈 나머지 체계에서 역수를 구하는 연산)에서도 새로운 가역 구조를 찾아냈어요. 기존에는 가역 정수 연산에 쓰기 어렵다고 여겨지던 고전 알고리즘(divsteps)을 양자회로에 맞게 바꾼 것이에요. 논문에 따르면 이로써 토폴리 게이트와 큐비트 수를 맞바꾸는 효율을 크게 높였어요.

성과 1: 타원곡선 점 덧셈, 53시간 작업으로 게이트 17분의 1

가장 두드러진 결과는 타원곡선 점 덧셈(타원곡선 위 두 점으로 새 점을 구하는 연산) 회로에서 나왔어요. 이 연산에서 계산 비용이 가장 많이 드는 단계는 모듈러 역원이에요. 앤트로픽에 따르면 연구진은 한 문단짜리 지시만 주고 클로드 미소스 5를 53시간 동안 돌렸어요.

그동안 사람이 개입한 것은 첫 지시와 가끔 더 넓게 찾아보라고 덧붙인 짧은 입력뿐이었어요. divsteps를 그대로 양자회로로 옮기면 매 단계 어느 갈림길로 갔는지 기록을 계속 쌓아야 해요. 이 기록을 담을 큐비트가 많이 필요해요. 클로드는 갈림길 정보를 계산 중인 숫자 쌍에서 되찾는 방법을 발견했어요.

처음 떠올린 간단한 규칙들은 작은 예에서만 맞고, 실제 크기인 256비트 숫자에서는 틀렸어요. 그러자 클로드는 새로운 대수 항등식(늘 성립하는 수학 공식)을 증명해 정확한 복원 공식을 끌어냈어요. 이어 대규모 수치 시뮬레이션과 수학 증명 검증 도구 ‘린(Lean)’으로 스스로 검증했어요.

복원은 큐비트를 아끼는 대신 시간이 더 들어요. 그래서 클로드는 저장과 복원을 섞는 기준을 바꿔 가며 여러 설계 묶음을 만들었어요. 앤트로픽에 따르면 그중 하나는 기존 최소 큐비트 설계보다 큐비트를 12% 더 쓰는 대신 게이트 수가 17분의 1이에요.

성과 2: DQI 복호기, 게이트 12분의 1·예외 저장 공간은 19큐비트만

두 번째 주요 성과는 DQI(복호 양자 간섭, 오류 정정 복호로 최적화 문제를 푸는 양자 알고리즘)에 들어가는 회로예요. 앤트로픽이 인용한 구글 퀀텀 AI 추정이 있어요. 특정 최적화 문제(OPI)는 슈퍼컴퓨터 프런티어로 약 3개월 걸려요. 미래 양자컴퓨터의 DQI로는 약 1시간이면 풀 수 있다고 해요. 이 알고리즘의 핵심 부품이 오류를 찾아 원래 값을 복원하는 리드-솔로몬 복호기예요.

클로드 미소스 5는 기존에 쓰던 확장 유클리드 방식 대신 벌레캠프-매시 알고리즘을 양자회로에 적용했어요. 기존 설계는 모든 입력을 한 가지 고정된 순서로 처리해야 해서, 필요보다 훨씬 많은 라운드를 돌고 라운드마다 모든 연산을 실행했어요. 벌레캠프-매시는 매 라운드 같은 종류의 단계를 같은 횟수만큼 돌려서 양자회로에 잘 맞아요. 남은 문제는 라운드마다 생기는 임시값이었어요. 클로드는 이 값 대부분을 현재 상태에서 되살리는 방법을 찾았어요. 다만 일부 예외 값은 저장해야 했어요.

예외가 최악으로 35번 생기는 경우까지 대비하면 665큐비트가 필요해요. 클로드는 대신 빠른 시뮬레이터를 직접 만들어 예외가 실제로 얼마나 생기는지 쟀어요.

앤트로픽에 따르면 4억 300만 번 복호를 돌려 보니 거의 모든 경우 저장할 값이 많아야 1개였어요. 그래서 값 1개 자리, 즉 19큐비트만 남겼어요. 이보다 더 필요한 경우는 약 1만 번에 1번이라 그때는 실패해요. 과제가 허용한 오류율 안이라고 해요. 구글의 이전 설계와 비교하면 필요한 게이트 수를 12분의 1로 줄였어요.

회로 설계 주요 성과 요약

과제(적용 분야)	클로드가 바꾼 핵심 방식	기존 설계 대비 변화	출처
8개 양자회로 전체(화학·최적화·시뮬레이션·정수론·수치 계산)	파이썬 설계와 자동 평가기를 묶은 닫힌 고리 반복	7개 과제에서 토폴리 게이트·큐비트 동시 감소, 1개(소수체 모듈러 역원)에서 새 가역 구조로 맞교환 개선	arXiv 논문(2610.22367)
타원곡선 점 덧셈(정수론·256비트 시험)	갈림길 정보를 저장할지 숫자 쌍에서 복원할지 기준을 바꿔 설계 묶음 생성(53시간 작업)	기존 최소 큐비트 설계 대비 큐비트 12% 증가, 게이트 수 17분의 1로 감소(설계 묶음 중 대표값)	앤트로픽 연구 블로그
DQI 리드-솔로몬 복호기(최적화 알고리즘)	벌레캠프-매시 방식으로 바꾸고, 임시값 대부분을 되살려 저장 공간을 줄임	예외 값 저장 공간을 최악 대비 665큐비트 대신 19큐비트로, 구글 이전 설계 대비 게이트 수 12분의 1	앤트로픽 연구 블로그

자료: 앤트로픽 연구 발표(2026-10-16) 및 arXiv 논문 2610.22367(2026-10-15 제출), 2026-10-18 확인.

나랑 무슨 상관일까

• 양자·알고리즘 연구자: 자동 평가기와 언어 모델을 묶어 회로를 탐색하는 방식을 국내 연구에도 참고할 수 있어요(추정). 46쪽짜리 논문이 arXiv에 공개돼 있어 누구나 읽어 볼 수 있어요.
• 일반 클로드 이용자: 이번 발표는 연구 성과 공개라 클로드 웹·앱 기능이나 구독 요금이 당장 바뀌지는 않아요.
• 암호 기술에 대한 오해 바로잡기: 타원곡선 점 덧셈은 타원곡선 이산로그 문제를 푸는 양자 알고리즘의 핵심 단계예요. 타원곡선은 디지털 서명 같은 현대 암호에 널리 쓰이지만, 이번 결과는 회로 설계 효율을 높인 연구예요. 앤트로픽은 지금까지 만든 양자컴퓨터가 수백~수천 큐비트라 쓸모 있는 알고리즘 상당수를 돌리기에 부족하다고 설명해요. 이번 발표와 논문은 암호가 얼마나 안전한지를 따로 평가하지 않았어요.

대단한 점과 아쉬운 점

대단한 점

• 사람이 단계별 해법을 일일이 알려 주지 않아도 AI가 53시간 동안 스스로 대수 항등식을 찾고 회로를 줄였어요(앤트로픽 발표 기준).
• 핵심 복원 공식은 대규모 수치 시뮬레이션과 형식 검증 도구(Lean)로 확인했어요(앤트로픽 발표).
• 5개 분야 8개 과제 중 7개에서 큐비트와 게이트 수를 함께 줄였어요(논문 기준).
• FeMoco 추정을 줄이는 데 여러 연구팀이 8년 걸린 반면, 타원곡선 설계는 53시간짜리 실행 한 번에서 나왔다고 앤트로픽은 설명해요.

아쉬운 점

• 앤트로픽이 직접 밝힌 한계가 있어요. 초기 실험에서 클로드는 이미 확인된 결과를 두세 번씩 다시 확인했어요. 새 방법보다 잘 알려진 방법을 고르는 경향도 있었어요.
• 그래서 연구진은 서로 다른 접근 여러 개를 함께 내게 했어요. 가끔은 더 넓게 찾아보라고 지시도 했어요. 연구진이 만든 과제 설명서와 평가기, 탐색 틀 위에서 나온 결과예요.
• 논문은 arXiv 사전 공개본이에요. 학술지 심사를 거쳤다는 안내는 없어요.
• 연구 일부는 앤트로픽 STEM 펠로 프로그램으로 진행됐고, 저자에 앤트로픽 소속이 있어요.

확장성: 회로 다음은 양자컴퓨터 전체 설계

앤트로픽은 클로드가 일반 컴퓨터 알고리즘 최적화에 강했던 경험을 양자로 넓혀 본 것이라고 설명해요. 설계를 코드로 쓰고, 맞는지 검사하고, 비용으로 점수를 매길 수 있는 문제라면 같은 방식을 써 볼 수 있다는 거예요.

앤트로픽은 오류 정정 부호, 복호기, 하드웨어 같은 다른 부품도 같은 성격을 가졌다고 봤어요. 지금은 이런 부품을 따로따로 설계해요. 앤트로픽은 AI가 알고리즘부터 하드웨어까지 함께 최적화할 수 있다는 가능성을 내놨어요. 어떤 하드웨어 성능이 가장 중요한지 알려 주는 데도 쓸 수 있다고 봐요.

국내에서도 같은 틀을 다른 분야에 적용해 볼 수 있어요(추정). 정답을 컴퓨터로 바로 검사할 수 있는 최적화 문제라면 평가기를 붙여 비슷하게 돌려 볼 수 있어요(추정).

아직 모르는 것

• 클로드 미소스 5를 일반 이용자나 개발자가 언제, 얼마에 쓸 수 있는지는 이번 발표에 없어요.
• 클로드가 만든 회로를 실제 양자 하드웨어에서 돌려 봤는지는 나오지 않았어요.
• 외부 연구진이 같은 결과를 재현하거나 검증했는지는 아직 알려지지 않았어요.
• 53시간 실행에 든 계산 비용도 공개되지 않았어요.

자주 묻는 질문

이번 결과로 양자컴퓨터가 바로 나오나요?

아니에요. 앤트로픽에 따르면 지금 양자컴퓨터는 큐비트가 수백~수천 개이고 잡음에 약해요. 이번 연구는 같은 계산에 필요한 자원을 줄여 실용화 시기를 앞당길 수 있다는 회사 설명이에요.

비트코인 같은 암호가 위험해졌나요?

앤트로픽 발표에 그런 경고는 없어요. 점 덧셈은 타원곡선 문제를 푸는 양자 알고리즘의 핵심 단계예요. 이번 발표와 논문은 암호가 얼마나 안전한지를 따로 평가하지 않았어요.

클로드 미소스 5는 지금 쓸 수 있나요?

이번 연구 발표에는 제공 범위나 요금 안내가 없어요. 앤트로픽 공식 모델 안내를 따로 확인해야 해요.

토폴리 게이트를 왜 세나요?

앤트로픽에 따르면 토폴리 게이트는 가장 비싼 연산 중 하나예요. 그래서 그 개수로 계산 시간을 어림하는 게 보통이에요.

출처

• 앤트로픽 연구 글: Designing more efficient quantum circuits with Claude (2026-10-16)
• arXiv 논문 2610.22367: Discovering state-of-the-art quantum circuits with large language models (2026-10-15 제출)
• AI타임스 보도 (2026-10-18)

대표 이미지: 앤트로픽

구글 검색에서 AIMAG 소식을 먼저 보려면

AI 보조 초안 · 편집부 검수