LLM이 양자 소프트웨어와 시스템 설계에 미치는 영향

본 논문은 “LLM이 양자 소프트웨어, 아키텍처 및 시스템 설계에 도움이 될 수 있는가?”라는 질문에 답하기 위해, UT 오스틴에서 진행된 ‘Introduction to Quantum Computing Systems’ 강의의 중간고사 문제를 활용한 사례 연구를 수행한다. 시험은 오류 정정(QEC) 코드 선택, 디코더 설계, 사이클 동기화, 플래그‑프록시 네트워크 설계 등 양자 시스템 설계의 핵심 주제를 포함하고 있으며, 총 100점 만점으로 채점된다. 연구자는 OpenAI GPT‑5.3(경량)·GPT‑5.4‑Thinking(추론), Google Gemini‑3 Fast·Gemini‑3.1‑Pro, Anthropic Claude Sonnet·Claude Opus 등 총 9개의 모델을 선택하였다. 각 모델은 두 가지 설정으로 평가되었는데, 하나는 별도 논문 없이 순수 모델 출력만을 사용하고, 다른 하나는 관련 연구 논문(예: Promatch, AFS, Synchronization, Flag‑proxy networks)을 제공하여 모델이 이를 참고하도록 했다. 실험 결과, 모든 모델이 평균 57.33점을 기록했으며, 경량 모델의 평균 점수는 48.67점, 추론 모델은 66점으로 차이가 났다. 특히 GPT‑5.4‑Thinking은 논문 없이 71점, 논문을 활용했을 때 83점으로 가장 높은 성적을 얻었다. Gemini‑3.1‑Pro는 논문 없이 56초, 논문과 함께 1분 23초의 추론 시간을 보였으며, Claude 시리즈는 별도 추론 트레이스를 생성하지 않았다. 인간 학생 4명의 평균 점수는 약 60점 수준으로, 최고 점수 75점에 그쳤다. 모델이 특히 강점을 보인 영역은 QEC 디코더 설계와 같은 비교적 구조화된 문제였다. 반면 플래그‑프록시 네트워크 설계와 QEC 코드‑하드웨어 매핑처럼 다중 제약조건을 동시에 만족시켜야 하는 복합 최적화 문제에서는 모든 모델이 낮은 점수를 기록했다. 이는 현재 LLM이 복잡한 논리적 추론과 전역 최적화에 한계가 있음을 보여준다. 논문은 이러한 결과를 바탕으로 향후 연구 방향을 네 가지로 제시한다. 첫째, 양자 전용 LLM을 만들기 위해 양자 회로, 오류 모델, 하드웨어 제약 등을 포함한 대규모 도메인 특화 데이터셋을 구축해야 한다. 둘째, 기존 모델을 양자 데이터에 맞춰 파인튜닝하거나, 멀티모달 입력(텍스트·수식·그래프)을 지원하도록 확장해야 한다. 셋째, 인간 전문가와 AI가 협업하는 워크플로우를 정의하고, 전문가가 제공하는 ‘핵심 논문’이나 ‘제약조건’ 정보를 효과적으로 활용할 수 있는 프롬프트 엔지니어링 기법을 개발해야 한다. 넷째, 모델 규모 확대가 성능 향상에 한계가 있을 수 있다는 ‘파라미터 벽’ 가설을 검증하고, 효율적인 파인튜닝 및 지식 주입 방법을 탐구해야 한다. 또한, 연구자는 현재 LLM이 제공하는 추론 트레이스가 인간 전문가에게 설계 의도를 설명하는 데 충분하지 않을 수 있음을 지적한다. 따라서 모델이 생성하는 중간 단계(예: 논리 흐름, 수식 변환)를 시각화하거나 검증하는 도구가 필요하다. 결론적으로, LLM은 양자 시스템 설계의 일부 하위 문제에 대해 인간 수준 이상의 성과를 보이며, 특히 오류 정정 디코더와 같은 구조화된 과제에서 유용함을 입증했다. 그러나 복합 최적화와 깊은 물리적 직관이 요구되는 영역에서는 아직 미흡하며, 인간 전문가의 지도와 도메인 특화 데이터가 필수적이다. 이 연구는 양자 컴퓨팅과 인공지능의 교차점에서 향후 연구 로드맵을 제시하고, 양자 소프트웨어·아키텍처·시스템 개발에 AI 기반 자동화 도구가 차지할 잠재적 역할을 조명한다.