RNAGenScape mRNA 설계 최적화와 매니폴드 라그랑주 다이내믹스

초록

RNAGenScape는 mRNA 서열을 데이터 매니폴드 위에서 직접 최적화하는 프레임워크이다. 자동인코더와 속성 예측기를 공동 학습해 속성‑정렬된 잠재 매니폴드를 만들고, 디노이징 자동인코더로 업데이트를 매니폴드에 투사한다. 매니폴드 라그랑주 다이내믹스를 적용해 번역 효율·안정성 등 목표 속성을 크게 향상시키면서 생물학적 타당성을 유지한다.

상세 분석

본 논문은 mRNA 서열 최적화 문제를 “데이터 매니폴드 위에서의 로컬 최적화”라는 새로운 관점으로 접근한다. 먼저, 조직된 자동인코더(OAE)를 설계해 입력 서열 x를 잠재 벡터 z로 인코딩하고, 동시에 속성 예측기 P를 통해 목표 속성 ŷ를 추정한다. 재구성 손실과 속성 예측 손실을 가중합(L_OAE)으로 최적화함으로써, 잠재 공간 Z는 자연적으로 생물학적 타당성을 보장하는 서열 집합과 목표 속성의 연속적인 변화를 동시에 반영하도록 조직된다. 여기서 λ_pred와 λ_recon은 각각 속성 정렬 정도와 서열 복원 정확도 사이의 트레이드오프를 조절한다.

데이터가 희소하고 불균형적인 현실을 고려해, 저자들은 SUGAR라는 확산 기하학 기반 샘플링 기법을 도입한다. SUGAR는 기존 잠재 임베딩 Z₀에 근접한 이웃을 마코프 전이 행렬 M_t를 통해 다중 단계 확장함으로써, 매니폴드의 저밀도 영역을 메우고 학습 안정성을 높인다. 이렇게 확장된 잠재 집합 Z = Z_orig ∪ Z_SUGAR는 이후 매니폴드 투사기 Ψ의 학습에 사용된다.

투사기 Ψ는 디노이징 자동인코더 형태로 구현되며, 노이즈가 섞인 잠재 벡터 ẑ(k) 를 원래의 깨끗한 벡터 ẑ(k‑1) 로 복원하도록 훈련된다. 손실 L_Ψ = Σ_k‖Ψ(ẑ(k)) – ẑ(k‑1)‖²는 K가 1~3인 짧은 확산 체인에 국한되어, 매 단계가 매니폴드 근처의 로컬 변화를 반영하도록 설계된다. 이는 전통적인 Riemannian SGD에서의 재트랙션(retraction)과 유사하지만, 매니폴드의 명시적 수학적 형태를 요구하지 않는다.

핵심 최적화 단계는 매니폴드 라그랑주 다이내믹스이다. 현재 잠재 벡터 z_t에 대해 속성 예측기 P가 제공하는 그래디언트 ∇_z f(z_t) 를 드리프트 항으로 사용하고, 온도 파라미터 τ와 스텝 사이즈 η를 곱해 업데이트 d z_t = η·τ·∇z f(z_t) + √η·ε_t (ε_t ~ N(0,I)) 를 만든다. 이후 투사기 Ψ를 적용해 z{t+1} = Ψ(z_t + d z_t) 로 매니폴드에 다시 매핑한다. τ가 작을수록 목표 속성에 대한 집중적인 탐색을, 크게 하면 무작위 탐색을 강화한다. 이 과정은 매 iteration마다 중간 서열을 디코딩해 확인 가능하므로, 사용자는 최적화 진행 상황을 실시간으로 모니터링하고 필요 시 중단하거나 방향을 바꿀 수 있다.

실험에서는 세 가지 규모가 다른 mRNA 데이터셋(OpenVaccine, Zebrafish, Ribosome)을 사용해 번역 효율, 안정성, 리보솜 부하 등 다양한 속성을 최적화했다. RNAGenScape는 기존 Diffusion‑based 모델이나 강화학습 기반 모델에 비해 중위수 속성 향상이 최대 148%이며, 성공률(속성 개선된 서열 비율)도 30%p 이상 높았다. 특히, uORF·OOF·AUG 비율 감소, Kozak 유사도 유지·증가, 최소 자유 에너지 감소 등 생물학적 타당성 지표에서도 우수한 성능을 보였다. 추론 속도는 기존 최적화 방법 대비 68% 향상되어 실험실 수준의 대규모 스크리닝에 적용 가능함을 입증했다. 전체적으로 RNAGenScape는 매니폴드 기반 로컬 최적화가 데이터 효율성과 생물학적 신뢰성을 동시에 달성할 수 있음을 보여준다.