NeuralOS 신경망 기반 운영체제 GUI 시뮬레이션

초록

NeuralOS는 RNN으로 시스템 상태를 추적하고, 확산 기반 디퓨전 렌더러로 화면을 생성해 사용자 입력(마우스·키보드)에 따라 Ubuntu XFCE GUI를 직접 예측한다. 합성·실제 인터랙션 데이터를 활용한 다단계 학습으로 커서 위치와 애플리케이션 전환을 정밀히 재현하며, 실제 설치되지 않은 Doom 앱까지 시뮬레이션한다.

상세 분석

NeuralOS는 운영체제 GUI를 “프레임‑투‑프레임” 생성 문제로 공식화하고, 두 개의 모듈을 계층적으로 결합한다. 첫 번째 모듈은 하위‑레벨 LSTM과 상위‑레벨 LSTM으로 구성된 계층형 RNN이며, 입력 이벤트(커서 좌표, 클릭, 키보드 상태)를 임베딩한 뒤, 이전 프레임에 대한 멀티헤드 어텐션을 적용한다. 이 어텐션은 화면 내 위치 정보를 보존하면서, 장기 의존성을 유지하도록 설계되었다. 상위 LSTM은 하위 LSTM의 출력과 어텐션 결과를 받아 장기 상태 uₜ를 업데이트하고, 이를 다시 하위 LSTM에 피드백함으로써 “커널‑레벨” 상태와 “렌더링‑레벨” 상태가 지속적으로 교환된다. 이러한 구조는 Transformer와 달리 시간당 연산 복잡도가 일정해 실시간 시뮬레이션에 적합하다.

두 번째 모듈은 잠재 디퓨전 모델(Latent Diffusion) 기반의 UNet 렌더러이다. 화면 이미지는 사전 학습된 오토인코더로 압축된 잠재 공간으로 매핑되고, RNN이 생성한 컨텍스트 텐서 Rₜ(= concat(W_L Lₜ, W_U Uₜ, Mₜ))와 노이즈가 섞인 잠재 프레임을 UNet에 입력한다. 여기서 Mₜ는 커서 위치를 가우시안 스프레드 맵으로 표현한 것으로, 픽셀 단위 정밀도(수백 픽셀 오차 감소)를 확보한다. UNet은 노이즈를 제거하면서 조건부 확산 과정을 통해 깨끗한 잠재 프레임을 복원하고, 디코더가 최종 RGB 이미지로 변환한다.

학습 파이프라인은 네 단계로 나뉜다. ① RNN 사전학습: MSE 손실로 잠재 프레임을 직접 예측하게 하여 RNN이 의미 있는 공간 표현을 학습하도록 한다. ② 공동 학습: 사전학습된 RNN과 디퓨전 렌더러를 동시에 최적화해, 렌더러가 RNN 출력을 무시하지 않게 만든다. ③ 스케줄드 샘플링: 노출 편향을 완화하기 위해 일정 확률(p)로 최근 입력 프레임을 모델이 생성한 프레임으로 교체한다. ④ 컨텍스트 길이 확장: 메모리 제한으로 짧은 시퀀스로 시작한 후, 커리큘럼 방식으로 길이를 늘려 장기 의존성을 학습한다. 특히 “도전적 전이”(픽셀 차이가 큰 프레임 전환)만을 먼저 학습시켜 모델이 중요한 상태 변화를 빠르게 포착하도록 설계했다.

데이터는 Ubuntu XFCE 환경에서 수집된 10,000+ 시간의 화면·입력 로그이며, 무작위 자동화 스크립트와 LLM 기반 에이전트가 생성한 인간‑유사 인터랙션을 혼합했다. 합성 데이터는 Doom 게임 실행 화면을 포함해 실제 시스템에 존재하지 않는 애플리케이션을 가상으로 학습시켰으며, 모델은 이를 성공적으로 시뮬레이션한다. 실험 결과는 커서 궤적 오차 평균 3 px 이하, 애플리케이션 전환 정확도 92 %를 기록했으며, 정량적 프레임 차이와 인간 평가 모두에서 높은 충실도를 보였다.

한계점으로는 키보드 입력을 프레임 수준에서 완전 재현하기엔 해상도·시간 해상도가 부족하고, 디퓨전 샘플링 비용이 실시간 요구에 근접하지만 아직 GPU 메모리·연산량이 크게 소요된다는 점을 들 수 있다. 또한, 모델이 학습되지 않은 UI 요소에 대해 일반화가 제한적이며, 보안·프라이버시 측면에서 실제 OS 명령을 실행하지 않으므로 실제 시스템과의 인터페이스 격리 필요성이 강조된다. 향후 연구는 경량화된 디퓨전 아키텍처, 키보드·텍스트 입력의 고해상도 처리, 그리고 멀티‑모달(음성·제스처) 인터페이스와의 통합을 목표로 한다.