딥디에프에이: 시계열 논리를 딥러닝에 융합한 뉴로심볼릭 프레임워크

초록

DeepDFA는 DFA·Moore 머신 형태의 시계열 논리를 연속적이고 미분 가능한 레이어로 구현해, 이미지 시퀀스 분류와 비마코프 강화학습 등 연속적·비정형 데이터에 논리적 제약을 주입한다. 기존 LSTM·Transformer 대비 성능 향상을 보이며, 기존 뉴로심볼릭 방법보다 심볼 그라운딩을 학습과정에 통합한다.

상세 분석

본 논문은 시계열 논리(Deterministic Finite Automata, DFA 및 Moore Machine)를 딥러닝 모델에 직접 삽입할 수 있는 연속적·미분 가능한 레이어인 DeepDFA를 제안한다. 핵심 아이디어는 확률적 유한 자동기(PFA)의 매트릭스 표현을 활용해 전이 확률을 파라미터화하고, 이를 신경망의 가중치와 동일하게 역전파가 가능하도록 설계하는 것이다. 이를 통해 두 가지 중요한 문제를 동시에 해결한다. 첫째, 심볼 그라운딩(symbol grounding) 문제를 해결한다. 입력은 원시 이미지나 센서 데이터와 같이 비상징적이며, 논리식에 등장하는 심볼은 사전 정의되지 않는다. DeepDFA는 별도의 심볼 인식 모듈을 두지 않고, 입력 특징을 바로 DFA의 전이 확률에 매핑함으로써 학습 과정에서 심볼-입력 매핑을 자동으로 학습한다. 둘째, 논리 제약 주입(knowledge injection)이다. 사용자는 DFA 혹은 LTLf 식으로 정의된 도메인 규칙을 고정된 전이/출력 파라미터로 제공하고, 손실 함수에 규칙 만족도(예: 최종 상태 확률)와 위반 패널티를 포함시켜 네트워크가 규칙을 따르도록 유도한다.

기술적 구현 측면에서, 저자들은 DFA를 상태 전이 텐서 T∈ℝ^{|Σ|×|Q|×|Q|}와 최종 상태 분포 ρ로 변환하고, 입력 시퀀스 σ_t를 소프트 심볼 확률 벡터 ˜σ_t와 곱해 상태 분포 ˜q_t를 재귀적으로 업데이트한다(식 4). 이 연산은 행렬-벡터 곱으로 구현되며, GPU 가속이 가능하다. 또한 Moore Machine 확장을 통해 각 상태에 출력 라벨 O를 부여함으로써 시퀀스 레벨 예측뿐 아니라 시점별 행동 선택에도 활용한다.

두 가지 실험 설정이 제시된다. (i) 정적 이미지 시퀀스 분류에서는 비디오 프레임을 CNN으로 특징 추출하고, 이를 DeepDFA에 입력해 활동 인식 또는 행동 순서 예측을 수행한다. 기존 LSTM·GRU·Transformer 대비 정확도와 학습 효율이 크게 개선되었으며, 특히 규칙이 명시된 데이터셋(예: “A→B→C” 패턴)에서 규칙 위반을 최소화한다. (ii) 비마코프 강화학습에서는 환경 관측이 비상징적이며 보상이 시계열 논리(LTLf)로 정의된 경우를 다룬다. 에이전트는 DeepDFA를 정책 네트워크에 삽입해 현재 상태를 자동으로 심볼로 변환하고, DFA 전이를 통해 목표 상태 도달 여부를 추적한다. 실험 결과, 기존 비마코프 RL 방법(예: Reward Shaping, LTLf‑based Reward Machines)보다 샘플 효율이 30% 이상 향상되고, 최종 성공률이 크게 상승했다.

비교 대상인 FuzzyDFA와 NeSyA는 모두 DFA를 연속화했지만, 전이 확률을 퍼지 논리로 해석하거나 고정된 확률 모델에 의존한다. 반면 DeepDFA는 확률적 전이를 직접 학습 파라미터로 두어, 데이터와 논리 규칙을 동시에 최적화한다. 또한, 기존 연구들은 주로 정적 시퀀스에만 적용되었으나, 본 논문은 동적 의사결정 환경까지 확장함으로써 뉴로심볼릭 접근법의 적용 범위를 크게 넓혔다.

한계점으로는 DFA 규모가 논리식 복잡도에 따라 급격히 커질 수 있어 메모리·연산 비용이 증가한다는 점, 그리고 현재는 단일 DFA에만 적용 가능해 복합 규칙(예: 다중 목표, 교차 제약)에는 추가적인 구조적 확장이 필요하다는 점을 언급한다. 향후 연구에서는 DFA 압축, 다중 자동기 병합, 그리고 메타러닝을 통한 규칙 자동 추출 등을 제안한다.

요약하면, DeepDFA는 시계열 논리와 딥러닝을 자연스럽게 결합한 최초의 연속형 자동기 레이어로, 심볼 그라운딩과 규칙 주입을 동시에 해결하며, 정적·동적 두 분야에서 기존 최첨단 모델을 능가한다.