MaskTerial: 2D 소재 플레이크 자동 검출을 위한 기반 모델

초록

MaskTerial는 합성 데이터로 사전 학습된 인스턴스 분할 네트워크와 물리 기반 불확실성 추정 모듈을 결합해 광학 현미경 이미지에서 2차원 재료 플레이크를 자동으로 탐지·분류한다. 합성 데이터 생성 파이프라인을 통해 30만 장 이상의 라벨이 없는 이미지로 사전 학습하고, 실제 실험에서는 5~10장의 소량 이미지만으로도 새로운 재료에 빠르게 적응한다. 저대비 재료(예: hBN) 검출에서 기존 방법보다 현저히 높은 정확도를 보이며, 8개의 데이터셋(5종 재료)에서 전반적인 성능 향상을 입증한다.

상세 분석

MaskTerial는 두 단계의 파이프라인을 채택한다. 첫 번째 단계는 Mask2Former 기반의 인스턴스 세그멘테이션 모델로, ResNet‑50 백본과 픽셀 디코더, 트랜스포머 디코더를 이용해 이미지 내 모든 2D 플레이크를 객체 후보로 추출한다. 여기서 중요한 점은 쿼리 임베딩을 학습시켜 객체 존재 여부를 탐지하도록 설계했으며, 클래스 라벨은 전혀 사용하지 않는다. 따라서 사전 학습 단계에서 재료 종류와 두께에 대한 편향이 없으며, “재료·클래스 무관”한 일반적인 특징을 학습한다는 장점이 있다.

두 번째 단계는 Arbitrary Mixture Model(AMM)이다. AMM은 추출된 마스크 영역의 광학 대비 값을 물리 기반 전이 행렬 방법(TMM)으로 시뮬레이션한 색상 공간에 매핑하고, 이를 스펙트럴 정규화와 잔차 연결을 적용한 작은 신경망에 입력한다. 이 네트워크는 각 클래스(단층, 이중층 등)의 대비 분포를 가우시안으로 근사하도록 학습한다. DDU(Deep Deterministic Uncertainty) 기법을 차용해 출력 임베딩이 부드럽고 선형에 가까운 공간에 정렬되도록 제약함으로써, 클래스별 확률 밀도 함수를 직접 계산해 불확실성을 정량화한다. 이는 전통적인 베이지안 신경망이 갖는 높은 계산 비용을 피하면서도, 예측에 대한 신뢰도를 제공한다는 점에서 의미가 크다.

데이터 측면에서 저자들은 두 단계의 합성 데이터 생성 파이프라인을 설계했다. 첫 번째는 10만 장 규모의 라벨이 없는 현미경 이미지에서 플레이크 형태를 자동 추출하는 과정이다. 그레이스케일 변환 → 밝기 임계값 → 연결 요소 분석 → L2 분류기로 품질 필터링을 거쳐 약 35 000개의 고품질 플레이크 형태를 확보한다. 두 번째는 이 형태들을 무작위로 배치·회전·크기 변형하고, 물질별 광학 파라미터(파장, 기판 두께, 물질 굴절률 등)를 이용해 색을 시뮬레이션한 뒤, 노이즈·비네팅·그림자 등을 추가해 현실감 있는 이미지와 정확한 마스크를 동시에 생성한다. 이렇게 만든 30만 장 이상의 합성 이미지(그래핀, CrI₃, hBN, TaS₂, MoSe₂, WS₂, WSe₂ 등)를 이용해 모델을 사전 학습시켰다.

실험에서는 5종 재료(그래핀, hBN, MoSe₂, WS₂, WSe₂)와 8개의 실제 데이터셋을 구축했다. 각 데이터셋은 기판 두께 변동(저, 중, 고 변이)과 독립적인 엑스폴리에이션 라운드로 구성돼 모델의 일반화 능력을 평가한다. 파인튜닝 단계에서는 재료당 510장의 라벨링된 이미지만 사용했음에도 불구하고, 기존 SVM·K‑means 기반 방법이나 단순 CNN 대비 평균 AP(average precision)와 F1 점수가 1530% 이상 상승했다. 특히 저대비 hBN의 경우, 기존 방법은 거의 검출하지 못했으나 MaskTerial는 0.85 이상의 AP를 기록했다.

또한 불확실성 추정 결과는 높은 신뢰도를 가진 예측과 낮은 신뢰도를 가진 예측을 명확히 구분해, 실험자가 의심스러운 결과를 재검토하도록 돕는다. 이는 자동화된 플레이크 선별 파이프라인에서 인간‑기계 협업을 가능하게 하는 중요한 부가 가치다.

전반적으로 MaskTerial는 (1) 물리‑기반 합성 데이터로 대규모 사전 학습을 수행해 라벨 부족 문제를 해결하고, (2) 인스턴스 세그멘테이션과 대비 기반 클래스 매핑을 분리함으로써 새로운 재료 추가 시 재학습 비용을 최소화하며, (3) DDU 기반 불확실성 추정으로 예측 신뢰성을 제공한다는 세 가지 핵심 혁신을 제시한다. 이러한 설계는 2D 재료 연구뿐 아니라, 저대비·소량 라벨 데이터가 일반적인 다른 과학·공학 이미지 분석 분야에도 확장 가능성을 시사한다.