딥러닝 기반 기계적 박리 2D 결정 품질 자동 필터링

초록

본 연구는 광학 현미경 이미지에서 원자층 두께의 MoS₂ 박리를 자동으로 구분하기 위해 U‑Net 구조를 변형한 딥러닝 모델을 제안한다. 24장의 이미지만으로 학습한 모델은 단일층과 이중층을 70 % 정확도로 식별했으며, 이는 인간의 육안 검증을 대체할 수 있는 실용적인 수준이다.

상세 분석

이 논문은 2차원 물질 연구에서 가장 빈번히 사용되는 기계적 박리 공정의 병목 현상을 AI로 해결하려는 시도이다. 데이터셋은 SiO₂/Si 기판 위에 전이된 MoS₂ 박리를 광학 현미경으로 촬영한 24장의 이미지와, 각각의 픽셀에 레이블을 부여한 마스크 파일로 구성되었다. 레이블은 ‘배경’, ‘단일층’, ‘이중층’, ‘다층’ 네 클래스로 정의했으며, 특히 단일층과 이중층을 구분하는 경계가 미세해 라벨링 오류가 발생하기 쉬운 점을 감안해 전문가가 직접 검증한 후 사용하였다. 모델은 전통적인 U‑Net 구조를 기반으로 하되, 인코더 단계에 ResNet‑34 사전학습 가중치를 도입해 특징 추출 능력을 강화하였다. 디코더에서는 스킵 연결을 유지하면서 채널 수를 점진적으로 감소시켜 연산량을 최적화했으며, 최종 출력은 Softmax를 통해 4‑클래스 확률 맵을 생성한다. 손실 함수는 클래스 불균형을 보정하기 위해 가중치가 부여된 교차 엔트로피와 Dice 손실을 결합한 복합 손실을 사용하였다. 학습은 200 epoch 동안 Adam 옵티마이저(learning rate = 1e‑4)로 진행했으며, 데이터 증강으로 회전·수평·수직 반전·밝기 변화를 적용해 일반화 성능을 높였다. 검증 결과, 전체 정확도는 78 %였고, 특히 단일층과 이중층을 구분한 정확도는 각각 70 %와 68 % 수준으로, 인간이 육안으로 판별할 때 보이는 오류율과 비슷하거나 약간 낮은 수준이다. 한계점으로는 데이터 양이 극히 제한적이어서 모델이 복잡한 배경이나 다른 2D 물질(예: WS₂, graphene)에는 일반화되지 않을 가능성이 있다. 또한, 두께가 3층 이상인 경우 레이블이 ‘다층’으로 통합돼 세부 구분이 어려워 실제 공정에서 완전 자동화를 위해서는 추가적인 다중 클래스 학습이나 전이 학습이 필요하다. 향후 연구에서는 다양한 기판, 조명 조건, 다른 2D 물질을 포함한 대규모 데이터셋 구축과, 경량화된 모델을 이용한 실시간 현미경 연동 시스템 개발이 제안된다.