Digital Twin-Driven Communication-Efficient Federated Anomaly Detection for Industrial IoT
๐ Abstract
์ฐ์ ์์คํ ์ ์์ ยท์ ๋ขฐยทํจ์จ์ฑ์ ์ ์งํ๊ธฐ ์ํด ์ด์ ํ์ง๊ฐ ํ์์ ์ด๋ค. ๊ธฐ์กด ํต๊ณยท๋จธ์ ๋ฌ๋ ๊ธฐ๋ฐ ๋ฐฉ๋ฒ์ ์ค์ ์ผ์ ๋ฐ์ดํฐ์๋ง ์์กดํ๊ณ ๋ผ๋ฒจ์ด ๋ถ์กฑํ๋ฉฐ ์คํ์ด ๋ง๊ณ ํ๋ผ์ด๋ฒ์ ๋ฌธ์ ๊ฐ ์๋ค. ์ด๋ฅผ ํด๊ฒฐํ๊ณ ์ ์ ํฌ๋ ๋์งํธ ํธ์๊ณผ ์ฐํฉ ํ์ต์ ๊ฒฐํฉํ DTFL ํ๋ ์์ํฌ๋ฅผ ์ ์ํ๋ค. DTML, FPF, LPE, CWA, DTKD์ ๋ค์ฏ ๊ฐ์ง ์๋ก์ด ์๊ณ ๋ฆฌ์ฆ์ ์ค๊ณํด ํฉ์ฑ ๋ฐ์ดํฐ์ ์ค์ ๋ฐ์ดํฐ๋ฅผ ํจ๊ณผ์ ์ผ๋ก ์ตํฉํ๊ณ ํต์ ๋น์ฉ์ ์ต์ํํ๋ค. ๊ณต๊ฐ ์ฌ์ด๋ฒโ๋ฌผ๋ฆฌ ์ด์ ํ์ง ๋ฐ์ดํฐ์ ์ ์ด์ฉํ ์คํ์์ ๋ชฉํ ์ ํ๋ 80%์ ๋ํด CWA๋ 33๋ผ์ด๋, FPF๋ 41๋ผ์ด๋, LPE๋ 48๋ผ์ด๋, DTML์ 87๋ผ์ด๋์ ๋๋ฌํ์ผ๋ฉฐ, FedAvg ๊ธฐ์ค๊ณผ DTKD๋ 100๋ผ์ด๋ ๋ด์ ๋๋ฌํ์ง ๋ชปํ๋ค. ์ด๋ DT ์ง์์ ์ฐํฉ ํ์ต์ ํตํฉํจ์ผ๋ก์จ ์๋ ด ์๋๊ฐ ํฌ๊ฒ ๊ฐ์ ๋๊ณ , ํต์ ๋ผ์ด๋ ์๊ฐ ์ต๋ 62%๊น์ง ๊ฐ์ํจ์ ๋ณด์ฌ์ค๋ค.
๐ก Deep Analysis
๋ณธ ๋ ผ๋ฌธ์ ์ฐ์ ์ฉ ์ฌ๋ฌผ์ธํฐ๋ท(IIoT) ํ๊ฒฝ์์ ์ค์๊ฐ ์ด์ ํ์ง๋ฅผ ๊ตฌํํ๊ธฐ ์ํ ๋ ๊ฐ์ง ํต์ฌ ๊ณผ์ โ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์์ ํต์ ํจ์จ์ฑโ๋ฅผ ๋์์ ํด๊ฒฐํ๊ณ ์ ํ๋ค. ๊ธฐ์กด ์ฐ๊ตฌ๋ ์ฃผ๋ก ์ค์์ง์ค์ ํ์ต์ ์์กดํ๊ฑฐ๋, ์ฐํฉ ํ์ต(Federated Learning, FL) ์ ์ฉ ์ ์ค์ ์ผ์ ๋ฐ์ดํฐ๋ง์ ์ฌ์ฉํด ๋ชจ๋ธ์ ์ ๋ฐ์ดํธํ๋ค. ์ด๋ฌํ ์ ๊ทผ์ ๋ผ๋ฒจ์ด ์ถฉ๋ถํ ํ๋ณด๋์ง ์์ ์ํฉ์์ ๊ณผ์ ํฉ ์ํ์ด ๋๊ณ , ์ค์ ํ์ฅ ๋ฐ์ดํฐ์ ์๋ฎฌ๋ ์ด์ ๋ฐ์ดํฐ ๊ฐ์ ๋๋ฉ์ธ ์ฐจ์ด๋ก ์ธํด ์ผ๋ฐํ ์ฑ๋ฅ์ด ์ ํ๋๋ ํ๊ณ๋ฅผ ๊ฐ์ง๋ค. ๋ํ, ์ฐํฉ ํ์ต์์ ๋งค ๋ผ์ด๋๋ง๋ค ์ ์ฒด ๋ชจ๋ธ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ตํํ๋ ๋ฐฉ์์ ๋คํธ์ํฌ ๋์ญํญ์ ํฌ๊ฒ ์๋ชจํด IIoT์ ๊ฐ์ด ์ ํ๋ ํต์ ํ๊ฒฝ์ ๋ถ์ ํฉํ๋ค.
์ด์ ์ ์๋ค์ ๋์งํธ ํธ์(Digital Twin, DT)์ด๋ผ๋ ๊ฐ์ ๋ณต์ ์ฒด๋ฅผ ํ์ฉํด ํฉ์ฑ ๋ฐ์ดํฐ๋ฅผ ์์ฑํ๊ณ , ์ด๋ฅผ ์ฐํฉ ํ์ต์ ํตํฉํ๋ DTFL ํ๋ ์์ํฌ๋ฅผ ์ค๊ณํ์๋ค. ํนํ ๋ค์ฏ ๊ฐ์ง ์๊ณ ๋ฆฌ์ฆโDigital TwinโBased MetaโLearning(DTML), Federated Parameter Fusion(FPF), Layerโwise Parameter Exchange(LPE), Cyclic Weight Adaptation(CWA), Digital Twin Knowledge Distillation(DTKD)โ์ ๊ฐ๊ฐ ๋ค์๊ณผ ๊ฐ์ ์ฐจ๋ณ์ ์ ๊ฐ๋๋ค.
-
DTML์ ๋ฉํโ๋ฌ๋ ๋ฉ์ปค๋์ฆ์ ๋์ ํด DT์์ ์ฌ์ ํ์ต๋ ํ๋ผ๋ฏธํฐ๋ฅผ ์ด๊ธฐํ๊ฐ์ผ๋ก ํ์ฉํ๋ค. ์ด๋ ๊ฐ ํด๋ผ์ด์ธํธ๊ฐ ์ ์ ๋ผ๋ฒจ ๋ฐ์ดํฐ๋ง์ผ๋ก๋ ๋น ๋ฅด๊ฒ ์ ์ํ๋๋ก ๋์ง๋ง, ๋ฉํโ์ ๋ฐ์ดํธ ๊ณผ์ ์์ ์ถ๊ฐ์ ์ธ ํต์ ์ด ๋ฐ์ํ๋ค๋ ๋จ์ ์ด ์๋ค.
-
FPF๋ ๊ฐ ํด๋ผ์ด์ธํธ๊ฐ ๋ก์ปฌ ์ ๋ฐ์ดํธ ํ ํ๋ผ๋ฏธํฐ๋ฅผ ๋จ์ ํ๊ท ์ด ์๋ ๊ฐ์ค์น ๊ธฐ๋ฐ์ผ๋ก ์ตํฉํ๋ค. DT์์ ๋์ถ๋ ์ ๋ขฐ๋ ์ ์๋ฅผ ๊ฐ์ค์น์ ๋ฐ์ํจ์ผ๋ก์จ, ํ์ง์ด ๋์ ๊ฐ์ ๋ฐ์ดํฐ๊ฐ ์ค์ ๋ฐ์ดํฐ๋ณด๋ค ํฐ ์ํฅ๋ ฅ์ ํ์ฌํ๋๋ก ์ค๊ณ๋์๋ค.
-
LPE๋ ์ ์ฒด ๋ชจ๋ธ์ด ์๋ ์ธต๋ณ๋ก ํ๋ผ๋ฏธํฐ๋ฅผ ๊ตํํ๋ค. ํ์ ์ธต(ํน์ง ์ถ์ถ)์์๋ DT ํ๋ผ๋ฏธํฐ๋ฅผ, ์์ ์ธต(๋ถ๋ฅ/ํ์ )์์๋ ์ค์ ๋ฐ์ดํฐ ํ๋ผ๋ฏธํฐ๋ฅผ ๊ตํํจ์ผ๋ก์จ ํต์ ๋์ ์ฝ 30% ์ ๊ฐํ๋ฉด์๋ ์ฑ๋ฅ ์ ํ๋ฅผ ์ต์ํํ๋ค.
-
CWA๋ ๋ผ์ด๋๋ง๋ค ๊ฐ์ค์น๋ฅผ ์ํ์ ์ผ๋ก ์กฐ์ ํ๋ค. ์ด๊ธฐ ๋ผ์ด๋์์๋ DT ํ๋ผ๋ฏธํฐ ๋น์ค์ ๋๊ฒ ๋๊ณ , ํ์ต์ด ์งํ๋ ์๋ก ์ค์ ๋ฐ์ดํฐ ๋น์ค์ ๋๋ ค ๊ฐ๋ฉฐ, ์ด๋ฅผ ํตํด ๋ชฉํ ์ ํ๋์ ๊ฐ์ฅ ๋น ๋ฅด๊ฒ ๋๋ฌํ๋ค๋ ์คํ ๊ฒฐ๊ณผ๊ฐ ํ์ธ๋์๋ค.
-
DTKD๋ ์ง์ ์ฆ๋ฅ(Knowledge Distillation) ๋ฐฉ์์ ์ฐจ์ฉํด DT ๋ชจ๋ธ์ โ๊ต์ฌโ๋ก, ๋ก์ปฌ ๋ชจ๋ธ์ โํ์โ์ผ๋ก ๋๊ณ ์์ค ํจ์๋ฅผ ์ค๊ณํ๋ค. ๊ทธ๋ฌ๋ ์คํ์์๋ 100๋ผ์ด๋ ๋ด์ ๋ชฉํ ์ ํ๋์ ๋๋ฌํ์ง ๋ชปํ์ผ๋ฉฐ, ์ด๋ DT์ ์ค์ ๋ฐ์ดํฐ ๊ฐ ๋๋ฉ์ธ ๊ฒฉ์ฐจ๊ฐ ํฐ ๊ฒฝ์ฐ ์ฆ๋ฅ ํจ๊ณผ๊ฐ ์ ํ์ ์์ ์์ฌํ๋ค.
์คํ์ ๊ณต๊ฐ๋ ์ฌ์ด๋ฒโ๋ฌผ๋ฆฌ ์์คํ (CPS) ์ด์ ํ์ง ๋ฐ์ดํฐ์ ์ ์ฌ์ฉํ์ผ๋ฉฐ, ๋ชฉํ ์ ํ๋ 80%๋ฅผ ๊ธฐ์ค์ผ๋ก ๋ผ์ด๋ ์๋ฅผ ๋น๊ตํ์๋ค. CWA๊ฐ 33๋ผ์ด๋๋ก ๊ฐ์ฅ ๋น ๋ฅด๊ฒ ์๋ ดํ์ผ๋ฉฐ, ์ด๋ ๊ธฐ์กด FedAvg ๋๋น ์ฝ 60% ์ ์ ๋ผ์ด๋ ์์ ํด๋นํ๋ค. FPF์ LPE๋ ๊ฐ๊ฐ 41, 48๋ผ์ด๋์ ๋ชฉํ์ ๋๋ฌํด ํต์ ํจ์จ์ฑ์ ํฌ๊ฒ ํฅ์์์ผฐ๋ค. ๋ฐ๋ฉด DTML์ 87๋ผ์ด๋๋ก ๊ฐ์ฅ ๋ฆ์๊ณ , DTKD์ FedAvg๋ 100๋ผ์ด๋ ๋ด์ ๋ชฉํ๋ฅผ ๋ฌ์ฑํ์ง ๋ชปํ๋ค. ์ด๋ฌํ ๊ฒฐ๊ณผ๋ โ๋์งํธ ํธ์ ์ง์ + ์ฐํฉ ํ์ตโ ์กฐํฉ์ด ๋จ์ํ ๋ฐ์ดํฐ ์์ ๋๋ฆฌ๋ ๊ฒ์ด ์๋๋ผ, ์ ์ ํ ํ๋ผ๋ฏธํฐ ๊ตํ ์ ๋ต๊ณผ ๊ฐ์ค์น ์กฐ์ ๋ฉ์ปค๋์ฆ์ ํตํด ํ์ต ์๋ ด ์๋๋ฅผ ๊ฐ์ํํ๋ค๋ ์ ์ ์ ์ฆํ๋ค.
ํ์ง๋ง ๋ช ๊ฐ์ง ํ๊ณ์ ๋ ์กด์ฌํ๋ค. ์ฒซ์งธ, DT ๋ชจ๋ธ์ ํ์ง์ ํฌ๊ฒ ์์กดํ๋ฏ๋ก, DT ๊ตฌ์ถ ๋น์ฉ ๋ฐ ์ ํ๋๊ฐ ๋ฎ์ ๊ฒฝ์ฐ ์ ์ฒด ์ฑ๋ฅ์ด ์ ํ๋ ์ํ์ด ์๋ค. ๋์งธ, ์คํ์ ๋จ์ผ ๊ณต๊ฐ ๋ฐ์ดํฐ์ ์ ๊ตญํ๋์ด ์์ด, ๋ค์ํ ์ฐ์ ํ์ฅ(์ ์กฐ, ์๋์ง, ์ค๋งํธ ํฉํ ๋ฆฌ ๋ฑ)์์์ ์ผ๋ฐํ ๊ฐ๋ฅ์ฑ์ ์ถ๊ฐ ๊ฒ์ฆํด์ผ ํ๋ค. ์ ์งธ, ๋ผ์ด๋๋น ํ๋ผ๋ฏธํฐ ๊ตํ๋์ ์ ๊ฐํ์ง๋ง, ์ค์ IIoT ๋คํธ์ํฌ์์ ๋ฐ์ํ ์ ์๋ ํจํท ์์คยท์ง์ฐ ๋ฑ์ ๋ํ ๊ฒฌ๊ณ ์ฑ ํ๊ฐ๊ฐ ๋ถ์กฑํ๋ค. ํฅํ ์ฐ๊ตฌ์์๋ ๋ค์ค DTยท๋ฉํฐํ์คํฌ ์ฐํฉ ํ์ต, ๋น๋๊ธฐ์ ์ ๋ฐ์ดํธ, ๊ทธ๋ฆฌ๊ณ ๋ณด์ ๊ฐํ(์: ์ฐจ๋ฑ ํ๋ผ์ด๋ฒ์)์ ๊ฒฐํฉํ ์ข ํฉ ํ๋ ์์ํฌ๋ฅผ ์ ์ํจ์ผ๋ก์จ ์ค์ด์ฉ ํ๊ฒฝ์ ๋ณด๋ค ์ ํฉํ ์๋ฃจ์ ์ ๋์ถํ ์ ์์ ๊ฒ์ด๋ค.
๐ Full Content
์ด์ ํ์ง๋ ์ฐ์ ์์คํ ์ ์์ ์ฑ, ์ ๋ขฐ์ฑ ๋ฐ ํจ์จ์ฑ์ ์ ์งํ๋ ๋ฐ ์ ์ ๋ ์ค์ํด์ง๊ณ ์๋ค. ์ต๊ทผ ๋์งํธ ํธ์๊ณผ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ์์ฌ๊ฒฐ์ ์ ๋ฑ์ฅ์ผ๋ก ์ฌ๋ฌ ํต๊ณ ๋ฐ ๋จธ์ ๋ฌ๋ ๋ฐฉ๋ฒ์ด ์ ์๋์์ง๋ง, ์ด๋ฌํ ๋ฐฉ๋ฒ๋ค์ ์ค์ ์ผ์ ๋ฐ์ดํฐ์๋ง ์์กดํ๊ณ ๋ผ๋ฒจ์ด ์ ํ์ ์ด๋ฉฐ ์คํ๋ฅ ์ด ๋๊ณ ํ๋ผ์ด๋ฒ์ ๋ฌธ์ ๊ฐ ์กด์ฌํ๋ค๋ ํ๊ณ๋ฅผ ๊ฐ์ง๋ค. ์ด๋ฌํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ์ฐ๋ฆฌ๋ ๋์งํธ ํธ์๊ณผ ์ฐํฉ ํ์ต์ ํตํฉํ DTFL(Digital TwinโIntegrated Federated Learning) ๋ฐฉ๋ฒ๊ตฐ์ ์ ์ํ๋ค. ์ด ๋ฐฉ๋ฒ๊ตฐ์ ์ ์ญ ๋ชจ๋ธ ์ฑ๋ฅ์ ํฅ์์ํค๋ฉด์ ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์์ ํต์ ํจ์จ์ฑ์ ๋ณด์ฅํ๋ค. ๊ตฌ์ฒด์ ์ผ๋ก ๋์งํธ ํธ์ ๊ธฐ๋ฐ ๋ฉํโ๋ฌ๋(DTML), ์ฐํฉ ํ๋ผ๋ฏธํฐ ์ตํฉ(FPF), ์ธต๋ณ ํ๋ผ๋ฏธํฐ ๊ตํ(LPE), ์ํ ๊ฐ์ค์น ์ ์(CWA), ๋์งํธ ํธ์ ์ง์ ์ฆ๋ฅ(DTKD)๋ผ๋ ๋ค์ฏ ๊ฐ์ง ์๋ก์ด ์ ๊ทผ๋ฒ์ ์ ์ํ๋ค. ๊ฐ ๋ฐฉ๋ฒ์ ํฉ์ฑ ์ง์๊ณผ ์ค์ ์ง์์ ๊ฒฐํฉํ๋ ๊ณ ์ ํ ๋ฉ์ปค๋์ฆ์ ๋์ ํ์ฌ ์ผ๋ฐํ์ ํต์ ์ค๋ฒํค๋ ์ฌ์ด์ ๊ท ํ์ ๋ง์ถ๋ค. ์ฐ๋ฆฌ๋ ๊ณต๊ฐ๋ ์ฌ์ด๋ฒโ๋ฌผ๋ฆฌ ์ด์ ํ์ง ๋ฐ์ดํฐ์ ์ ์ฌ์ฉํด ๊ด๋ฒ์ํ ์คํ์ ์ํํ์๋ค. ๋ชฉํ ์ ํ๋ 80%์ ๋ํด CWA๋ 33๋ผ์ด๋, FPF๋ 41๋ผ์ด๋, LPE๋ 48๋ผ์ด๋, DTML์ 87๋ผ์ด๋์ ๋๋ฌํ์ผ๋ฉฐ, ํ์ค FedAvg ๊ธฐ์ค๊ณผ DTKD๋ 100๋ผ์ด๋ ๋ด์ ๋ชฉํ์ ๋๋ฌํ์ง ๋ชปํ๋ค. ์ด๋ฌํ ๊ฒฐ๊ณผ๋ DT ์ง์์ ์ฐํฉ ํ์ต์ ํตํฉํจ์ผ๋ก์จ ์๋ ด ์๋๊ฐ ํฌ๊ฒ ํฅ์๋๊ณ , ๋ผ์ด๋ ์๊ฐ ์ต๋ 62%๊น์ง ๊ฐ์ํจ์ ๋ณด์ฌ์ค๋ค. ์ด๋ ์ฐ์ ์ฉ IoT ์ด์ ํ์ง์์ ์ด์์ ์๋ฏธ ์๋ ์ ํ๋ ์๊ณ๊ฐ์ ๋๋ฌํ๊ธฐ ์ํ ํต์ ํจ์จ์ฑ ํฅ์์ ์ ์ฆํ๋ค.