다항식 최적화 이론으로 푸는 분수 다항식 문제

본 논문은 분수 형태의 목적함수와 다항식 제약조건을 갖는 일반적인 최적화 문제, 즉 Fractional Polynomial Problem(FPP)을 다루며, 기존 최적화 기법이 요구하는 볼록·오목성 가정을 완전히 배제한다. 서론에서는 에너지 효율(EE) 최대화, 필터 설계, 원격 탐사 등 다양한 신호 처리 분야에서 FPP가 등장함을 언급하고, 기존 방법으로는 Dinkelbach 알고리즘, 교대 최적화, 반정밀 완화 등이 있지만, 이들 모두 함수가 볼록·오목일 때만 효율적으로 동작한다는 한계를 지적한다. 제안된 프레임워크는 먼저 Dinkelbach 알고리즘을 적용해 원래의 분수 문제를 일련의 비분수 문제 pₖ(x)=f(x)−λₖg(x) 로 변환한다. 이때 pₖ(x)는 일반적인 다항식이며, 비볼록성을 가질 수 있다. 이를 해결하기 위해 SOS(Sum‑of‑Squares) 이론을 도입한다. 모든 제약식 hᵢ(x)≥0과 목표식 pₖ(x)−t≥0을 하나의 SOS 라그랑지안 형태로 결합하고, 각 라그랑지안 승수 σ(x), σ₀(x), σᵢ(x) 를 적절한 차수 ℓ의 SOS 다항식으로 제한한다. 이렇게 구성된 SOS 재구성 (6) 은 강한 이중성을 만족하며, 그 이중 문제는 반정밀 프로그램(SDP) (7) 으로 변환된다. 논문은 Theorem 1을 통해 ℓ→∞일 때 SOS 해가 원 문제의 전역 최적값에 수렴함을 증명하고, 실용적인 차수 ℓ를 선택하면 원하는 정확도 내에서 최적해를 얻을 수 있음을 보인다. 복잡도 분석에서는 SDP의 변수 수가 sₙ,𝑑≈nᵈ이며, 전체 연산량이 O(n² m sₙ,𝑑³ + n m sₙ,𝑑⁴) 로 다항식 시간에 해결 가능함을 제시한다. 특히 변수 차원이 작고 차수 ℓ가 적당히 크면 실제 연산 시간은 수십 마이크로초 수준에 그친다. 응용 사례로는 다중 사용자 MU‑MIMO 시스템에서 EE를 최대화하는 문제를 선택한다. 여기서 최적화 변수는 사용자 수 K와 안테나 수 M이며, SINR 제약을 만족하도록 설계한다. 목적함수와 제약식은 모두 다항식 형태로 표현될 수 있어 (1)‑(11) 형태의 FPP로 변환된다. 알고리즘 1을 ℓ=12(𝑑=6) 로 설정해 실행하면, 5~6 회의 반복만에 전역 최적값에 10⁻⁴ 수준의 상대 오차로 수렴한다. 결과는 exhaustive search와 거의 일치하며, 기존 교대 최적화보다 훨씬 빠르고 안정적인 수렴을 보인다. 결론에서는 제안된 SOS‑Dinkelbach 프레임워크가 볼록성 가정 없이도 전역 최적해에 접근할 수 있는 강력한 도구임을 강조하고, 전력 제어, 회로 설계 등 비다항식 함수를 다항식 근사로 변환할 수 있는 다양한 분야에 적용 가능함을 제시한다.