잠재 베이지안 최적화의 혁신: 자동회귀 정규화 흐름을 활용한 새로운 지평

이승훈, 박진영, 주재원, 윤민서, 김현우 교수 연구팀은 잠재 베이지안 최적화(LBO)의 한계를 극복하기 위해 정규화 흐름 기반의 새로운 베이지안 최적화 기법(NF-BO)을 제안했습니다. 특히, 순차 데이터를 위한 자동회귀 정규화 흐름(SeqFlow)과 동적 탐색 확률 조절 전략을 통해 분자 생성 작업에서 뛰어난 성능을 달성했습니다.

고차원 데이터의 최적화, 쉽지 않은 과제죠. 특히, 분자 생성이나 염기서열 분석처럼 복잡하고 비용이 많이 드는 작업에서는 더욱 어려움을 겪습니다. 기존의 베이지안 최적화(BO)는 이러한 문제에 효과적인 해결책으로 여겨져 왔지만, 고차원 데이터의 복잡성을 다루는 데는 한계가 있었습니다.

이러한 한계를 극복하고자 등장한 것이 바로 잠재 베이지안 최적화(LBO) 입니다. LBO는 VAE(Variational Autoencoder)와 같은 생성 모델을 활용하여 고차원 데이터 공간을 효과적으로 관리하려는 시도였죠. 하지만 기존 LBO는 값 불일치 문제(value discrepancy problem) 라는 난관에 부딪혔습니다. 입력 공간과 잠재 공간 사이의 재구성 차이로 인해 오류가 발생하고, 최적화 과정 전체에 영향을 미쳐 최적의 결과를 얻지 못하는 경우가 많았습니다.

이 문제를 해결하기 위해 이승훈, 박진영, 주재원, 윤민서, 김현우 교수 연구팀은 정규화 흐름(Normalizing Flow) 기반의 새로운 베이지안 최적화 기법인 NF-BO를 제안했습니다. NF-BO는 정규화 흐름을 생성 모델로 활용하여 입력 공간과 잠재 공간 사이의 일대일 매핑 함수를 구축하고, 재구성 차이를 근본적으로 제거합니다.

특히, 연구팀은 순차 데이터에 특화된 자동회귀 정규화 흐름(SeqFlow) 을 새롭게 개발했습니다. 그리고 각 토큰의 중요도에 따라 탐색 확률을 동적으로 조절하는 혁신적인 후보 샘플링 전략을 도입하여 최적화 효율을 더욱 높였습니다.

실험 결과, NF-BO는 분자 생성 작업에서 기존 LBO 기법들을 압도적으로 능가하는 성능을 보여주었습니다. 이는 고차원 데이터 최적화 문제에 대한 새로운 해결책을 제시하는 중요한 성과입니다. NF-BO는 단순한 최적화 기법을 넘어, 생성 모델과 최적화 알고리즘의 시너지를 통해 복잡한 과학적 문제 해결에 기여할 잠재력을 가지고 있습니다. 앞으로 NF-BO가 다양한 분야에서 활용되어 더욱 놀라운 결과를 만들어낼지 기대됩니다!