뇌과학 영감, AI 자기 지도 학습의 새 지평을 열다: 메타 표상 예측 부호화(MPC)

본 기사는 뇌과학 원리를 기반으로 한 새로운 자기 지도 학습 방식인 메타 표상 예측 부호화(MPC)에 대해 소개합니다. MPC는 기존 방식의 한계를 극복하고 생물학적 타당성을 확보하여 AI 학습의 새로운 지평을 열 것으로 기대됩니다.

뇌과학에서 영감을 얻은 혁신적인 AI 학습 모델 등장

인공지능 분야에서 자기 지도 학습(Self-supervised learning)의 중요성이 날로 커지고 있습니다. 최근 뇌과학 연구에서도 자기 지도 적응에 대한 증거가 제시되면서, 뇌의 작동 원리를 모방한 AI 개발에 대한 기대가 높아지고 있습니다. 하지만 기존의 자기 지도 학습은 역전파 오류(backpropagation of errors)와 순방향 추론(feedforward inference)에 의존하는데, 이는 생물학적으로 타당하지 않다는 비판을 받아왔습니다.

기존 한계 극복을 위한 새로운 접근: 메타 표상 예측 부호화(MPC)

Alexander Ororbia, Karl Friston, Rajesh P. N. Rao 세 연구자는 이러한 한계를 극복하기 위해 메타 표상 예측 부호화(MPC) 라는 새로운 자기 지도 학습 방식을 제시했습니다. MPC는 자유 에너지 원리(free energy principle)에 기반하여, 감각 입력의 원시 데이터(예: 픽셀)를 직접 예측하는 대신, 병렬 스트림을 통해 감각 입력의 표상을 예측합니다. 이를 통해 생성 모델 학습의 필요성을 없애고 인코더 전용 학습 및 추론 체계를 구현했습니다. 이는 기존 자기 지도 학습의 생물학적 비타당성 문제를 해결하는 획기적인 시도입니다.

능동 추론: 더욱 효율적인 표상 학습

MPC는 능동 추론(active inference) 을 활용하여 모델이 스스로 정보가 풍부한 감각 부분을 선택적으로 샘플링하도록 합니다. 이러한 능동적인 감각 샘플링(sensory glimpsing)은 표상 학습의 효율성을 높이는 데 기여합니다. 즉, 모델이 중요한 정보에 집중함으로써 학습 과정을 최적화하는 것입니다.

미래를 향한 도약: 뇌과학과 AI의 융합

MPC는 뇌과학적 원리를 AI 학습에 적용한 성공적인 사례로 평가받고 있습니다. 이는 단순히 AI 성능 향상을 넘어, 뇌의 작동 원리를 이해하고 모방함으로써 인간 지능의 비밀을 밝히는 데에도 중요한 의미를 가집니다. 앞으로 MPC가 AI 분야에 어떤 혁신을 가져올지, 그리고 뇌과학과 AI의 융합이 인류에게 어떤 미래를 선사할지 기대됩니다. 이 연구는 뇌과학과 AI 기술의 융합이 가져올 잠재력을 보여주는 중요한 이정표가 될 것입니다.