기계학습의 맹점: 예측 불가능한 미래를 향한 도전

본 논문은 기계 학습(ML)이 나이트의 불확실성(KU)이라는 중요한 측면을 간과하고 있으며, 진정한 강건한 오픈월드 AI를 위해서는 진화론적 접근을 포함한 새로운 연구 방향이 필요함을 주장합니다.

2025년 1월 22일, Joel Lehman 등 연구진이 발표한 논문 "Evolution and The Knightian Blindspot of Machine Learning"은 기계 학습(ML) 분야의 핵심적인 한계를 날카롭게 지적합니다. 바로 예측 불가능한 미래, 즉 '나이트의 불확실성(Knightian uncertainty)'에 대한 대비 부족입니다.

논문은 경제학에서 사용되는 '나이트의 불확실성' 개념을 도입하여, 기존 ML의 주요 공식들이 정량화할 수 없는 불확실성을 고려하지 않고 있다는 점을 강조합니다. 이는 자율주행 자동차가 미국에서 학습된 정책을 영국에서 그대로 적용하는 것이 극히 어려운 현실과 같이, 오픈월드 상황에서 ML의 취약성을 보여주는 대표적인 예시입니다.

반면, 생물학적 진화는 예측 불가능한 환경에서도 놀라울 정도로 강건한 생명체를 만들어냅니다. 외래종의 성공적인 정착이나, 전 세계 어디든 운전할 수 있는 인간의 능력이 좋은 예입니다. 흥미롭게도 진화는 명시적인 이론이나 공식, 수학적 경사도 없이 이러한 강건성을 달성합니다.

연구진은 강화학습(RL)의 전형적인 공식이 갖는 한계를 분석하고, 끊임없이 변화하는 복잡한 세계의 '알 수 없는 미지'에 대처하는 능력을 제한하는 요인을 밝힙니다. 동시에, 진화 과정에서 나타나는 새로운 도전에 대한 강건성 메커니즘을 파악하고, 이를 알고리즘으로 구현하는 방안을 모색합니다.

결론적으로, ML의 취약성은 공식 자체의 맹점에서 비롯될 수 있으며, '나이트의 불확실성'이라는 도전에 직면함으로써 ML의 한계를 극복하고, 더욱 강건한 AI를 개발할 수 있는 중요한 전환점이 될 수 있다고 주장합니다. 이 연구는 단순한 기술적 개선을 넘어, 인공지능의 본질과 미래에 대한 근본적인 질문을 던지고, 새로운 연구 방향을 제시하는 중요한 의미를 지닙니다. 앞으로 나이트의 불확실성에 대한 연구가 더욱 활발해지고, 진정으로 강건하고 예측 불가능한 미래에도 대처할 수 있는 인공지능 개발로 이어지기를 기대합니다.