획기적인 데이터 증강 기법: 게임과 로봇 제어의 지평을 넓히다
제한된 데이터로 인해 어려움을 겪는 로보틱스 및 게임 분야의 지시 수행 에이전트의 확장성 문제를 해결하기 위해, 연구팀은 비주석 플레이 궤적에서 레이블이 지정된 세그먼트를 추출하는 Play Segmentation(PS) 모델을 제안했습니다. PS를 통해 두 배의 레이블 데이터로 학습한 정책과 동등한 성능을 달성, 데이터 효율적인 AI 발전의 가능성을 제시했습니다.

로봇 공학이나 게임 분야에서 지시를 따르는 에이전트의 확장성은 지시와 에이전트 궤적을 연결하는 제한된 데이터 때문에 종종 저해됩니다. Niklas Höpner, Ilaria Tiddi, Herke van Hoof 세 연구자는 최근 논문 "Data Augmentation for Instruction Following Policies via Trajectory Segmentation" 에서 이 문제에 대한 흥미로운 해결책을 제시했습니다.
문제: 부족한 데이터, 막대한 잠재력
현실은 데이터가 부족하다는 것입니다. 하지만, 다양한 에이전트 행동(플레이 궤적)의 시퀀스를 포함하는 많은 양의 비주석 궤적 데이터는 흔히 있습니다. 이러한 풍부한, 하지만 활용되지 않은 데이터를 어떻게 활용할 수 있을까요?
해결책: Play Segmentation(PS)을 통한 '똑똑한' 데이터 증강
연구팀은 이 문제를 해결하기 위해 반지도 학습 방식을 채택했습니다. 주요 아이디어는 비주석 플레이 궤적에서 레이블이 지정된 세그먼트를 추출하여 작은 주석 데이터셋을 보강하는 것입니다. 이를 위해 연구팀은 Play Segmentation(PS) 이라는 확률 모델을 제안했습니다. PS는 개별 지시 세그먼트에서만 학습되지만, 확장된 하위 세그먼트의 최대 가능성 분할을 찾아냅니다. 이는 세그먼트 길이의 변화에 대한 제약을 해결하는 핵심입니다.
놀라운 결과: 두 배의 데이터 효과
게임 환경과 시뮬레이션된 로봇 그리퍼 설정에서의 실험 결과는 PS의 효과를 명확하게 보여줍니다. 무작위로 샘플링된 세그먼트를 사용하면 성능이 저하되는 반면, PS에서 추출된 레이블이 지정된 세그먼트를 통합하면 정책 성능이 크게 향상됩니다. 실제로, 두 배의 레이블이 지정된 데이터로 학습된 정책과 동등한 수준의 성능을 달성했습니다.
결론: 새로운 가능성의 시작
이 연구는 제한된 데이터로 인해 어려움을 겪는 다양한 AI 응용 분야에 새로운 가능성을 열었습니다. PS와 같은 데이터 증강 기법은 앞으로 로봇 제어, 게임 AI, 그리고 더 나아가 다양한 영역에서 AI 에이전트의 성능 향상에 크게 기여할 것으로 기대됩니다. 데이터의 효율적인 활용이 AI 발전의 핵심이라는 점을 다시 한번 상기시켜주는 중요한 연구입니다.
Reference
[arxiv] Data Augmentation for Instruction Following Policies via Trajectory Segmentation
Published: (Updated: )
Author: Niklas Höpner, Ilaria Tiddi, Herke van Hoof
http://arxiv.org/abs/2503.01871v1