EgoNormia: AI의 사회적 규범 이해 능력, 과연 어디까지 왔을까?

본 기사는 EgoNormia 데이터셋을 활용한 AI의 사회적 규범 이해 능력 평가 연구에 대해 다룹니다. 현재 AI 모델의 사회적 규범 이해 능력이 미흡하다는 점을 지적하며, EgoNormia를 통해 AI의 윤리적 안전성 확보 및 성능 향상을 위한 연구 방향을 제시합니다.

인간의 행동은 사회적 규범에 의해 조절됩니다. 하지만 기계는 특히 물리적, 사회적 맥락에서 규범을 이해하고 추론하는 능력이 부족합니다. MohammadHossein Rezaei 등 연구진은 이 문제에 대한 해결책으로 EgoNormia라는 새로운 데이터셋을 제시했습니다.

EgoNormia는 1,853개의 1인칭 시점 영상과 각 영상에 대한 두 가지 질문으로 구성됩니다. 질문은 규범적 행동의 예측과 정당화를 평가하며, 안전, 프라이버시, 근접성, 예의, 협력, 조정/능동성, 의사소통/가독성 등 7가지 범주를 포함합니다. 연구진은 영상 샘플링, 자동 답변 생성, 필터링, 인간 검증을 통합한 새로운 파이프라인을 제시하여 이 방대한 데이터셋을 구축했습니다.

흥미롭게도, 연구 결과는 현재 최첨단 시각-언어 모델이 EgoNormia 평가에서 45%의 점수를 기록한 반면, 인간은 92%의 점수를 기록했다는 것을 보여줍니다. 이는 AI가 안전, 프라이버시, 협업 및 의사소통 능력 부족 측면에서 상당한 위험을 안고 있음을 시사합니다. 하지만 희망적인 소식도 있습니다. 연구진은 EgoNormia를 이용한 검색 기반 생성 방법이 시각-언어 모델의 규범적 추론 능력을 향상시킬 수 있음을 보여주었습니다.

결론: AI의 윤리적 개발을 위한 중요한 발걸음

EgoNormia는 AI의 사회적 규범 이해 능력을 평가하고 향상시키기 위한 중요한 도구입니다. 이 연구는 AI가 실제 세계에 적용될 때 발생할 수 있는 윤리적 문제를 조명하고, 보다 안전하고 책임감 있는 AI 개발을 위한 새로운 방향을 제시합니다. EgoNormia를 통한 지속적인 연구는 AI의 사회적 통합에 필수적인 요소가 될 것입니다. 특히, 안전과 프라이버시에 대한 규범 이해 부족은 AI 기술의 발전과 동시에 이에 대한 심도 있는 논의와 해결책 마련이 시급함을 강조합니다.