๐ค "ํ์ง ๋ง์ธ์!" : ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ ๊ธฐ๋ฐ ์ ์ฝ ์์ฑ์ ํตํ ๊ตฌํ ์์คํ ์๋ด
๋ณธ ๋ ผ๋ฌธ์ ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ(LLM)์ ํ์ฉํ์ฌ ์์ฐ์ด๋ก ํํ๋ ๋ณต์กํ ์ ์ฝ ์กฐ๊ฑด์ ๋ก๋ด ๊ณํ ์๊ณ ๋ฆฌ์ฆ์ ํตํฉํ๋ ์๋ก์ด ํ๋ ์์ํฌ STPR์ ์ ์ํฉ๋๋ค. STPR์ LLM์ ์ฝ๋ฉ ๋ฅ๋ ฅ์ ํตํด ์ ์ฝ ์กฐ๊ฑด์ ์คํ ๊ฐ๋ฅํ ์ฝ๋๋ก ๋ณํํ์ฌ ๋ณต์กํ ์ถ๋ก ๋ฐ ์ค๋ฅ๋ฅผ ๋ฐฉ์งํ๊ณ , ์๋ฎฌ๋ ์ด์ ํ๊ฒฝ์์ ํจ์จ์ฑ๊ณผ ์ ํ์ฑ์ ์ ์ฆํ์ต๋๋ค. ์ด๋ ๋ก๋ด ์ ์ด์ ์ง๊ด์ฑ ๋ฐ ํจ์จ์ฑ์ ํฅ์์ํค๋ ์ค์ํ ๋ฐ์ ์ ๋๋ค.

"ํ์ง ๋ง์ธ์!" : ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ ๊ธฐ๋ฐ ์ ์ฝ ์์ฑ์ ํตํ ๊ตฌํ ์์คํ ์๋ด
์ต๊ทผ ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ(LLM)์ ๋ฐ์ ์ ๋ณต์กํ ๊ณต๊ฐ, ์ํ์ ๋ฐ ์กฐ๊ฑด๋ถ ์ ์ฝ ์กฐ๊ฑด์ ์์ฐ์ด์์ ๊ณํ ๋ฌธ์ ๋ก ํตํฉํ๋ ๋ก๋ด ๋ด๋น๊ฒ์ด์ ์ ๋ํ ๊ด์ฌ์ ๋ถ๋ฌ์ผ์ผ์ผฐ์ต๋๋ค. ์ด๋ฌํ ์ ์ฝ ์กฐ๊ฑด์ ๋น๊ณต์์ ์ด์ง๋ง ๋งค์ฐ ๋ณต์กํ์ฌ ๊ณํ ์๊ณ ๋ฆฌ์ฆ์ ์ ๋ฌํ ์ ์๋ ๊ณต์์ ์ธ ์ค๋ช ์ผ๋ก ๋ณํํ๊ธฐ๊ฐ ์ด๋ ต์ต๋๋ค.
์๋ผ๋ ๋ํค๋ผ, ์๋ฏผ ์ธํฌ, ๋ง์ฌํ๋ก ์์ฌ์ด, ํ๊ฑฐ ๋ณด์ฒด ๋ฑ์ ์ฐ๊ตฌ์ง์ ์ด ๋ฌธ์ ์ ๋ํ ํด๊ฒฐ์ฑ ์ผ๋ก, LLM์ ์ฌ์ฉํ์ฌ ์ ์ฝ ์กฐ๊ฑด("ํ์ง ๋ง์์ผ ํ ๊ฒ"์ ๋ํ ์ง์นจ์ผ๋ก ํํ)์ ์คํ ๊ฐ๋ฅํ ํ์ด์ฌ ํจ์๋ก ๋ณํํ๋ ์ ์ฝ ์์ฑ ํ๋ ์์ํฌ์ธ STPR์ ์ ์ํ์ต๋๋ค. STPR์ LLM์ ๊ฐ๋ ฅํ ์ฝ๋ฉ ๊ธฐ๋ฅ์ ํ์ฉํ์ฌ ๋ฌธ์ ์ค๋ช ์ ์ธ์ด์์ ๊ตฌ์กฐ์ ์ด๊ณ ํฌ๋ช ํ ์ฝ๋๋ก ์ ํํจ์ผ๋ก์จ ๋ณต์กํ ์ถ๋ก ์ ํผํ๊ณ ์ ์ฌ์ ์ธ ํ๊ฐ์ ๋ฐฉ์งํฉ๋๋ค.
์ฐ๊ตฌ ๊ฒฐ๊ณผ, LLM์ด ์์ฑํ ์ด๋ฌํ ํจ์๋ ๋ณต์กํ ์ํ์ ์ ์ฝ ์กฐ๊ฑด์กฐ์ฐจ๋ ์ ํํ๊ฒ ์ค๋ช ํ๊ณ , ๊ธฐ์กด ๊ฒ์ ์๊ณ ๋ฆฌ์ฆ์ ์ฌ์ฉํ์ฌ ํฌ์ธํธ ํด๋ผ์ฐ๋ ํํ์ ์ ์ฉํ ์ ์์์ ๋ณด์ฌ์ค๋๋ค. ์๋ฎฌ๋ ์ด์ Gazebo ํ๊ฒฝ์์์ ์คํ์ STPR์ด ์ฌ๋ฌ ์ ์ฝ ์กฐ๊ฑด๊ณผ ์๋๋ฆฌ์ค์์ ์๋ฒฝํ ์ค์๋ฅผ ๋ณด์ฅํ๋ฉด์ ์งง์ ์คํ ์๊ฐ์ ๊ฐ์ง์ ๋ณด์ฌ์ค๋๋ค. ๋ํ, STPR์ ์๊ท๋ชจ์ ์ฝ๋ ํนํ LLM์๋ ์ฌ์ฉํ ์ ์์ด, ์ ๋ ดํ ์ถ๋ก ๋น์ฉ์ผ๋ก ๋ค์ํ ์ปดํฉํธ ๋ชจ๋ธ์ ์ ์ฉํ ์ ์์ต๋๋ค.
์ด๋ ๋ก๋ด ๊ณตํ ๋ถ์ผ์์ ์์ฐ์ด๋ฅผ ํตํด ์ง๊ด์ ์ผ๋ก ๋ก๋ด์ ๋ช ๋ น์ ๋ด๋ฆด ์ ์๋ ๊ฐ๋ฅ์ฑ์ ํฌ๊ฒ ํ์ฅํ๋ ํ์ ์ ์ธ ์ฐ๊ตฌ์ ๋๋ค. ๋ณต์กํ ์ํ์ ํํ ์์ด๋ ์์ฐ์ด๋ก ๋ช ๋ น์ ๋ด๋ฆฌ๋ ๊ฒ๋ง์ผ๋ก ๋ก๋ด์ ๋์์ ์ ์ดํ ์ ์๋ค๋ ๊ฒ์ ๋๋ผ์ด ๋ฐ์ ์ ๋๋ค. ํ์ง๋ง, ์ค์ ์ธ๊ณ ์ ์ฉ์ ์ํด์๋ ๋์ฑ ๋ค์ํ ํ๊ฒฝ๊ณผ ์ํฉ์ ๋ํ ํ ์คํธ์ ์์ ์ฑ ๊ฒ์ฆ์ด ํ์ํ ๊ฒ์ผ๋ก ์์๋ฉ๋๋ค. ์์ผ๋ก STPR์ ๋ฐ์ ๊ณผ ์ค์ ๋ก๋ด ์์คํ ์์ ์ ์ฉ์ด ๊ธฐ๋๋ฉ๋๋ค.
ํต์ฌ: STPR์ LLM์ ๊ฐ๋ ฅํ ์ฝ๋ฉ ๋ฅ๋ ฅ์ ํ์ฉํ์ฌ ์์ฐ์ด ๊ธฐ๋ฐ ์ ์ฝ ์กฐ๊ฑด์ ๋ก๋ด ์ ์ด์ ํจ์จ์ ์ผ๋ก ํตํฉํ๋ ํ๊ธฐ์ ์ธ ์์คํ ์ ๋๋ค. ์ด๋ ๋ก๋ด ์ ์ด์ ๋ฏผ์ฃผํ ๋ฐ ํจ์จ์ฑ ํฅ์์ ํฌ๊ฒ ๊ธฐ์ฌํ ๊ฒ์ผ๋ก ์ ๋ง๋ฉ๋๋ค.
Reference
[arxiv] "Don't Do That!": Guiding Embodied Systems through Large Language Model-based Constraint Generation
Published: ย (Updated: )
Author: Aladin Djuhera, Amin Seffo, Masataro Asai, Holger Boche
http://arxiv.org/abs/2506.04500v1