๐Ÿค– "ํ•˜์ง€ ๋งˆ์„ธ์š”!" : ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ ๊ธฐ๋ฐ˜ ์ œ์•ฝ ์ƒ์„ฑ์„ ํ†ตํ•œ ๊ตฌํ˜„ ์‹œ์Šคํ…œ ์•ˆ๋‚ด


๋ณธ ๋…ผ๋ฌธ์€ ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ํ™œ์šฉํ•˜์—ฌ ์ž์—ฐ์–ด๋กœ ํ‘œํ˜„๋œ ๋ณต์žกํ•œ ์ œ์•ฝ ์กฐ๊ฑด์„ ๋กœ๋ด‡ ๊ณ„ํš ์•Œ๊ณ ๋ฆฌ์ฆ˜์— ํ†ตํ•ฉํ•˜๋Š” ์ƒˆ๋กœ์šด ํ”„๋ ˆ์ž„์›Œํฌ STPR์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. STPR์€ LLM์˜ ์ฝ”๋”ฉ ๋Šฅ๋ ฅ์„ ํ†ตํ•ด ์ œ์•ฝ ์กฐ๊ฑด์„ ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ์ฝ”๋“œ๋กœ ๋ณ€ํ™˜ํ•˜์—ฌ ๋ณต์žกํ•œ ์ถ”๋ก  ๋ฐ ์˜ค๋ฅ˜๋ฅผ ๋ฐฉ์ง€ํ•˜๊ณ , ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ํ™˜๊ฒฝ์—์„œ ํšจ์œจ์„ฑ๊ณผ ์ •ํ™•์„ฑ์„ ์ž…์ฆํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ๋กœ๋ด‡ ์ œ์–ด์˜ ์ง๊ด€์„ฑ ๋ฐ ํšจ์œจ์„ฑ์„ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ์ค‘์š”ํ•œ ๋ฐœ์ „์ž…๋‹ˆ๋‹ค.

related iamge

"ํ•˜์ง€ ๋งˆ์„ธ์š”!" : ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ ๊ธฐ๋ฐ˜ ์ œ์•ฝ ์ƒ์„ฑ์„ ํ†ตํ•œ ๊ตฌํ˜„ ์‹œ์Šคํ…œ ์•ˆ๋‚ด

์ตœ๊ทผ ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ(LLM)์˜ ๋ฐœ์ „์€ ๋ณต์žกํ•œ ๊ณต๊ฐ„, ์ˆ˜ํ•™์  ๋ฐ ์กฐ๊ฑด๋ถ€ ์ œ์•ฝ ์กฐ๊ฑด์„ ์ž์—ฐ์–ด์—์„œ ๊ณ„ํš ๋ฌธ์ œ๋กœ ํ†ตํ•ฉํ•˜๋Š” ๋กœ๋ด‡ ๋‚ด๋น„๊ฒŒ์ด์…˜์— ๋Œ€ํ•œ ๊ด€์‹ฌ์„ ๋ถˆ๋Ÿฌ์ผ์œผ์ผฐ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ์ œ์•ฝ ์กฐ๊ฑด์€ ๋น„๊ณต์‹์ ์ด์ง€๋งŒ ๋งค์šฐ ๋ณต์žกํ•˜์—ฌ ๊ณ„ํš ์•Œ๊ณ ๋ฆฌ์ฆ˜์— ์ „๋‹ฌํ•  ์ˆ˜ ์žˆ๋Š” ๊ณต์‹์ ์ธ ์„ค๋ช…์œผ๋กœ ๋ณ€ํ™˜ํ•˜๊ธฐ๊ฐ€ ์–ด๋ ต์Šต๋‹ˆ๋‹ค.

์•Œ๋ผ๋”˜ ๋‘ํ—ค๋ผ, ์•„๋ฏผ ์„ธํฌ, ๋งˆ์‚ฌํƒ€๋กœ ์•„์‚ฌ์ด, ํ™€๊ฑฐ ๋ณด์ฒด ๋“ฑ์˜ ์—ฐ๊ตฌ์ง„์€ ์ด ๋ฌธ์ œ์— ๋Œ€ํ•œ ํ•ด๊ฒฐ์ฑ…์œผ๋กœ, LLM์„ ์‚ฌ์šฉํ•˜์—ฌ ์ œ์•ฝ ์กฐ๊ฑด("ํ•˜์ง€ ๋ง์•„์•ผ ํ•  ๊ฒƒ"์— ๋Œ€ํ•œ ์ง€์นจ์œผ๋กœ ํ‘œํ˜„)์„ ์‹คํ–‰ ๊ฐ€๋Šฅํ•œ ํŒŒ์ด์ฌ ํ•จ์ˆ˜๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ์ œ์•ฝ ์ƒ์„ฑ ํ”„๋ ˆ์ž„์›Œํฌ์ธ STPR์„ ์ œ์•ˆํ–ˆ์Šต๋‹ˆ๋‹ค. STPR์€ LLM์˜ ๊ฐ•๋ ฅํ•œ ์ฝ”๋”ฉ ๊ธฐ๋Šฅ์„ ํ™œ์šฉํ•˜์—ฌ ๋ฌธ์ œ ์„ค๋ช…์„ ์–ธ์–ด์—์„œ ๊ตฌ์กฐ์ ์ด๊ณ  ํˆฌ๋ช…ํ•œ ์ฝ”๋“œ๋กœ ์ „ํ™˜ํ•จ์œผ๋กœ์จ ๋ณต์žกํ•œ ์ถ”๋ก ์„ ํ”ผํ•˜๊ณ  ์ž ์žฌ์ ์ธ ํ™˜๊ฐ์„ ๋ฐฉ์ง€ํ•ฉ๋‹ˆ๋‹ค.

์—ฐ๊ตฌ ๊ฒฐ๊ณผ, LLM์ด ์ƒ์„ฑํ•œ ์ด๋Ÿฌํ•œ ํ•จ์ˆ˜๋Š” ๋ณต์žกํ•œ ์ˆ˜ํ•™์  ์ œ์•ฝ ์กฐ๊ฑด์กฐ์ฐจ๋„ ์ •ํ™•ํ•˜๊ฒŒ ์„ค๋ช…ํ•˜๊ณ , ๊ธฐ์กด ๊ฒ€์ƒ‰ ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ์‚ฌ์šฉํ•˜์—ฌ ํฌ์ธํŠธ ํด๋ผ์šฐ๋“œ ํ‘œํ˜„์— ์ ์šฉํ•  ์ˆ˜ ์žˆ์Œ์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค. ์‹œ๋ฎฌ๋ ˆ์ด์…˜ Gazebo ํ™˜๊ฒฝ์—์„œ์˜ ์‹คํ—˜์€ STPR์ด ์—ฌ๋Ÿฌ ์ œ์•ฝ ์กฐ๊ฑด๊ณผ ์‹œ๋‚˜๋ฆฌ์˜ค์—์„œ ์™„๋ฒฝํ•œ ์ค€์ˆ˜๋ฅผ ๋ณด์žฅํ•˜๋ฉด์„œ ์งง์€ ์‹คํ–‰ ์‹œ๊ฐ„์„ ๊ฐ€์ง์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค. ๋˜ํ•œ, STPR์€ ์†Œ๊ทœ๋ชจ์˜ ์ฝ”๋“œ ํŠนํ™” LLM์—๋„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์–ด, ์ €๋ ดํ•œ ์ถ”๋ก  ๋น„์šฉ์œผ๋กœ ๋‹ค์–‘ํ•œ ์ปดํŒฉํŠธ ๋ชจ๋ธ์— ์ ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ด๋Š” ๋กœ๋ด‡ ๊ณตํ•™ ๋ถ„์•ผ์—์„œ ์ž์—ฐ์–ด๋ฅผ ํ†ตํ•ด ์ง๊ด€์ ์œผ๋กœ ๋กœ๋ด‡์— ๋ช…๋ น์„ ๋‚ด๋ฆด ์ˆ˜ ์žˆ๋Š” ๊ฐ€๋Šฅ์„ฑ์„ ํฌ๊ฒŒ ํ™•์žฅํ•˜๋Š” ํ˜์‹ ์ ์ธ ์—ฐ๊ตฌ์ž…๋‹ˆ๋‹ค. ๋ณต์žกํ•œ ์ˆ˜ํ•™์  ํ‘œํ˜„ ์—†์ด๋„ ์ž์—ฐ์–ด๋กœ ๋ช…๋ น์„ ๋‚ด๋ฆฌ๋Š” ๊ฒƒ๋งŒ์œผ๋กœ ๋กœ๋ด‡์˜ ๋™์ž‘์„ ์ œ์–ดํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ์€ ๋†€๋ผ์šด ๋ฐœ์ „์ž…๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ, ์‹ค์ œ ์„ธ๊ณ„ ์ ์šฉ์„ ์œ„ํ•ด์„œ๋Š” ๋”์šฑ ๋‹ค์–‘ํ•œ ํ™˜๊ฒฝ๊ณผ ์ƒํ™ฉ์— ๋Œ€ํ•œ ํ…Œ์ŠคํŠธ์™€ ์•ˆ์ „์„ฑ ๊ฒ€์ฆ์ด ํ•„์š”ํ•  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋ฉ๋‹ˆ๋‹ค. ์•ž์œผ๋กœ STPR์˜ ๋ฐœ์ „๊ณผ ์‹ค์ œ ๋กœ๋ด‡ ์‹œ์Šคํ…œ์—์˜ ์ ์šฉ์ด ๊ธฐ๋Œ€๋ฉ๋‹ˆ๋‹ค.

ํ•ต์‹ฌ: STPR์€ LLM์˜ ๊ฐ•๋ ฅํ•œ ์ฝ”๋”ฉ ๋Šฅ๋ ฅ์„ ํ™œ์šฉํ•˜์—ฌ ์ž์—ฐ์–ด ๊ธฐ๋ฐ˜ ์ œ์•ฝ ์กฐ๊ฑด์„ ๋กœ๋ด‡ ์ œ์–ด์— ํšจ์œจ์ ์œผ๋กœ ํ†ตํ•ฉํ•˜๋Š” ํš๊ธฐ์ ์ธ ์‹œ์Šคํ…œ์ž…๋‹ˆ๋‹ค. ์ด๋Š” ๋กœ๋ด‡ ์ œ์–ด์˜ ๋ฏผ์ฃผํ™” ๋ฐ ํšจ์œจ์„ฑ ํ–ฅ์ƒ์— ํฌ๊ฒŒ ๊ธฐ์—ฌํ•  ๊ฒƒ์œผ๋กœ ์ „๋ง๋ฉ๋‹ˆ๋‹ค.


*์ด ๊ธฐ์‚ฌ๋Š” AI๊ฐ€ ์ƒ์„ฑํ•œ ๋‚ด์šฉ์œผ๋กœ, ์ผ๋ถ€ ์ •๋ณด๊ฐ€ ์‹ค์ œ์™€ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ •ํ™•ํ•œ ํ™•์ธ์„ ์œ„ํ•ด ์ถ”๊ฐ€์ ์ธ ๊ฒ€์ฆ์„ ๊ถŒ์žฅ๋“œ๋ฆฝ๋‹ˆ๋‹ค.

Reference

[arxiv] "Don't Do That!": Guiding Embodied Systems through Large Language Model-based Constraint Generation

Published: ย (Updated: )

Author: Aladin Djuhera, Amin Seffo, Masataro Asai, Holger Boche

http://arxiv.org/abs/2506.04500v1