๐Ÿค– ๋กœ๋ด‡์˜ ์‹ค์‹œ๊ฐ„ ์‹คํŒจ ๋ณต๊ตฌ: ๋น„์ „-์–ธ์–ด ๋ชจ๋ธ์˜ ํž˜


๋ณธ ๊ธฐ์‚ฌ๋Š” ๋น„์ „-์–ธ์–ด ๋ชจ๋ธ, ๋ฐ˜์‘ํ˜• ํ”Œ๋ž˜๋„ˆ, ํ–‰๋™ ํŠธ๋ฆฌ๋ฅผ ํ†ตํ•ฉํ•œ ๋กœ๋ด‡์˜ ์‹ค์‹œ๊ฐ„ ์‹คํŒจ ๋ณต๊ตฌ ํ”„๋ ˆ์ž„์›Œํฌ์— ๋Œ€ํ•œ ์ตœ์‹  ์—ฐ๊ตฌ ๊ฒฐ๊ณผ๋ฅผ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค. ์‹ค์ œ ๋กœ๋ด‡ ๋ฐ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ ์‹คํ—˜์„ ํ†ตํ•ด ๊ธฐ์กด ๋ฐฉ๋ฒ•๋ณด๋‹ค ํ–ฅ์ƒ๋œ ์„ฑ๊ณต๋ฅ ๊ณผ ์ ์‘์„ฑ์„ ํ™•์ธํ–ˆ์œผ๋ฉฐ, ๋ฏธ๋ž˜ ๋กœ๋ด‡ ๊ธฐ์ˆ  ๋ฐœ์ „์— ๋Œ€ํ•œ ์‹œ์‚ฌ์ ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค.

related iamge

์˜ˆ์ธก ๋ถˆ๊ฐ€๋Šฅํ•œ ์žฅ์• ๋ฌผ, ์„ผ์„œ ์˜ค๋ฅ˜, ํ™˜๊ฒฝ ๋ณ€ํ™”๋Š” ๋กœ๋ด‡ ์‹œ์Šคํ…œ ์ž‘๋™์— ์น˜๋ช…์ ์ธ ์‹คํŒจ๋ฅผ ์•ผ๊ธฐํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ์กด์˜ ์‹คํŒจ ๋ณต๊ตฌ ๋ฐฉ๋ฒ•์€ ๋ฏธ๋ฆฌ ์ •์˜๋œ ์ „๋žต์ด๋‚˜ ์ธ๊ฐ„์˜ ๊ฐœ์ž…์— ์˜์กดํ•˜์—ฌ ์œ ์—ฐ์„ฑ์ด ๋ถ€์กฑํ–ˆ์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ Faseeh Ahmad ์™ธ 4๋ช…์˜ ์—ฐ๊ตฌ์ž๋“ค์€ ์ด๋Ÿฌํ•œ ํ•œ๊ณ„๋ฅผ ๋›ฐ์–ด๋„˜๋Š” ํš๊ธฐ์ ์ธ ์—ฐ๊ตฌ ๊ฒฐ๊ณผ๋ฅผ ๋ฐœํ‘œํ–ˆ์Šต๋‹ˆ๋‹ค.

๊ทธ๋“ค์˜ ๋…ผ๋ฌธ "์‹ค์‹œ๊ฐ„ ๋กœ๋ด‡ ์‹คํŒจ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ ํ†ตํ•ฉ ํ”„๋ ˆ์ž„์›Œํฌ: ๋น„์ „-์–ธ์–ด ๋ชจ๋ธ, ๋ฐ˜์‘ํ˜• ํ”Œ๋ž˜๋„ˆ ๋ฐ ํ–‰๋™ ํŠธ๋ฆฌ ํ™œ์šฉ"์€ ๋น„์ „-์–ธ์–ด ๋ชจ๋ธ(VLMs), ๋ฐ˜์‘ํ˜• ํ”Œ๋ž˜๋„ˆ, ํ–‰๋™ ํŠธ๋ฆฌ(BTs)๋ฅผ ๊ฒฐํ•ฉํ•œ ํ†ตํ•ฉ ์‹คํŒจ ๋ณต๊ตฌ ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ์ด๋Š” ๋‹จ์ˆœํžˆ ์‹คํŒจ๋ฅผ ๋ณต๊ตฌํ•˜๋Š” ๊ฒƒ์„ ๋„˜์–ด, ์‹คํ–‰ ์ „ ๊ฒ€์ฆ์„ ํ†ตํ•ด ์ž ์žฌ์ ์ธ ์‹คํŒจ๋ฅผ ๋ฏธ๋ฆฌ ์˜ˆ์ธกํ•˜๊ณ , ์‹คํ–‰ ์ค‘ ๋ฐ˜์‘ํ˜• ์‹คํŒจ ์ฒ˜๋ฆฌ๋ฅผ ํ†ตํ•ด ๋ฐœ์ƒํ•œ ์‹คํŒจ๋ฅผ ์‹ค์‹œ๊ฐ„์œผ๋กœ ๊ฐ์ง€ํ•˜๊ณ  ์ˆ˜์ •ํ•˜๋Š” ๋Šฅ๋ ฅ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ธฐ์กด์˜ BT ์กฐ๊ฑด์„ ํ™•์ธํ•˜๊ณ , ๋ˆ„๋ฝ๋œ ์ „์ œ ์กฐ๊ฑด์„ ์ถ”๊ฐ€ํ•˜๋ฉฐ, ํ•„์š”ํ•œ ๊ฒฝ์šฐ ์ƒˆ๋กœ์šด ๊ธฐ์ˆ ์„ ์ƒ์„ฑํ•˜๋Š” ๋ฐฉ์‹์ž…๋‹ˆ๋‹ค.

์ด ์‹œ์Šคํ…œ์˜ ํ•ต์‹ฌ์€ ๊ตฌ์กฐํ™”๋œ ํ™˜๊ฒฝ ์ธ์‹์„ ์œ„ํ•œ ์žฅ๋ฉด ๊ทธ๋ž˜ํ”„์™€ ์ง€์†์ ์ธ ๋ชจ๋‹ˆํ„ฐ๋ง์„ ์œ„ํ•œ ์‹คํ–‰ ์ด๋ ฅ์ž…๋‹ˆ๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ์ƒํ™ฉ์— ๋งž๋Š” ์ ์‘๋ ฅ ์žˆ๋Š” ์‹คํŒจ ์ฒ˜๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•ด์ง‘๋‹ˆ๋‹ค. ABB YuMi ๋กœ๋ด‡์„ ์ด์šฉํ•œ ๋ชป ๋ฐ•๊ธฐ, ๋ฌผ์ฒด ๋ถ„๋ฅ˜, ์„œ๋ž ๋†“๊ธฐ์™€ ๊ฐ™์€ ์‹ค์ œ ์ž‘์—…๊ณผ AI2-THOR ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•œ ์‹คํ—˜์„ ํ†ตํ•ด ์ด ํ”„๋ ˆ์ž„์›Œํฌ์˜ ์„ฑ๋Šฅ์„ ๊ฒ€์ฆํ–ˆ์Šต๋‹ˆ๋‹ค.

๊ฒฐ๊ณผ๋Š” ๋†€๋ž์Šต๋‹ˆ๋‹ค. ๊ฐœ๋ณ„์ ์œผ๋กœ ์‹คํ–‰ ์ „ ๋ฐ ์‹คํ–‰ ์ค‘ ๋ฐฉ๋ฒ•์„ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ๊ณผ ๋น„๊ตํ•˜์—ฌ, ์ด ํ†ตํ•ฉ ์ ‘๊ทผ ๋ฐฉ์‹์€ ์ž‘์—… ์„ฑ๊ณต๋ฅ ๊ณผ ์ ์‘์„ฑ์„ ํฌ๊ฒŒ ํ–ฅ์ƒ์‹œ์ผฐ์Šต๋‹ˆ๋‹ค. ์ถ”๊ฐ€ ๋ถ„์„์„ ํ†ตํ•ด VLM ๊ธฐ๋ฐ˜ ์ถ”๋ก , ๊ตฌ์กฐํ™”๋œ ์žฅ๋ฉด ํ‘œํ˜„, ์‹คํ–‰ ์ด๋ ฅ ์ถ”์ ์ด ๋กœ๋ด‡์˜ ํšจ๊ณผ์ ์ธ ์‹คํŒจ ๋ณต๊ตฌ์— ์ค‘์š”ํ•œ ์—ญํ• ์„ ํ•œ๋‹ค๋Š” ๊ฒƒ์„ ํ™•์ธํ–ˆ์Šต๋‹ˆ๋‹ค.

์ด ์—ฐ๊ตฌ๋Š” ๋‹จ์ˆœํžˆ ๊ธฐ์ˆ ์  ์ง„๋ณด๋ฅผ ๋„˜์–ด, ๋”์šฑ ์•ˆ์ „ํ•˜๊ณ  ํšจ์œจ์ ์ธ ๋กœ๋ด‡ ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ์„ ์œ„ํ•œ ์ค‘์š”ํ•œ ์ด์ •ํ‘œ๋ฅผ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ์‹ค์‹œ๊ฐ„์œผ๋กœ ๋ณต์žกํ•œ ์ƒํ™ฉ์— ๋Œ€์ฒ˜ํ•˜๊ณ , ์Šค์Šค๋กœ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๋กœ๋ด‡ ์‹œ์Šคํ…œ์€ ๋ฏธ๋ž˜ ์‚ฐ์—…์˜ ํ˜์‹ ์„ ์ด๋Œ์–ด๊ฐˆ ํ•ต์‹ฌ ๊ธฐ์ˆ ์ด ๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์•ž์œผ๋กœ ์ด ๊ธฐ์ˆ ์ด ์–ด๋–ป๊ฒŒ ๋ฐœ์ „ํ•˜๊ณ , ์šฐ๋ฆฌ์˜ ์‚ถ์„ ์–ด๋–ป๊ฒŒ ๋ณ€ํ™”์‹œํ‚ฌ์ง€ ๊ธฐ๋Œ€๋ฉ๋‹ˆ๋‹ค!


*์ด ๊ธฐ์‚ฌ๋Š” AI๊ฐ€ ์ƒ์„ฑํ•œ ๋‚ด์šฉ์œผ๋กœ, ์ผ๋ถ€ ์ •๋ณด๊ฐ€ ์‹ค์ œ์™€ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ •ํ™•ํ•œ ํ™•์ธ์„ ์œ„ํ•ด ์ถ”๊ฐ€์ ์ธ ๊ฒ€์ฆ์„ ๊ถŒ์žฅ๋“œ๋ฆฝ๋‹ˆ๋‹ค.

Reference

[arxiv] A Unified Framework for Real-Time Failure Handling in Robotics Using Vision-Language Models, Reactive Planner and Behavior Trees

Published: ย (Updated: )

Author: Faseeh Ahmad, Hashim Ismail, Jonathan Styrud, Maj Stenmark, Volker Krueger

http://arxiv.org/abs/2503.15202v1