๐Ÿค– ๋กœ๋ด‡์˜ ์•ˆ์ •์ ์ธ ์ง€๋Šฅ์„ ์œ„ํ•œ ํ˜์‹ : Curiosity-Diffuser ๋“ฑ์žฅ!


Liu ๋“ฑ ์—ฐ๊ตฌํŒ€์ด ๊ฐœ๋ฐœํ•œ Curiosity-Diffuser๋Š” RND ๊ธฐ๋ฐ˜ ํ˜ธ๊ธฐ์‹ฌ ๋ชจ๋“ˆ๊ณผ ๋ถ„๋ฅ˜๊ธฐ ์•ˆ๋‚ด ํ™•์‚ฐ์„ ํ†ตํ•ด ์‹ ๊ฒฝ๋ง ๋ชจ๋ธ์˜ ๋ถˆ์•ˆ์ •์„ฑ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ณ , ๋กœ๋ด‡์˜ ์•ˆ์ •์ ์ด๊ณ  ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ํ–‰๋™์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜๋Š” ํš๊ธฐ์ ์ธ ๊ธฐ์ˆ ์ž…๋‹ˆ๋‹ค.

related iamge

์˜ค๋Š˜๋‚  ๋กœ๋ด‡ ์ง€๋Šฅ ๋ถ„์•ผ์—์„œ ๊ฐ€์žฅ ํฐ ๊ฑธ๋ฆผ๋Œ ์ค‘ ํ•˜๋‚˜๋Š” ์‹ ๊ฒฝ๋ง ๋ชจ๋ธ์˜ ๋ถˆ์•ˆ์ •์„ฑ์ž…๋‹ˆ๋‹ค. ์ œ์–ด ๋ชจ๋ธ๊ณผ ๋‹ฌ๋ฆฌ ์‹ ๊ฒฝ๋ง ๋ชจ๋ธ์€ ๋ช…ํ™•ํ•˜๊ฒŒ ์ •์˜๋œ ์ˆ˜๋ ด ์˜์—ญ๊ณผ ์•ˆ์ •์„ฑ์ด ๋ถ€์กฑํ•˜์—ฌ ์‹ค์ œ ์„ธ๊ณ„์— ์ ์šฉํ•  ๋•Œ ์œ„ํ—˜์ด ๋”ฐ๋ฆ…๋‹ˆ๋‹ค. ํŠนํžˆ, ์‹ ๊ฒฝ๋ง ๊ธฐ๋ฐ˜ ๋ชจ๋ฐฉ ์ •์ฑ…์€ ํ™˜๊ฐ์„ ์ƒ์„ฑํ•˜์—ฌ ๋ถ€์ •ํ™•ํ•œ ํ–‰๋™์„ ์•ผ๊ธฐํ•˜๊ณ , ์‹ค์ œ ์‘์šฉ ํ”„๋กœ๊ทธ๋žจ์˜ ์•ˆ์ „์— ์˜ํ–ฅ์„ ๋ฏธ์น  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Liu ๋“ฑ ์—ฐ๊ตฌํŒ€์˜ ํš๊ธฐ์ ์ธ ์—ฐ๊ตฌ

์ด ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด, Zihao Liu, Xing Liu, Yizhai Zhang, Zhengxiong Liu, Panfeng Huang ์—ฐ๊ตฌํŒ€์€ Curiosity-Diffuser๋ฅผ ์ œ์•ˆํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ์กฐ๊ฑด๋ถ€ ํ™•์‚ฐ ๋ชจ๋ธ์„ ์•ˆ๋‚ดํ•˜์—ฌ ํ˜ธ๊ธฐ์‹ฌ(curiosity)์ด ๋‚ฎ์€ ๊ถค์ ์„ ์ƒ์„ฑํ•จ์œผ๋กœ์จ ์ •์ฑ…์˜ ์‹ ๋ขฐ์„ฑ์„ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ๊ฒƒ์„ ๋ชฉํ‘œ๋กœ ํ•ฉ๋‹ˆ๋‹ค.

ํ•ต์‹ฌ ์•„์ด๋””์–ด๋Š” Random Network Distillation (RND) ํ˜ธ๊ธฐ์‹ฌ ๋ชจ๋“ˆ์„ ์‚ฌ์šฉํ•˜์—ฌ ๋ชจ๋ธ์˜ ํ–‰๋™์ด ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ์™€ ์ผ์น˜ํ•˜๋Š”์ง€ ํ‰๊ฐ€ํ•˜๊ณ , ๋ถ„๋ฅ˜๊ธฐ ์•ˆ๋‚ด ํ™•์‚ฐ(classifier guidance diffusion)์„ ํ†ตํ•ด ํ˜ธ๊ธฐ์‹ฌ์„ ์ตœ์†Œํ™”ํ•˜์—ฌ ์ถ”๋ก  ์ค‘ ๊ณผ์ž‰ ์ผ๋ฐ˜ํ™”๋ฅผ ์ค„์ด๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. ๋˜ํ•œ, ์—ฐ๊ตฌํŒ€์€ ์ƒ์„ฑ๋œ ํ–‰๋™๊ณผ ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ ์„ธํŠธ ๊ฐ„์˜ ์œ ์‚ฌ์„ฑ์„ ์ธก์ •ํ•˜๋Š” ์ •์ฑ…์˜ ์‹ ๋ขฐ์„ฑ์„ ํ‰๊ฐ€ํ•˜๊ธฐ ์œ„ํ•œ ๊ณ„์‚ฐ ํšจ์œจ์ ์ธ ์ง€ํ‘œ๋ฅผ ์ œ์•ˆํ•˜์—ฌ ์‹ ๋ขฐ์„ฑ ํ•™์Šต์— ๋Œ€ํ•œ ์—ฐ๊ตฌ๋ฅผ ์ด‰์ง„ํ–ˆ์Šต๋‹ˆ๋‹ค.

๋†€๋ผ์šด ์‹œ๋ฎฌ๋ ˆ์ด์…˜ ๊ฒฐ๊ณผ

๋‹ค์–‘ํ•œ ์‹œ๋‚˜๋ฆฌ์˜ค์— ๋Œ€ํ•œ ์‹œ๋ฎฌ๋ ˆ์ด์…˜์„ ํ†ตํ•ด Curiosity-Diffuser๊ฐ€ ์ž‘์—… ์„ฑ๋Šฅ์„ ํฌ๊ฒŒ ํ–ฅ์ƒ์‹œํ‚ค๊ณ  ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ์™€ ๋” ์œ ์‚ฌํ•œ ํ–‰๋™์„ ์ƒ์„ฑํ•œ๋‹ค๋Š” ๊ฒƒ์„ ๊ฒ€์ฆํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ๊ธฐ์กด์˜ ํ•œ๊ณ„๋ฅผ ๋›ฐ์–ด๋„˜๋Š” ํ˜์‹ ์ ์ธ ๊ฒฐ๊ณผ์ž…๋‹ˆ๋‹ค. ๋”์šฑ์ด, github.com/CarlDegio/Curiosity-Diffuser ์—์„œ ์ฝ”๋“œ๋ฅผ ๊ณต๊ฐœํ•˜์—ฌ ์—ฐ๊ตฌ ๊ฒฐ๊ณผ์˜ ์žฌํ˜„์„ฑ๊ณผ ํ™•์žฅ์„ฑ์„ ๋†’์˜€์Šต๋‹ˆ๋‹ค.

๊ฒฐ๋ก ์ ์œผ๋กœ, Curiosity-Diffuser๋Š” ๋กœ๋ด‡ ์ง€๋Šฅ์˜ ์•ˆ์ •์„ฑ๊ณผ ์‹ ๋ขฐ์„ฑ์„ ํš๊ธฐ์ ์œผ๋กœ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋Š” ์ž ์žฌ๋ ฅ์„ ์ง€๋‹Œ ๊ธฐ์ˆ ๋กœ, ํ–ฅํ›„ ๋กœ๋ด‡ ๊ณตํ•™ ๋ฐ ์ธ๊ณต์ง€๋Šฅ ๋ถ„์•ผ์— ํฐ ์˜ํ–ฅ์„ ๋ฏธ์น  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋ฉ๋‹ˆ๋‹ค. ์ด ์—ฐ๊ตฌ๋Š” ์•ˆ์ „ํ•˜๊ณ  ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ๋กœ๋ด‡ ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ์— ํ•œ ๊ฑธ์Œ ๋” ๋‹ค๊ฐ€์„œ๋Š” ์ค‘์š”ํ•œ ์ด์ •ํ‘œ๊ฐ€ ๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค.


*์ด ๊ธฐ์‚ฌ๋Š” AI๊ฐ€ ์ƒ์„ฑํ•œ ๋‚ด์šฉ์œผ๋กœ, ์ผ๋ถ€ ์ •๋ณด๊ฐ€ ์‹ค์ œ์™€ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ •ํ™•ํ•œ ํ™•์ธ์„ ์œ„ํ•ด ์ถ”๊ฐ€์ ์ธ ๊ฒ€์ฆ์„ ๊ถŒ์žฅ๋“œ๋ฆฝ๋‹ˆ๋‹ค.

Reference

[arxiv] Curiosity-Diffuser: Curiosity Guide Diffusion Models for Reliability

Published: ย (Updated: )

Author: Zihao Liu, Xing Liu, Yizhai Zhang, Zhengxiong Liu, Panfeng Huang

http://arxiv.org/abs/2503.14833v1