๐ค ๋ก๋ด์ ์์ ์ ์ธ ์ง๋ฅ์ ์ํ ํ์ : Curiosity-Diffuser ๋ฑ์ฅ!
Liu ๋ฑ ์ฐ๊ตฌํ์ด ๊ฐ๋ฐํ Curiosity-Diffuser๋ RND ๊ธฐ๋ฐ ํธ๊ธฐ์ฌ ๋ชจ๋๊ณผ ๋ถ๋ฅ๊ธฐ ์๋ด ํ์ฐ์ ํตํด ์ ๊ฒฝ๋ง ๋ชจ๋ธ์ ๋ถ์์ ์ฑ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ณ , ๋ก๋ด์ ์์ ์ ์ด๊ณ ์ ๋ขฐํ ์ ์๋ ํ๋์ ๊ฐ๋ฅํ๊ฒ ํ๋ ํ๊ธฐ์ ์ธ ๊ธฐ์ ์ ๋๋ค.

์ค๋๋ ๋ก๋ด ์ง๋ฅ ๋ถ์ผ์์ ๊ฐ์ฅ ํฐ ๊ฑธ๋ฆผ๋ ์ค ํ๋๋ ์ ๊ฒฝ๋ง ๋ชจ๋ธ์ ๋ถ์์ ์ฑ์ ๋๋ค. ์ ์ด ๋ชจ๋ธ๊ณผ ๋ฌ๋ฆฌ ์ ๊ฒฝ๋ง ๋ชจ๋ธ์ ๋ช ํํ๊ฒ ์ ์๋ ์๋ ด ์์ญ๊ณผ ์์ ์ฑ์ด ๋ถ์กฑํ์ฌ ์ค์ ์ธ๊ณ์ ์ ์ฉํ ๋ ์ํ์ด ๋ฐ๋ฆ ๋๋ค. ํนํ, ์ ๊ฒฝ๋ง ๊ธฐ๋ฐ ๋ชจ๋ฐฉ ์ ์ฑ ์ ํ๊ฐ์ ์์ฑํ์ฌ ๋ถ์ ํํ ํ๋์ ์ผ๊ธฐํ๊ณ , ์ค์ ์์ฉ ํ๋ก๊ทธ๋จ์ ์์ ์ ์ํฅ์ ๋ฏธ์น ์ ์์ต๋๋ค.
Liu ๋ฑ ์ฐ๊ตฌํ์ ํ๊ธฐ์ ์ธ ์ฐ๊ตฌ
์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด, Zihao Liu, Xing Liu, Yizhai Zhang, Zhengxiong Liu, Panfeng Huang ์ฐ๊ตฌํ์ Curiosity-Diffuser๋ฅผ ์ ์ํ์ต๋๋ค. ์ด๋ ์กฐ๊ฑด๋ถ ํ์ฐ ๋ชจ๋ธ์ ์๋ดํ์ฌ ํธ๊ธฐ์ฌ(curiosity)์ด ๋ฎ์ ๊ถค์ ์ ์์ฑํจ์ผ๋ก์จ ์ ์ฑ ์ ์ ๋ขฐ์ฑ์ ํฅ์์ํค๋ ๊ฒ์ ๋ชฉํ๋ก ํฉ๋๋ค.
ํต์ฌ ์์ด๋์ด๋ Random Network Distillation (RND) ํธ๊ธฐ์ฌ ๋ชจ๋์ ์ฌ์ฉํ์ฌ ๋ชจ๋ธ์ ํ๋์ด ํ๋ จ ๋ฐ์ดํฐ์ ์ผ์นํ๋์ง ํ๊ฐํ๊ณ , ๋ถ๋ฅ๊ธฐ ์๋ด ํ์ฐ(classifier guidance diffusion)์ ํตํด ํธ๊ธฐ์ฌ์ ์ต์ํํ์ฌ ์ถ๋ก ์ค ๊ณผ์ ์ผ๋ฐํ๋ฅผ ์ค์ด๋ ๊ฒ์ ๋๋ค. ๋ํ, ์ฐ๊ตฌํ์ ์์ฑ๋ ํ๋๊ณผ ํ๋ จ ๋ฐ์ดํฐ ์ธํธ ๊ฐ์ ์ ์ฌ์ฑ์ ์ธก์ ํ๋ ์ ์ฑ ์ ์ ๋ขฐ์ฑ์ ํ๊ฐํ๊ธฐ ์ํ ๊ณ์ฐ ํจ์จ์ ์ธ ์งํ๋ฅผ ์ ์ํ์ฌ ์ ๋ขฐ์ฑ ํ์ต์ ๋ํ ์ฐ๊ตฌ๋ฅผ ์ด์งํ์ต๋๋ค.
๋๋ผ์ด ์๋ฎฌ๋ ์ด์ ๊ฒฐ๊ณผ
๋ค์ํ ์๋๋ฆฌ์ค์ ๋ํ ์๋ฎฌ๋ ์ด์ ์ ํตํด Curiosity-Diffuser๊ฐ ์์ ์ฑ๋ฅ์ ํฌ๊ฒ ํฅ์์ํค๊ณ ํ๋ จ ๋ฐ์ดํฐ์ ๋ ์ ์ฌํ ํ๋์ ์์ฑํ๋ค๋ ๊ฒ์ ๊ฒ์ฆํ์ต๋๋ค. ์ด๋ ๊ธฐ์กด์ ํ๊ณ๋ฅผ ๋ฐ์ด๋๋ ํ์ ์ ์ธ ๊ฒฐ๊ณผ์ ๋๋ค. ๋์ฑ์ด, github.com/CarlDegio/Curiosity-Diffuser ์์ ์ฝ๋๋ฅผ ๊ณต๊ฐํ์ฌ ์ฐ๊ตฌ ๊ฒฐ๊ณผ์ ์ฌํ์ฑ๊ณผ ํ์ฅ์ฑ์ ๋์์ต๋๋ค.
๊ฒฐ๋ก ์ ์ผ๋ก, Curiosity-Diffuser๋ ๋ก๋ด ์ง๋ฅ์ ์์ ์ฑ๊ณผ ์ ๋ขฐ์ฑ์ ํ๊ธฐ์ ์ผ๋ก ํฅ์์ํฌ ์ ์๋ ์ ์ฌ๋ ฅ์ ์ง๋ ๊ธฐ์ ๋ก, ํฅํ ๋ก๋ด ๊ณตํ ๋ฐ ์ธ๊ณต์ง๋ฅ ๋ถ์ผ์ ํฐ ์ํฅ์ ๋ฏธ์น ๊ฒ์ผ๋ก ์์๋ฉ๋๋ค. ์ด ์ฐ๊ตฌ๋ ์์ ํ๊ณ ์ ๋ขฐํ ์ ์๋ ๋ก๋ด ์์คํ ๊ฐ๋ฐ์ ํ ๊ฑธ์ ๋ ๋ค๊ฐ์๋ ์ค์ํ ์ด์ ํ๊ฐ ๋ ๊ฒ์ ๋๋ค.
Reference
[arxiv] Curiosity-Diffuser: Curiosity Guide Diffusion Models for Reliability
Published: ย (Updated: )
Author: Zihao Liu, Xing Liu, Yizhai Zhang, Zhengxiong Liu, Panfeng Huang
http://arxiv.org/abs/2503.14833v1