๐จ ์์จ์ฃผํ์ฐจ์ ์๋ก์ด ์ํ, '๋ฌผ์ฒด ์๋ฉธ' ๊ณต๊ฒฉ๊ณผ ์ค์๊ฐ ๋ฐฉ์ด ์์คํ ADAV
๋ณธ ๊ธฐ์ฌ๋ ์์จ์ฃผํ ์๋์ฐจ์ ์์ ์ ์ํํ๋ '๋ฌผ์ฒด ์๋ฉธ ํจ์น ๊ณต๊ฒฉ'์ ๋ํ ์ค์๊ฐ ๋ฐฉ์ด ์์คํ ADAV๋ฅผ ์๊ฐํฉ๋๋ค. ADAV๋ ๊ธฐ์กด ์์คํ ์ ํ๊ณ๋ฅผ ๊ทน๋ณตํ๊ณ , ์ค์ ์ฃผํ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋์ ์ ํ๋์ ์ค์๊ฐ ์ฒ๋ฆฌ ์๋๋ฅผ ๋ฌ์ฑํ์ฌ ์์จ์ฃผํ ๊ธฐ์ ์ ์์ ์ฑ์ ํฅ์์ํฌ ๊ฒ์ผ๋ก ๊ธฐ๋๋ฉ๋๋ค.

๐ ์์จ์ฃผํ์ ์จ๊ฒจ์ง ์ํ: ๋ฌผ์ฒด ์๋ฉธ ํจ์น ๊ณต๊ฒฉ
์ต๊ทผ ๋ฅ๋ฌ๋ ๊ธฐ๋ฐ ๊ฐ์ฒด ์ธ์ ๊ธฐ์ ์ ์์จ์ฃผํ ์๋์ฐจ์ ๋๊ณผ ๊ฐ์ด ์ค์ํ ์ญํ ์ ํฉ๋๋ค. ํ์ง๋ง, ์ด ๊ธฐ์ ์ '์ ๋์ ํจ์น ๊ณต๊ฒฉ'์ด๋ผ๋ ์๋ก์ด ์ํ์ ์ง๋ฉดํด ์์ต๋๋ค. ํนํ, ๋ฌผ์ฒด ์๋ฉธ ํจ์น ๊ณต๊ฒฉ์ ์ด๋ฏธ์ง์ ํน์ ์์ญ์ ์๋์ ์ผ๋ก ์์ฑ๋ ํจํด์ ์ฌ์ฉํ์ฌ ๊ฐ์ฒด ์ธ์ ๋ชจ๋ธ์ ์์ฌ, ์ฐจ๋์ด ์ฅ์ ๋ฌผ์ ๊ฐ์งํ์ง ๋ชปํ๋๋ก ๋ง๋๋ ์น๋ช ์ ์ธ ๊ณต๊ฒฉ์ ๋๋ค. ๋ง์น ๋ง๋ฒ์ฒ๋ผ, ๋๋ก ์์ ๋ฌผ์ฒด๋ค์ด ๊ฐ์๊ธฐ ์ฌ๋ผ์ง๋ ๊ฒ์ฒ๋ผ ๋ณด์ด๊ฒ ๋ง๋๋ ๊ฒ์ด์ฃ . ์ด๋ ์์จ์ฃผํ ์๋์ฐจ์ ์์ ์ ์ฌ๊ฐํ ์ํ์ด ๋ฉ๋๋ค.
๐ก๏ธ ADAV: ์ค์๊ฐ ๋ฐฉ์ด๋ง์ ๊ตฌ์ถํ๋ค
Jaden Mu๊ฐ ์ฃผ๋ํ ์ฐ๊ตฌ๋ ์ด๋ฌํ ์ํ์ ๋ง์ ์ธ์ธ ํ์ ์ ์ธ ๋ฐฉ์ด ์์คํ ADAV (Adversarial Defense for Autonomous Vehicles) ์ ์ ์ํ์ต๋๋ค. ๊ธฐ์กด ๋ฐฉ์ด ์์คํ ๋ค์ ์ฒ๋ฆฌ ์๋๊ฐ ๋๋ฆฌ๊ฑฐ๋ ์ ์ง๋ ์ด๋ฏธ์ง์๋ง ์ ์ฉ ๊ฐ๋ฅํ๋ค๋ ํ๊ณ๊ฐ ์์์ต๋๋ค. ํ์ง๋ง ADAV๋ ๋ค๋ฆ ๋๋ค! ADAV๋ ์์จ์ฃผํ ์๋์ฐจ์ ๋น๋์ค ํผ๋์์ ์ด์ ํ๋ ์์ ์ ๋ณด๋ฅผ ํ์ฉํ์ฌ ์ค์๊ฐ์ผ๋ก ์๋ํฉ๋๋ค.
ADAV๋ ๋ ๋จ๊ณ๋ก ์๋ํฉ๋๋ค. ๋จผ์ , ํ์ฌ ํ๋ ์์ ๊ฐ์ฒด ์ธ์ ๊ฒฐ๊ณผ๊ฐ ์ด์ ํ๋ ์์ ๊ฒฐ๊ณผ์ ์ผ์นํ๋์ง ํ์ธํฉ๋๋ค. ์ผ์นํ์ง ์์ผ๋ฉด ํจ์น ๊ณต๊ฒฉ์ผ๋ก ํ๋จํ๊ณ , ๋ ๋ฒ์งธ ๋จ๊ณ์์ ๊ธฐ์ธ๊ธฐ ๊ธฐ๋ฐ ์์ฑ์ ์ด์ฉํ์ฌ ์ผ๊ด์ฑ์ ๊นจ๋จ๋ฆฌ๋ ์ ๋์ ์ธ ํฝ์ ๋ค์ ์ ํํ๊ฒ ์ฐพ์ ์ ๊ฑฐํฉ๋๋ค. ๋ง์น ์๋ จ๋ ๊ฒฝ์ฐฐ์ด ๋ฒ์ฃ์์ ํ์ ์ ์ถ์ ํ๋ฏ์ด ๋ง์ด์ฃ . ์ด๋ฌํ ํจ์จ์ ์ธ ๋ ๋จ๊ณ ํ๋ก์ธ์ค๋ฅผ ํตํด ADAV๋ ๊นจ๋ํ ์ ๋ ฅ์ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํ๊ณ , ๊ณต๊ฒฉ์ ํจ๊ณผ์ ์ผ๋ก ๋ฐฉ์ดํ ์ ์์ต๋๋ค.
๐ ์คํ ๊ฒฐ๊ณผ: ๋๋ผ์ด ์ฑ๋ฅ
Berkeley Deep Drive BDD100K ๋ฐ์ดํฐ์ ์ ์ฌ์ฉํ ์คํ ๊ฒฐ๊ณผ, ADAV๋ ๋์ ์ ํ๋์ ํจ๊ป ์ค์๊ฐ ์ฒ๋ฆฌ ์๋๋ฅผ ๋ฌ์ฑํ์ต๋๋ค. ์ด๋ ADAV๊ฐ ์ค์ ์์จ์ฃผํ ํ๊ฒฝ์์๋ ์์ ํ๊ณ ํจ๊ณผ์ ์ผ๋ก ์๋ํ ์ ์์์ ์์ฌํฉ๋๋ค. ๋ง์น ์ํ ์ ๋ฏธ๋ ๊ธฐ์ ์ฒ๋ผ, ADAV๋ ์์จ์ฃผํ ์๋์ฐจ์ ์์ ์ฑ์ ํ์ธต ๋ ๊ฐํํ๋ ํต์ฌ ๊ธฐ์ ์ด ๋ ๊ฒ์ ๋๋ค.
๐ค ์์ผ๋ก์ ๊ณผ์
ํ์ง๋ง, ADAV๊ฐ ์๋ฒฝํ ํด๊ฒฐ์ฑ ์ ์๋๋๋ค. ๋์ฑ ์ ๊ตํด์ง๋ ์ ๋์ ๊ณต๊ฒฉ์ ๋ํ ์ง์์ ์ธ ์ฐ๊ตฌ๊ฐ ํ์ํ๋ฉฐ, ๋ค์ํ ํ๊ฒฝ๊ณผ ์ํฉ์์์ ์ฑ๋ฅ ๊ฒ์ฆ ๋ํ ์ค์ํฉ๋๋ค. ์ด ๋ถ์ผ์ ์ง์์ ์ธ ๋ฐ์ ์ ํตํด ๋์ฑ ์์ ํ๊ณ ์ ๋ขฐํ ์ ์๋ ์์จ์ฃผํ ๊ธฐ์ ์๋๋ฅผ ์ด์ด๊ฐ ์ ์์ ๊ฒ์ ๋๋ค.
Reference
[arxiv] A Real-Time Defense Against Object Vanishing Adversarial Patch Attacks for Object Detection in Autonomous Vehicles
Published: ย (Updated: )
Author: Jaden Mu
http://arxiv.org/abs/2412.06215v1