๐จ AI ๋ชจ๋ธ์ ์น๋ช ์ ์ฝ์ , ๋ฐฑ๋์ด ๊ณต๊ฒฉ์ ์๋ก์ด ๊ตญ๋ฉด: ์ด์์น ํ์ง ์์คํ ๊ณต๋ต!
๋ณธ ๊ธฐ์ฌ๋ AI ๋ชจ๋ธ์ ๊ฐ๋ฐฉํ ์งํฉ ์ฑ๋ฅ, ์ฆ ์ด์์น ํ์ง์ ๋ํ ์๋ก์ด ๋ฐฑ๋์ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ BATOD์ ๋ํ ์ฐ๊ตฌ ๊ฒฐ๊ณผ๋ฅผ ์๊ฐํฉ๋๋ค. ๊ธฐ์กด ๋ฐฑ๋์ด ๊ณต๊ฒฉ์ ํ๊ณ๋ฅผ ๊ทน๋ณตํ๊ณ ์ค์ ๋ฐ์ดํฐ์ ์ ํตํด ๊ทธ ํจ๊ณผ๋ฅผ ๊ฒ์ฆํจ์ผ๋ก์จ, AI ์์คํ ์ ์์ ์ฑ์ ๋ํ ์ฌ๊ฐํ ์ฐ๋ ค๋ฅผ ์ ๊ธฐํ๋ฉฐ, ๋์ฑ ๊ฐ๋ ฅํ ๋ฐฉ์ด ๊ธฐ๋ฒ ๊ฐ๋ฐ์ ํ์์ฑ์ ๊ฐ์กฐํฉ๋๋ค.

AI ๋ชจ๋ธ์ ์ฌ์ฅ์ ๋ ธ๋ฆฌ๋ ์๋ก์ด ์ํ: ์ด์์น ํ์ง ์์คํ ๊ณต๋ต
์ต๊ทผ AI ๊ธฐ์ ์ ๋๋ถ์ ๋ฐ์ ๊ณผ ๋๋ถ์ด, ๊ทธ ์์ ์ฑ๊ณผ ์ ๋ขฐ์ฑ์ ๋ํ ์ฐ๋ ค ๋ํ ์ปค์ง๊ณ ์์ต๋๋ค. ํนํ, ๋ฐฑ๋์ด ๊ณต๊ฒฉ์ AI ๋ชจ๋ธ์ ํต์ฌ ๊ธฐ๋ฅ์ ๋ฌด๋ ฅํ์ํค๋ ์ฌ๊ฐํ ์ํ์ผ๋ก ๋ ์ค๋ฅด๊ณ ์์ต๋๋ค. ์ง๊ธ๊น์ง์ ๋ฐฑ๋์ด ๊ณต๊ฒฉ ์ฐ๊ตฌ๋ ์ฃผ๋ก ํ์ํ ์งํฉ(closed-set)์์์ ๋ถ๋ฅ ์ฑ๋ฅ์ ์ด์ ์ ๋ง์ถฐ์์ต๋๋ค. ํ์ง๋ง, Zeinab Sadat Taghavi์ Hossein Mirzaei ์ฐ๊ตฌํ์ ์ด๋ฌํ ์ฐ๊ตฌ์ ํ๊ณ๋ฅผ ๊ทน๋ณตํ๊ณ , ๊ฐ๋ฐฉํ ์งํฉ(open-set) ์ฑ๋ฅ, ์ฆ ์ด์์น ํ์ง์ ๋ํ ์๋ก์ด ๋ฐฑ๋์ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ์ ์ ์ํ์ต๋๋ค.
์์จ์ฃผํ๋ถํฐ ์๋ฃ ์์ ๋ถ์๊น์ง ์ํํ๋ ์๋ก์ด ๊ณต๊ฒฉ
์์จ์ฃผํ ์๋์ฐจ๋ ์๋ฃ ์์ ๋ถ์ ์์คํ ๊ณผ ๊ฐ์ด ์์ ์ฑ์ด ๋งค์ฐ ์ค์ํ ์ค์ธ๊ณ ์์ฉ ๋ถ์ผ์์๋ ์ด์์น ํ์ง ๊ธฐ๋ฅ์ด ํ์์ ์ ๋๋ค. ํ์ง๋ง ๊ธฐ์กด ๋ฐฑ๋์ด ๊ณต๊ฒฉ์ ํ์ํ ์งํฉ ๋ด๋ถ์ ๊ฒฐ์ ๊ฒฝ๊ณ๋ง ํผ๋์ํค๋๋ก ์ค๊ณ๋์ด, ๊ฐ๋ฐฉํ ์งํฉ ์ฑ๋ฅ์๋ ํฐ ์ํฅ์ ๋ฏธ์น์ง ๋ชปํ์ต๋๋ค. ์ด๋ฌํ ์ทจ์ฝ์ ์ ์ด์ฉํ ์๋ก์ด ๊ณต๊ฒฉ์ด ํ์ํ ์์ ์ด์์ฃ .
BATOD: ์ด์์น ํ์ง๋ฅผ ๋ฌด๋ ฅํํ๋ ์๋ก์ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ
์ฐ๊ตฌํ์ ์ด๋ฌํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด BATOD (Backdoor Attack Targeting Outlier Detection) ๋ผ๋ ์๋ก์ด ๋ฐฑ๋์ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ์ ์ ์ํ์ต๋๋ค. BATOD๋ ์ ์ ๋ฐ์ดํฐ๋ฅผ ์ด์์น๋ก, ์ด์์น๋ฅผ ์ ์ ๋ฐ์ดํฐ๋ก ์ค์ธํ๊ฒ ๋ง๋๋ ๋ ๊ฐ์ง ์ข ๋ฅ์ ํธ๋ฆฌ๊ฑฐ๋ฅผ ์ฌ์ฉํ์ฌ, ํ์ํ ์งํฉ๊ณผ ๊ฐ๋ฐฉํ ์งํฉ ๊ฐ์ ๊ฒฐ์ ๊ฒฝ๊ณ๋ฅผ ๊ต๋ฌํ๊ฒ ํผ๋์ํต๋๋ค.
์คํ ๊ฒฐ๊ณผ: ๊ธฐ์กด ๊ณต๊ฒฉ์ ํ๊ณ๋ฅผ ๋ฐ์ด๋๋ ์ฑ๋ฅ
๋ค์ํ ์ค์ ๋ฐ์ดํฐ์ ์ ์ด์ฉํ ์คํ ๊ฒฐ๊ณผ, BATOD๋ ๊ธฐ์กด์ ๋ฐฑ๋์ด ๊ณต๊ฒฉ์ ๋นํด ๋ฐฉ์ด ๊ธฐ๋ฒ ์ ์ฉ ์ ํ ๋ชจ๋ ๊ฐ๋ฐฉํ ์งํฉ ์ฑ๋ฅ ์ ํ์ ํจ์ฌ ํจ๊ณผ์ ์ธ ๊ฒ์ผ๋ก ๋ํ๋ฌ์ต๋๋ค. ์ด๋ BATOD๊ฐ AI ์์คํ ์ ์ด์์น ํ์ง ๊ธฐ๋ฅ์ ํจ๊ณผ์ ์ผ๋ก ๋ฌด๋ ฅํํ ์ ์์์ ๋ณด์ฌ์ฃผ๋ ๊ฐ๋ ฅํ ์ฆ๊ฑฐ์ ๋๋ค.
๊ฒฝ๊ณ : ์๋ก์ด ์ํ์ ๋ํ ๋๋น๊ฐ ํ์ํฉ๋๋ค!
์ด๋ฒ ์ฐ๊ตฌ๋ AI ๋ชจ๋ธ์ ์์ ์ฑ์ ๋ํ ์ฌ๊ฐํ ์ฐ๋ ค๋ฅผ ์ ๊ธฐํฉ๋๋ค. BATOD์ ๊ฐ์ ์๋ก์ด ๋ฐฑ๋์ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ์ ๋ํ ๋๋น๊ฐ ์ ์คํ๋ฉฐ, ๋์ฑ ๊ฐ๋ ฅํ๊ณ ์์ ํ AI ์์คํ ๊ฐ๋ฐ์ ์ํ ์ง์์ ์ธ ์ฐ๊ตฌ๊ฐ ํ์ํฉ๋๋ค. ์ด์ ์ฐ๋ฆฌ๋ ๋จ์ํ ์ฑ๋ฅ ํฅ์์ด ์๋, AI ์์คํ ์ ์์ ์ฑ๊ณผ ์ ๋ขฐ์ฑ ํ๋ณด๋ผ๋ ๋ ํฐ ๊ณผ์ ์ ์ง๋ฉดํด ์์ต๋๋ค. ๋์์๋ ์ฐ๊ตฌ์ ์ฃผ์๋ง์ด AI ์๋์ ์์ ์ ๋ณด์ฅํ ์ ์์ ๊ฒ์ ๋๋ค.
Reference
[arxiv] Backdooring Outlier Detection Methods: A Novel Attack Approach
Published: ย (Updated: )
Author: ZeinabSadat Taghavi, Hossein Mirzaei
http://arxiv.org/abs/2412.05010v1