๐Ÿšจ AI ๋ชจ๋ธ์˜ ์น˜๋ช…์  ์•ฝ์ , ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ์˜ ์ƒˆ๋กœ์šด ๊ตญ๋ฉด: ์ด์ƒ์น˜ ํƒ์ง€ ์‹œ์Šคํ…œ ๊ณต๋žต!


๋ณธ ๊ธฐ์‚ฌ๋Š” AI ๋ชจ๋ธ์˜ ๊ฐœ๋ฐฉํ˜• ์ง‘ํ•ฉ ์„ฑ๋Šฅ, ์ฆ‰ ์ด์ƒ์น˜ ํƒ์ง€์— ๋Œ€ํ•œ ์ƒˆ๋กœ์šด ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ• BATOD์— ๋Œ€ํ•œ ์—ฐ๊ตฌ ๊ฒฐ๊ณผ๋ฅผ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ์กด ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ์˜ ํ•œ๊ณ„๋ฅผ ๊ทน๋ณตํ•˜๊ณ  ์‹ค์ œ ๋ฐ์ดํ„ฐ์…‹์„ ํ†ตํ•ด ๊ทธ ํšจ๊ณผ๋ฅผ ๊ฒ€์ฆํ•จ์œผ๋กœ์จ, AI ์‹œ์Šคํ…œ์˜ ์•ˆ์ „์„ฑ์— ๋Œ€ํ•œ ์‹ฌ๊ฐํ•œ ์šฐ๋ ค๋ฅผ ์ œ๊ธฐํ•˜๋ฉฐ, ๋”์šฑ ๊ฐ•๋ ฅํ•œ ๋ฐฉ์–ด ๊ธฐ๋ฒ• ๊ฐœ๋ฐœ์˜ ํ•„์š”์„ฑ์„ ๊ฐ•์กฐํ•ฉ๋‹ˆ๋‹ค.

related iamge

AI ๋ชจ๋ธ์˜ ์‹ฌ์žฅ์„ ๋…ธ๋ฆฌ๋Š” ์ƒˆ๋กœ์šด ์œ„ํ˜‘: ์ด์ƒ์น˜ ํƒ์ง€ ์‹œ์Šคํ…œ ๊ณต๋žต

์ตœ๊ทผ AI ๊ธฐ์ˆ ์˜ ๋ˆˆ๋ถ€์‹  ๋ฐœ์ „๊ณผ ๋”๋ถˆ์–ด, ๊ทธ ์•ˆ์ „์„ฑ๊ณผ ์‹ ๋ขฐ์„ฑ์— ๋Œ€ํ•œ ์šฐ๋ ค ๋˜ํ•œ ์ปค์ง€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ, ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ์€ AI ๋ชจ๋ธ์˜ ํ•ต์‹ฌ ๊ธฐ๋Šฅ์„ ๋ฌด๋ ฅํ™”์‹œํ‚ค๋Š” ์‹ฌ๊ฐํ•œ ์œ„ํ˜‘์œผ๋กœ ๋– ์˜ค๋ฅด๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ง€๊ธˆ๊นŒ์ง€์˜ ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ ์—ฐ๊ตฌ๋Š” ์ฃผ๋กœ ํ์‡„ํ˜• ์ง‘ํ•ฉ(closed-set)์—์„œ์˜ ๋ถ„๋ฅ˜ ์„ฑ๋Šฅ์— ์ดˆ์ ์„ ๋งž์ถฐ์™”์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ, Zeinab Sadat Taghavi์™€ Hossein Mirzaei ์—ฐ๊ตฌํŒ€์€ ์ด๋Ÿฌํ•œ ์—ฐ๊ตฌ์˜ ํ•œ๊ณ„๋ฅผ ๊ทน๋ณตํ•˜๊ณ , ๊ฐœ๋ฐฉํ˜• ์ง‘ํ•ฉ(open-set) ์„ฑ๋Šฅ, ์ฆ‰ ์ด์ƒ์น˜ ํƒ์ง€์— ๋Œ€ํ•œ ์ƒˆ๋กœ์šด ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ•์„ ์ œ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค.

์ž์œจ์ฃผํ–‰๋ถ€ํ„ฐ ์˜๋ฃŒ ์˜์ƒ ๋ถ„์„๊นŒ์ง€ ์œ„ํ˜‘ํ•˜๋Š” ์ƒˆ๋กœ์šด ๊ณต๊ฒฉ

์ž์œจ์ฃผํ–‰ ์ž๋™์ฐจ๋‚˜ ์˜๋ฃŒ ์˜์ƒ ๋ถ„์„ ์‹œ์Šคํ…œ๊ณผ ๊ฐ™์ด ์•ˆ์ „์„ฑ์ด ๋งค์šฐ ์ค‘์š”ํ•œ ์‹ค์„ธ๊ณ„ ์‘์šฉ ๋ถ„์•ผ์—์„œ๋Š” ์ด์ƒ์น˜ ํƒ์ง€ ๊ธฐ๋Šฅ์ด ํ•„์ˆ˜์ ์ž…๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ๊ธฐ์กด ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ์€ ํ์‡„ํ˜• ์ง‘ํ•ฉ ๋‚ด๋ถ€์˜ ๊ฒฐ์ • ๊ฒฝ๊ณ„๋งŒ ํ˜ผ๋ž€์‹œํ‚ค๋„๋ก ์„ค๊ณ„๋˜์–ด, ๊ฐœ๋ฐฉํ˜• ์ง‘ํ•ฉ ์„ฑ๋Šฅ์—๋Š” ํฐ ์˜ํ–ฅ์„ ๋ฏธ์น˜์ง€ ๋ชปํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ์ทจ์•ฝ์ ์„ ์ด์šฉํ•œ ์ƒˆ๋กœ์šด ๊ณต๊ฒฉ์ด ํ•„์š”ํ•œ ์‹œ์ ์ด์—ˆ์ฃ .

BATOD: ์ด์ƒ์น˜ ํƒ์ง€๋ฅผ ๋ฌด๋ ฅํ™”ํ•˜๋Š” ์ƒˆ๋กœ์šด ๊ณต๊ฒฉ ๊ธฐ๋ฒ•

์—ฐ๊ตฌํŒ€์€ ์ด๋Ÿฌํ•œ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด BATOD (Backdoor Attack Targeting Outlier Detection) ๋ผ๋Š” ์ƒˆ๋กœ์šด ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ•์„ ์ œ์•ˆํ–ˆ์Šต๋‹ˆ๋‹ค. BATOD๋Š” ์ •์ƒ ๋ฐ์ดํ„ฐ๋ฅผ ์ด์ƒ์น˜๋กœ, ์ด์ƒ์น˜๋ฅผ ์ •์ƒ ๋ฐ์ดํ„ฐ๋กœ ์˜ค์ธํ•˜๊ฒŒ ๋งŒ๋“œ๋Š” ๋‘ ๊ฐ€์ง€ ์ข…๋ฅ˜์˜ ํŠธ๋ฆฌ๊ฑฐ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ, ํ์‡„ํ˜• ์ง‘ํ•ฉ๊ณผ ๊ฐœ๋ฐฉํ˜• ์ง‘ํ•ฉ ๊ฐ„์˜ ๊ฒฐ์ • ๊ฒฝ๊ณ„๋ฅผ ๊ต๋ฌ˜ํ•˜๊ฒŒ ํ˜ผ๋ž€์‹œํ‚ต๋‹ˆ๋‹ค.

์‹คํ—˜ ๊ฒฐ๊ณผ: ๊ธฐ์กด ๊ณต๊ฒฉ์˜ ํ•œ๊ณ„๋ฅผ ๋›ฐ์–ด๋„˜๋Š” ์„ฑ๋Šฅ

๋‹ค์–‘ํ•œ ์‹ค์ œ ๋ฐ์ดํ„ฐ์…‹์„ ์ด์šฉํ•œ ์‹คํ—˜ ๊ฒฐ๊ณผ, BATOD๋Š” ๊ธฐ์กด์˜ ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ์— ๋น„ํ•ด ๋ฐฉ์–ด ๊ธฐ๋ฒ• ์ ์šฉ ์ „ํ›„ ๋ชจ๋‘ ๊ฐœ๋ฐฉํ˜• ์ง‘ํ•ฉ ์„ฑ๋Šฅ ์ €ํ•˜์— ํ›จ์”ฌ ํšจ๊ณผ์ ์ธ ๊ฒƒ์œผ๋กœ ๋‚˜ํƒ€๋‚ฌ์Šต๋‹ˆ๋‹ค. ์ด๋Š” BATOD๊ฐ€ AI ์‹œ์Šคํ…œ์˜ ์ด์ƒ์น˜ ํƒ์ง€ ๊ธฐ๋Šฅ์„ ํšจ๊ณผ์ ์œผ๋กœ ๋ฌด๋ ฅํ™”ํ•  ์ˆ˜ ์žˆ์Œ์„ ๋ณด์—ฌ์ฃผ๋Š” ๊ฐ•๋ ฅํ•œ ์ฆ๊ฑฐ์ž…๋‹ˆ๋‹ค.

๊ฒฝ๊ณ : ์ƒˆ๋กœ์šด ์œ„ํ˜‘์— ๋Œ€ํ•œ ๋Œ€๋น„๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค!

์ด๋ฒˆ ์—ฐ๊ตฌ๋Š” AI ๋ชจ๋ธ์˜ ์•ˆ์ „์„ฑ์— ๋Œ€ํ•œ ์‹ฌ๊ฐํ•œ ์šฐ๋ ค๋ฅผ ์ œ๊ธฐํ•ฉ๋‹ˆ๋‹ค. BATOD์™€ ๊ฐ™์€ ์ƒˆ๋กœ์šด ๋ฐฑ๋„์–ด ๊ณต๊ฒฉ ๊ธฐ๋ฒ•์— ๋Œ€ํ•œ ๋Œ€๋น„๊ฐ€ ์ ˆ์‹คํ•˜๋ฉฐ, ๋”์šฑ ๊ฐ•๋ ฅํ•˜๊ณ  ์•ˆ์ „ํ•œ AI ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ์„ ์œ„ํ•œ ์ง€์†์ ์ธ ์—ฐ๊ตฌ๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์ด์ œ ์šฐ๋ฆฌ๋Š” ๋‹จ์ˆœํ•œ ์„ฑ๋Šฅ ํ–ฅ์ƒ์ด ์•„๋‹Œ, AI ์‹œ์Šคํ…œ์˜ ์•ˆ์ „์„ฑ๊ณผ ์‹ ๋ขฐ์„ฑ ํ™•๋ณด๋ผ๋Š” ๋” ํฐ ๊ณผ์ œ์— ์ง๋ฉดํ•ด ์žˆ์Šต๋‹ˆ๋‹ค. ๋Š์ž„์—†๋Š” ์—ฐ๊ตฌ์™€ ์ฃผ์˜๋งŒ์ด AI ์‹œ๋Œ€์˜ ์•ˆ์ „์„ ๋ณด์žฅํ•  ์ˆ˜ ์žˆ์„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.


*์ด ๊ธฐ์‚ฌ๋Š” AI๊ฐ€ ์ƒ์„ฑํ•œ ๋‚ด์šฉ์œผ๋กœ, ์ผ๋ถ€ ์ •๋ณด๊ฐ€ ์‹ค์ œ์™€ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ •ํ™•ํ•œ ํ™•์ธ์„ ์œ„ํ•ด ์ถ”๊ฐ€์ ์ธ ๊ฒ€์ฆ์„ ๊ถŒ์žฅ๋“œ๋ฆฝ๋‹ˆ๋‹ค.

Reference

[arxiv] Backdooring Outlier Detection Methods: A Novel Attack Approach

Published: ย (Updated: )

Author: ZeinabSadat Taghavi, Hossein Mirzaei

http://arxiv.org/abs/2412.05010v1