๐จ AI ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ , ์กฐ์ง์ ์ธ ์ฌ๊ธฐ ๊ณต๊ฒฉ์ ๋ฌด๋ฐฉ๋น? ๐ฑ
์นด์ด์คํธ ์ฐ๊ตฌ์ง์ด GNN ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ ์ ์ทจ์ฝ์ ์ ๋ฐํ๊ณ , ์๋ก์ด ๊ณต๊ฒฉ ๋ชจ๋ธ MonTi๋ฅผ ์ ์ํ์ต๋๋ค. MonTi๋ ๊ธฐ์กด ๋ฐฉ์๋ณด๋ค ํจ์จ์ ์ธ ์์ฑ ๋ฐ ๊ฐ์ ์์ฑ, ์ ์์ ์ฐจ์ ์์ฐ ํ ๋น์ ํตํด ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์์ต๋๋ค. ์ด ์ฐ๊ตฌ๋ AI ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ ์ ์์ ์ฑ ๊ฐํ๋ฅผ ์ํ ์ค์ํ ์์ฌ์ ์ ์ ๊ณตํฉ๋๋ค.

AI ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ , ์กฐ์ง์ ์ฌ๊ธฐ ๊ณต๊ฒฉ์ ๋ฌด๋ฐฉ๋น? ๐ฑ
์ต๊ทผ ๊ทธ๋ํ ์ ๊ฒฝ๋ง(GNN) ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ ์ด ๊ฐ๊ด๋ฐ๊ณ ์์ง๋ง, ์ต์ด๋ก GNN ๊ธฐ๋ฐ ์์คํ ์ ๋ํ ์กฐ์ง์ ์ธ ์ฌ๊ธฐ ๊ณต๊ฒฉ์ ์ํ์ ๋ฐํ ์ฐ๊ตฌ ๊ฒฐ๊ณผ๊ฐ ๋์์ต๋๋ค. ์นด์ด์คํธ ์ฐ๊ตฌ์ง(์ต์งํ, ๊นํฌํ, ํฉ์ง์)์ด ๋ฐํํ ๋ ผ๋ฌธ "Unveiling the Threat of Fraud Gangs to Graph Neural Networks: Multi-Target Graph Injection Attacks against GNN-Based Fraud Detectors"์ ๋ฐ๋ฅด๋ฉด, ์ฌ๊ธฐ ์กฐ์ง์ ๊ทธ๋ค์ ๋ถ๋ฒ ํ์๋ฅผ ์ํํ๊ธฐ ์ํด GNN ๊ธฐ๋ฐ ์์คํ ์ ๊ต๋ฌํ๊ฒ ์์ด๋ ๋ฐฉ๋ฒ์ ์ฌ์ฉํ๊ณ ์์ต๋๋ค.
๐ ์ฌ๊ธฐ ์กฐ์ง์ ๊ต๋ฌํ ๊ณต๊ฒฉ ์ ๋ต: ๋ค์ค ๋ชฉํ ๊ทธ๋ํ ์ฃผ์ ๊ณต๊ฒฉ
์ฐ๊ตฌ์ง์ ์คํธ ๋ฆฌ๋ทฐ, ๊ฐ์ง ๋ด์ค, ์๋ฃ ๋ณดํ ์ฌ๊ธฐ ๋ฑ ์ค์ ์ฌ๋ก๋ฅผ ๋ฐํ์ผ๋ก ์ฌ๊ธฐ ์กฐ์ง์ ๊ณต๊ฒฉ ์๋๋ฆฌ์ค๋ฅผ ์ค๊ณํ์ต๋๋ค. ์ด๋ค์ ๋ค์ค ๋ชฉํ ๊ทธ๋ํ ์ฃผ์ ๊ณต๊ฒฉ(Multi-target graph injection attacks) ์ด๋ผ๋ ์๋ก์ด ๊ณต๊ฒฉ ๋ฐฉ์์ ์ ์ํ๊ณ , ์ด์ ๋์ํ๋ ๊ณต๊ฒฉ ๋ชจ๋ธ์ ์ ์ํ์ต๋๋ค.
๐ก๏ธ ์๋ก์ด ๊ณต๊ฒฉ ๋ชจ๋ธ MonTi: ๊ธฐ์กด ๋ชจ๋ธ์ ํ๊ณ ๊ทน๋ณต
์ฐ๊ตฌ์ง์ด ๊ฐ๋ฐํ MonTi๋ ํธ๋์คํฌ๋จธ ๊ธฐ๋ฐ ๋ชจ๋ธ๋ก, ๊ธฐ์กด์ ๊ทธ๋ํ ์ฃผ์ ๊ณต๊ฒฉ ๋ฐฉ๋ฒ๋ค๊ณผ ๋น๊ตํ์ฌ ๋ช ๊ฐ์ง ์ค์ํ ์ฐจ๋ณ์ ์ ๊ฐ์ง๊ณ ์์ต๋๋ค.
- ๋์์ ์์ฑ ๋ฐ ๊ฐ์ ์์ฑ: MonTi๋ ๋ชจ๋ ๊ณต๊ฒฉ ๋ ธ๋์ ์์ฑ๊ณผ ๊ฐ์ ์ ๋์์ ์์ฑํ์ฌ, ์์ฑ๊ณผ ๊ฐ์ ๊ฐ์ ์ํธ ์์กด์ฑ์ ๋ ํจ๊ณผ์ ์ผ๋ก ํฌ์ฐฉํฉ๋๋ค. ๊ธฐ์กด ๋ฐฉ๋ฒ๋ค์ ์ด๋ฌํ ์์๋ค์ ์์ฐจ์ ์ผ๋ก ์์ฑํ์ฌ ํจ์จ์ฑ์ด ๋จ์ด์ง๋ ๋ฐ๋ฉด, MonTi๋ ํธ๋์คํฌ๋จธ์ ๊ฐ๋ ฅํ ๋ณ๋ ฌ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ ํ์ฉํฉ๋๋ค.
- ์ ์์ ์ฐจ์ ์์ฐ ํ ๋น: MonTi๋ ๊ฐ ๊ณต๊ฒฉ ๋ ธ๋์ ๋ํ ์ฐจ์ ์์ฐ(degree budget)์ ์ ์์ ์ผ๋ก ํ ๋นํ์ฌ, ๋ชฉํ ๋ ธ๋, ํ๋ณด ๋ ธ๋, ๊ณต๊ฒฉ ๋ ธ๋๋ฅผ ํฌํจํ๋ ๋ค์ํ ์ฃผ์ ๊ตฌ์กฐ๋ฅผ ํ์ํฉ๋๋ค. ๊ธฐ์กด ๋ฐฉ๋ฒ๋ค์ ๋ชจ๋ ๊ณต๊ฒฉ ๋ ธ๋์ ๋ํด ์ฐจ์ ์์ฐ์ ๊ณ ์ ์ ์ผ๋ก ํ ๋นํ๋ ๊ฒ๊ณผ ๋์กฐ์ ์ ๋๋ค.
๐ ์คํ ๊ฒฐ๊ณผ: MonTi์ ์๋์ ์ธ ์ฑ๋ฅ
์ค์ ๋ฐ์ดํฐ์ ์ ์ด์ฉํ ์คํ ๊ฒฐ๊ณผ, MonTi๋ ๊ธฐ์กด ์ต์ฒจ๋จ ๊ทธ๋ํ ์ฃผ์ ๊ณต๊ฒฉ ๋ฐฉ๋ฒ๋ค์ ๋ฅ๊ฐํ๋ ์ฑ๋ฅ์ ๋ณด์์ต๋๋ค. ์ด๋ GNN ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ ์ด ์๊ฐ๋ณด๋ค ์ทจ์ฝํ๋ฉฐ, ๋์ฑ ๊ฐ๋ ฅํ ๋ฐฉ์ด ์์คํ ๊ฐ๋ฐ์ด ์๊ธํจ์ ์์ฌํฉ๋๋ค.
๐ค ์์ผ๋ก์ ๊ณผ์ : ๋์ฑ ์ ๊ตํ ๋ฐฉ์ด ์์คํ ๊ฐ๋ฐ
์ด ์ฐ๊ตฌ๋ GNN ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ ์ ์ทจ์ฝ์ฑ์ ๋ช ํํ ๋ณด์ฌ์ฃผ๋ ๋์์, ๋์ฑ ์ ๊ตํ๊ณ ์์ ํ AI ๊ธฐ๋ฐ ์ฌ๊ธฐ ํ์ง ์์คํ ๊ฐ๋ฐ์ ํ์์ฑ์ ๊ฐ์กฐํฉ๋๋ค. ์์ผ๋ก๋ ์ฌ๊ธฐ ์กฐ์ง์ ๊ณต๊ฒฉ ํจํด์ ๋์ฑ ์ ํํ๊ฒ ์์ธกํ๊ณ ๋ฐฉ์ดํ ์ ์๋ ์๋ก์ด ๊ธฐ์ ๊ฐ๋ฐ์ ๋ํ ์ฐ๊ตฌ๊ฐ ๋์ฑ ํ๋ฐํด์ง ๊ฒ์ผ๋ก ์์๋ฉ๋๋ค.
Reference
[arxiv] Unveiling the Threat of Fraud Gangs to Graph Neural Networks: Multi-Target Graph Injection Attacks against GNN-Based Fraud Detectors
Published: ย (Updated: )
Author: Jinhyeok Choi, Heehyeon Kim, Joyce Jiyoung Whang
http://arxiv.org/abs/2412.18370v1