π¨ AI 보μμ μλ‘μ΄ μν: λΈλλ°μ€ LLM-DoS 곡격 AutoDoS λ±μ₯ π¨
λ³Έ κΈ°μ¬λ μ€κ΅ μ°κ΅¬μ§μ΄ κ°λ°ν λΈλλ°μ€ LLM-DoS 곡격 μκ³ λ¦¬μ¦ AutoDoSμ λν΄ λ€λ£Ήλλ€. AutoDoSλ κΈ°μ‘΄μ λ°©μ΄ μμ€ν μ μ°ννκ³ μλΉμ€ μλ΅ μ§μ° μκ°μ 250λ°° μ΄μ μ¦κ°μν€λ λ± μ¬κ°ν μνμ μ κΈ°ν©λλ€. μ΄λ AI 보μμ μ€μμ±μ κ°μ‘°νλ©°, λμ± κ°λ ₯ν 보μ μμ€ν μ κ°λ° νμμ±μ μμ¬ν©λλ€.

μ²¨λ¨ AI, μλ‘μ΄ μνμ μ§λ©΄νλ€: AutoDoSμ λ±μ₯
μ΅κ·Ό λκ·λͺ¨ μΈμ΄ λͺ¨λΈ(LLM)μ λλΌμ΄ μ±λ₯ ν₯μκ³Ό ν¨κ», κ·Έ μ·¨μ½μ±μ μ μ©ν μ¬μ΄λ² 곡격 λν μ§λ₯νλκ³ μμ΅λλ€. νΉν μλΉμ€ κ±°λΆ κ³΅κ²©(DoS)μ LLMμ λ§λν μ»΄ν¨ν μμμ κ³ κ°μμΌ μλΉμ€λ₯Ό λ§λΉμν€λ μ¬κ°ν μνμΌλ‘ λ μ€λ₯΄κ³ μμ΅λλ€. κΈ°μ‘΄ μ°κ΅¬λ μ£Όλ‘ νμ΄νΈλ°μ€ νκ²½μμμ 곡격μ μ΄μ μ λ§μΆ°μμ§λ§, μ€κ΅ μ°κ΅¬μ§μ΄ κ°λ°ν AutoDoS (Auto-Generation for LLM-DoS Attack) λ μ΄λ¬ν νκ³λ₯Ό λ°μ΄λμ΄ λΈλλ°μ€ νκ²½μμλ μλνλ μλ‘μ΄ LLM-DoS 곡격 μκ³ λ¦¬μ¦μ λλ€.
AutoDoS: μ΄λ»κ² μλν κΉμ?
AutoDoSλ DoS 곡격 νΈλ¦¬λ₯Ό λμ νμ¬ κ³΅κ²© ν¨μ¨μ κ·Ήλνν©λλ€. ν둬ννΈ λ Έλ μ μ© λ²μλ₯Ό μ΅μ ννλ μκ³ λ¦¬μ¦μ ν΅ν΄ λΈλλ°μ€ νκ²½μμλ ν¨κ³Όμ μΌλ‘ LLMμ 곡격ν μ μμ΅λλ€. λΏλ§ μλλΌ, ν둬ννΈ λ Έλμ μλ―Έλ₯Ό κ°μ νκ³ Length Trojan κΈ°μ μ νμ©νμ¬ κΈ°μ‘΄ λ°©μ΄ μμ€ν μ μ°ννκ³ νμ§ κ°λ₯μ±μ μ΅μνν©λλ€. μ΄λ λ§μΉ μλ°νκ² μΉ¨ν¬νμ¬ μμ€ν μ λ§λΉμν€λ μλ ¨λ ν΄μ»€μ κ°μ΅λλ€.
좩격μ μΈ μ€ν κ²°κ³Ό: 250λ°° μ΄μμ μ§μ° μκ° μ¦κ°
μ°κ΅¬μ§μ μ€ν κ²°κ³Όλ 좩격μ μ λλ€. AutoDoSλ μλΉμ€ μλ΅ μ§μ° μκ°μ λ¬΄λ € 250λ°° μ΄μ μ¦κ°μμΌ°κ³ , GPU μ¬μ©λ₯ κ³Ό λ©λͺ¨λ¦¬ μ¬μ©λ λν κ·Ήμ μΌλ‘ μ¦κ°μμΌ LLM μλΉμ€μ μ¬κ°ν λ§λΉλ₯Ό μ΄λνμ΅λλ€. μ΄λ λ¨μν μμ€ν κ³ΌλΆνλ₯Ό λμ΄, μλΉμ€ μ체λ₯Ό 무λ ₯νμν€λ μμ€μ 곡격μμ μλ―Έν©λλ€. μμΈν κΈ°μ μ λ΄μ©μ Github μμ νμΈν μ μμ΅λλ€.
μμΌλ‘μ κ³Όμ : AI 보μ κ°νμ νμμ±
AutoDoSμ λ±μ₯μ AI 보μμ λν μ¬κ°ν κ²½κ°μ¬μ μΌκΉ¨μμ€λλ€. LLMμ μμ ν νμ©μ μν΄μλ λμ± κ°λ ₯ν 보μ μμ€ν κ°λ°κ³Ό μ§μμ μΈ μν λΆμμ΄ μ μ€ν©λλ€. μ΄μ AI 보μμ λ¨μν κΈ°μ μ λ¬Έμ λ₯Ό λμ΄, μ¬νμ μμ κ³Ό μ§κ²°λλ μ€μν μ΄μκ° λμμ΅λλ€. λ³Έ μ°κ΅¬λ μ΄λ¬ν νμ€μ 보μ¬μ£Όλ μ€μν μ¬λ‘μ΄λ©°, ν₯ν AI 보μ κΈ°μ λ°μ μ μ€μν κΈ°μ¬λ₯Ό ν κ²μΌλ‘ κΈ°λλ©λλ€.
Yuanhe Zhang, Zhenhong Zhou, Wei Zhang, Xinyue Wang, Xiaojun Jia, Yang Liu, Sen Su λ± μ°κ΅¬μ§μ λ Έλ ₯μ λ°μλ₯Ό 보λ λλ€. νμ§λ§ κ·Έλ€μ μ°κ΅¬κ° μ μ©λλ μΌμ μμ΄μΌ ν κ²μ λλ€. AIμ λ°μ λ―Έλλ₯Ό μν΄, μ°λ¦¬ λͺ¨λλ λμμλ κ²½κ³μ¬κ³Ό μ§μμ μΈ λ Έλ ₯μ λ©μΆ°μλ μ λ©λλ€.
Reference
[arxiv] Crabs: Consuming Resrouce via Auto-generation for LLM-DoS Attack under Black-box Settings
Published: Β (Updated: )
Author: Yuanhe Zhang, Zhenhong Zhou, Wei Zhang, Xinyue Wang, Xiaojun Jia, Yang Liu, Sen Su
http://arxiv.org/abs/2412.13879v1