π¨ 좩격! XAIμ ν΅μ¬ μ§ν SHAP μ μ, κ΄λ²μν μ€λ₯ λ°κ²¬! π¨
μ΅κ·Ό μ°κ΅¬μ λ°λ₯΄λ©΄ XAIμμ λ리 μ¬μ©λλ SHAP μ μκ° λΆμΈ λΆλ₯κΈ°μ νκ· λͺ¨λΈ λͺ¨λμμ κ΄λ²μν μ€λ₯λ₯Ό 보μ΄λ©°, μ¬μ§μ΄ Lipschitz μ°μμ±μ λ§μ‘±νλ λͺ¨λΈμμλ λ¬Έμ κ° λ°μνλ κ²μΌλ‘ λνλ¬μ΅λλ€. μ΄λ SHAP μ μμ μ λ’°μ±μ λν μ¬κ°ν μλ¬Έμ μ κΈ°νλ©°, XAI λΆμΌμ μλ‘μ΄ μ κ·Ό λ°©μμ΄ νμν¨μ μμ¬ν©λλ€.

XAIμ ν΅μ¬, SHAP μ μμ λΆμμ μ±: μ°κ΅¬ κ²°κ³Όκ° λλ¬λΈ 좩격μ μΈ μ§μ€
μ€λͺ κ°λ₯ν AI (XAI) λΆμΌμμ λ리 μ¬μ©λλ SHAP(SHapley Additive exPlanations) μ μ. κ·Έ μ μ©μ±μλ λΆκ΅¬νκ³ , μ΅κ·Ό Olivier Letoffe, Xuanxiang Huang, Joao Marques-Silva μΈ μ°κ΅¬μμ λ Όλ¬Έμ΄ SHAP μ μμ μ¬κ°ν λ¬Έμ μ μ λ°ν 좩격μ μ£Όκ³ μμ΅λλ€.
κΈ°μ‘΄ μ°κ΅¬μ νκ³λ₯Ό λμ΄μ μλ‘μ΄ λ°κ²¬
κΈ°μ‘΄ μ°κ΅¬μμλ νΉμ μμλ₯Ό ν΅ν΄ SHAP μ μμ λΆμ νμ±μ μ§μ νμ§λ§, μΈμμ μΈ μμμ λΆκ³Όνκ±°λ νΉμ 쑰건μ κ΅νλλ€λ λΉνμ΄ μμμ΅λλ€. νμ§λ§ μ΄λ² μ°κ΅¬λ μ΄λ¬ν λΉνμ μμ ν λ€μ§μ΅λλ€. μ°κ΅¬μ§μ λΆμΈ λΆλ₯κΈ°μμ μμλ‘ λ§μ μμλ₯Ό μμ±νμ¬ SHAP μ μμ λΆμ νμ±μ μ¦λͺ νμ΅λλ€. λ λμκ°, νκ· λͺ¨λΈμμλ λμΌν λ¬Έμ κ° λ°μν¨μ λ°νλμ΅λλ€.
Lipschitz μ°μμ±, κ·Έ μλ―Έμ νκ³
νΉν μ£Όλͺ©ν μ μ, Lipschitz μ°μμ±μ λ§μ‘±νλ νκ· λͺ¨λΈμμλ SHAP μ μμ μ€λ₯κ° λ°μνλ€λ μ¬μ€μ λλ€. Lipschitz μ°μμ±μ ν¨μμ λ³νμ¨μ μΈ‘μ νλ μ§νλ‘, μ΅κ·Ό λ¨Έμ λ¬λ λΆμΌμμ λͺ¨λΈμ κ°κ±΄μ±μ νκ°νλ λ° μ€μνκ² νμ©λκ³ μμ΅λλ€. μ¦, μμ μ μ΄κ³ κ²¬κ³ ν λͺ¨λΈλ‘ μ¬κ²¨μ§λ Lipschitz μ°μμ±μ λ§μ‘±νλ λͺ¨λΈμμμ‘°μ°¨ SHAP μ μκ° μ€ν¨νλ€λ κ²μ, SHAP μ μμ μ λ’°μ±μ λν μ¬κ°ν μλ¬Έμ μ κΈ°νλ κ²μ λλ€. λΏλ§ μλλΌ, μμλ‘ λ―ΈλΆ κ°λ₯ν νκ· λͺ¨λΈμμλ κ°μ λ¬Έμ κ° λ°μνλ€λ μ¬μ€μ΄ νμΈλμμ΅λλ€.
κ²°λ‘ : SHAP μ μμ λν μ¬κ³ μ μλ‘μ΄ μ κ·Ό νμ
μ΄λ² μ°κ΅¬ κ²°κ³Όλ SHAP μ μλ₯Ό XAIμ ν΅μ¬ μ§νλ‘ μ¬μ©νλ λ° μμ΄ μ¬κ°ν λ¬Έμ μ μ μ κΈ°ν©λλ€. SHAP μ μμ κ΄λ²μν μ€λ₯ κ°λ₯μ±μ XAI κΈ°μ μ μ λ’°λμ λν μλ¬Έμ λΆλ¬μΌμΌν€λ©°, λμ± μ λ’°ν μ μκ³ μ νν μ€λͺ κ°λ₯μ± λ°©λ²λ‘ μ κ°λ° νμμ±μ κ°μ‘°ν©λλ€. XAI λΆμΌμ μ°κ΅¬μλ€μ SHAP μ μμ λν μμ‘΄λλ₯Ό μ€μ΄κ³ , λμ± κ²¬κ³ νκ³ μ νν μ€λͺ κ°λ₯μ± κΈ°μ μ κ°λ°νκΈ° μν λ Έλ ₯μ κ°νν΄μΌ ν κ²μ λλ€. SHAP μ μμ νκ³λ₯Ό μΈμ§νκ³ , λ€μν μν©μ μ ν©ν μλ‘μ΄ μ€λͺ κ°λ₯μ± λ°©λ²μ νμνλ κ²μ΄ μμΌλ‘μ κ³Όμ μ λλ€.
Reference
[arxiv] SHAP scores fail pervasively even when Lipschitz succeeds
Published: Β (Updated: )
Author: Olivier Letoffe, Xuanxiang Huang, Joao Marques-Silva
http://arxiv.org/abs/2412.13866v1