๐คฏ ๋๋ผ์ด AI ์ฝ๋ฉ ์ค๋ ฅ! LeetCode ์ ๋ณต์ ๋์ ํ ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ๋ค
๋ณธ ๊ธฐ์ฌ๋ ์ค๊ตญ ์ฐ๊ตฌ์ง์ด ๋ฐํํ LLM์ LeetCode ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ ํ๊ฐ ์ฐ๊ตฌ๋ฅผ ์๊ฐํฉ๋๋ค. GPT-4 ๋ฐ GPT-3.5-turbo๋ฅผ ์ด์ฉํ ์คํ ๊ฒฐ๊ณผ์ 'pass@k' ์งํ๋ฅผ ํตํ ์ฑ๋ฅ ๋ถ์ ๋ด์ฉ์ ๋ฐํ์ผ๋ก, AI์ ์ฝ๋ฉ ๋ฅ๋ ฅ๊ณผ ํฅํ ๋ฐ์ ๋ฐฉํฅ์ ๋ํ ํฅ๋ฏธ๋ก์ด ํต์ฐฐ์ ์ ๊ณตํฉ๋๋ค.

AI๊ฐ LeetCode ๋ฌธ์ ๋ฅผ ํผ๋ค๊ณ ? ๋๋ผ์ด ์คํ ๊ฒฐ๊ณผ ๊ณต๊ฐ!
์ต๊ทผ, ์ค๊ตญ ์ฐ๊ตฌ์ง (Lun Wang ์ธ 6๋ช ) ์ด ๋ฐํํ ๋ ผ๋ฌธ์ด AI ์ ๊ณ์ ํฐ ํ์ฅ์ ์ผ์ผํค๊ณ ์์ต๋๋ค. ๋ฐ๋ก ๊ฑฐ๋ ์ธ์ด ๋ชจ๋ธ(LLM)์ LeetCode ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ์ ์ข ํฉ์ ์ผ๋ก ํ๊ฐํ ์ฐ๊ตฌ์ธ๋ฐ์. LeetCode๋ ๊ฐ๋ฐ์๋ค์ ์๊ณ ๋ฆฌ์ฆ ์ค๋ ฅ์ ํ๊ฐํ๋ ์ ๋ช ํ๋ซํผ์ด์ฃ . ์ด ์ฐ๊ตฌ๋ ๋จ์ํ LLM์ด ์ฝ๋๋ฅผ ์์ฑํ๋ ๋ฅ๋ ฅ์ ๋์ด, ์ค์ ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ๊น์ง ์ธก์ ํ๋ค๋ ์ ์์ ์๋ฏธ๊ฐ ํฝ๋๋ค.
์ฐ๊ตฌ์ง์ LeetCode ์น์ฌ์ดํธ์์ ๋ค์ํ ๋์ด๋์ ์ฃผ์ ์ ๋ฌธ์ ๋ค์ ์์ง, GPT-4์ GPT-3.5-turbo (ChatGPT-turbo) ๋ฑ ์ฌ๋ฌ LLM์ ์ด์ฉํด ๋ฌธ์ ํด๊ฒฐ์ ๋์ ํ์ต๋๋ค. ๊ทธ๋ฆฌ๊ณ ๋จ์ํ ์ ๋ต์ ๋ง์ถ๋ ๊ฒ๋ฟ ์๋๋ผ, ํด๊ฒฐ ๊ณผ์ ์ ํจ์จ์ฑ๊น์ง ๊ผผ๊ผผํ๊ฒ ๋ถ์ํ์ต๋๋ค. pass@k ์งํ๋ฅผ ์ฌ์ฉํ์ฌ ์ผ์ ํ์์ ์๋ ๋ด์์ ์ ๋ต์ ๋งํ ํ๋ฅ ์ ์ธก์ ํ๊ณ , ์๋ฃจ์
์ ์คํ ์๊ฐ๋ ๋ฉด๋ฐํ ๋ถ์ํ๋ค๋ ์ ์ด ์ธ์์ ์
๋๋ค.
๊ฒฐ๊ณผ๋ ์ด๋จ๊น์? ๋ ผ๋ฌธ์ ํ์ฌ LLM์ ์ฝ๋ ์์ฑ ๋ฐ ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ์ ๊ฐ์ ๊ณผ ํ๊ณ๋ฅผ ๋ช ํํ๊ฒ ์ ์ํฉ๋๋ค. ์ฆ, AI๊ฐ ์ฝ๋ฉ์ ์ผ๋ง๋ ์ํ๊ณ , ์ด๋ค ๋ถ๋ถ์์ ๊ฐ์ ์ด ํ์ํ์ง ๊ตฌ์ฒด์ ์ธ ํต์ฐฐ์ ์ ๊ณตํ๋ค๋ ๊ฒ์ด์ฃ . ์ด๋ ์๋ํ๋ ํ๋ก๊ทธ๋๋ฐ ์ง์ ๊ธฐ์ ์ ๋ฐ์ ๋ฐฉํฅ์ ์ ์ํ๋ ์ค์ํ ์ด์ ํ๊ฐ ๋ ๊ฒ์ผ๋ก ๋ณด์ ๋๋ค. ๋จ์ํ ์ฝ๋๋ฅผ ์์ฑํ๋ ๊ฒ์ ๋์ด, ์ค์ ๋ฌธ์ ํด๊ฒฐ ๋ฅ๋ ฅ๊น์ง ํ๊ฐํ ์ด ์ฐ๊ตฌ๋ AI๊ฐ '์ง์ ํ' ํ๋ก๊ทธ๋๋ฐ ์ ๋ฌธ๊ฐ ์์ค์ ๋๋ฌํ๋๋ฐ ์ผ๋ง๋ ๊ฐ๊น์์ก๋์ง ๋ณด์ฌ์ฃผ๋ ํฅ๋ฏธ๋ก์ด ์ฌ๋ก์ ๋๋ค. ์์ผ๋ก LLM์ด ์ด๋ป๊ฒ ๋ฐ์ ํ์ฌ ์ฐ๋ฆฌ์ ์ฝ๋ฉ ์ํ์ ๋์ฑ ํธ๋ฆฌํ๊ฒ ๋ง๋ค์ง ๊ธฐ๋ํด ๋ด ๋๋ค!
์ฐธ๊ณ : ๋ ผ๋ฌธ์์๋ ๊ตฌ์ฒด์ ์ธ ์ฑ๋ฅ ์์น๋ ์ธ๋ถ์ ์ธ ๊ฒฐ๊ณผ๋ ์ธ๊ธ๋์ด ์์ง ์์, ์ถ๊ฐ์ ์ธ ์ ๋ณด๊ฐ ํ์ํฉ๋๋ค. ํ์ง๋ง LLM์ ์ด์ฉํ LeetCode ๋ฌธ์ ํด๊ฒฐ์ ๋ํ ์ข ํฉ์ ์ธ ํ๊ฐ๋ผ๋ ์ ์์ ๊ทธ ์๋ฏธ๊ฐ ์๋นํ ํฌ๋ค๊ณ ํ ์ ์์ต๋๋ค.
[10] (๋ ผ๋ฌธ์์ ์ธ๊ธ๋ ์ฐธ๊ณ ๋ฌธํ 10๋ฒ์ ๋ณธ๋ฌธ์ ํฌํจ๋์ง ์์ ๊ตฌ์ฒด์ ์ธ ๋ด์ฉ์ ํ์ธํ ์ ์์ต๋๋ค.)
Reference
[arxiv] Performance Review on LLM for solving leetcode problems
Published: ย (Updated: )
Author: Lun Wang, Chuanqi Shi, Shaoshui Du, Yiyi Tao, Yixian Shen, Hang Zheng, Xinyu Qiu
http://arxiv.org/abs/2502.15770v1