๐Ÿคฏ ๋†€๋ผ์šด AI ์ฝ”๋”ฉ ์‹ค๋ ฅ! LeetCode ์ •๋ณต์— ๋„์ „ํ•œ ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ๋“ค


๋ณธ ๊ธฐ์‚ฌ๋Š” ์ค‘๊ตญ ์—ฐ๊ตฌ์ง„์ด ๋ฐœํ‘œํ•œ LLM์˜ LeetCode ๋ฌธ์ œ ํ•ด๊ฒฐ ๋Šฅ๋ ฅ ํ‰๊ฐ€ ์—ฐ๊ตฌ๋ฅผ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค. GPT-4 ๋ฐ GPT-3.5-turbo๋ฅผ ์ด์šฉํ•œ ์‹คํ—˜ ๊ฒฐ๊ณผ์™€ 'pass@k' ์ง€ํ‘œ๋ฅผ ํ†ตํ•œ ์„ฑ๋Šฅ ๋ถ„์„ ๋‚ด์šฉ์„ ๋ฐ”ํƒ•์œผ๋กœ, AI์˜ ์ฝ”๋”ฉ ๋Šฅ๋ ฅ๊ณผ ํ–ฅํ›„ ๋ฐœ์ „ ๋ฐฉํ–ฅ์— ๋Œ€ํ•œ ํฅ๋ฏธ๋กœ์šด ํ†ต์ฐฐ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

related iamge

AI๊ฐ€ LeetCode ๋ฌธ์ œ๋ฅผ ํ‘ผ๋‹ค๊ณ ? ๋†€๋ผ์šด ์‹คํ—˜ ๊ฒฐ๊ณผ ๊ณต๊ฐœ!

์ตœ๊ทผ, ์ค‘๊ตญ ์—ฐ๊ตฌ์ง„ (Lun Wang ์™ธ 6๋ช…) ์ด ๋ฐœํ‘œํ•œ ๋…ผ๋ฌธ์ด AI ์—…๊ณ„์— ํฐ ํŒŒ์žฅ์„ ์ผ์œผํ‚ค๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋ฐ”๋กœ ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ(LLM)์˜ LeetCode ๋ฌธ์ œ ํ•ด๊ฒฐ ๋Šฅ๋ ฅ์„ ์ข…ํ•ฉ์ ์œผ๋กœ ํ‰๊ฐ€ํ•œ ์—ฐ๊ตฌ์ธ๋ฐ์š”. LeetCode๋Š” ๊ฐœ๋ฐœ์ž๋“ค์˜ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ์‹ค๋ ฅ์„ ํ‰๊ฐ€ํ•˜๋Š” ์œ ๋ช… ํ”Œ๋žซํผ์ด์ฃ . ์ด ์—ฐ๊ตฌ๋Š” ๋‹จ์ˆœํžˆ LLM์ด ์ฝ”๋“œ๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๋Šฅ๋ ฅ์„ ๋„˜์–ด, ์‹ค์ œ ๋ฌธ์ œ ํ•ด๊ฒฐ ๋Šฅ๋ ฅ๊นŒ์ง€ ์ธก์ •ํ–ˆ๋‹ค๋Š” ์ ์—์„œ ์˜๋ฏธ๊ฐ€ ํฝ๋‹ˆ๋‹ค.

์—ฐ๊ตฌ์ง„์€ LeetCode ์›น์‚ฌ์ดํŠธ์—์„œ ๋‹ค์–‘ํ•œ ๋‚œ์ด๋„์™€ ์ฃผ์ œ์˜ ๋ฌธ์ œ๋“ค์„ ์ˆ˜์ง‘, GPT-4์™€ GPT-3.5-turbo (ChatGPT-turbo) ๋“ฑ ์—ฌ๋Ÿฌ LLM์„ ์ด์šฉํ•ด ๋ฌธ์ œ ํ•ด๊ฒฐ์— ๋„์ „ํ–ˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ๋‹จ์ˆœํžˆ ์ •๋‹ต์„ ๋งž์ถ”๋Š” ๊ฒƒ๋ฟ ์•„๋‹ˆ๋ผ, ํ•ด๊ฒฐ ๊ณผ์ •์˜ ํšจ์œจ์„ฑ๊นŒ์ง€ ๊ผผ๊ผผํ•˜๊ฒŒ ๋ถ„์„ํ–ˆ์Šต๋‹ˆ๋‹ค. pass@k ์ง€ํ‘œ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ผ์ • ํšŸ์ˆ˜์˜ ์‹œ๋„ ๋‚ด์—์„œ ์ •๋‹ต์„ ๋งžํž ํ™•๋ฅ ์„ ์ธก์ •ํ•˜๊ณ , ์†”๋ฃจ์…˜์˜ ์‹คํ–‰ ์‹œ๊ฐ„๋„ ๋ฉด๋ฐ€ํžˆ ๋ถ„์„ํ–ˆ๋‹ค๋Š” ์ ์ด ์ธ์ƒ์ ์ž…๋‹ˆ๋‹ค.

๊ฒฐ๊ณผ๋Š” ์–ด๋–จ๊นŒ์š”? ๋…ผ๋ฌธ์€ ํ˜„์žฌ LLM์˜ ์ฝ”๋“œ ์ƒ์„ฑ ๋ฐ ๋ฌธ์ œ ํ•ด๊ฒฐ ๋Šฅ๋ ฅ์˜ ๊ฐ•์ ๊ณผ ํ•œ๊ณ„๋ฅผ ๋ช…ํ™•ํ•˜๊ฒŒ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ์ฆ‰, AI๊ฐ€ ์ฝ”๋”ฉ์„ ์–ผ๋งˆ๋‚˜ ์ž˜ํ•˜๊ณ , ์–ด๋–ค ๋ถ€๋ถ„์—์„œ ๊ฐœ์„ ์ด ํ•„์š”ํ•œ์ง€ ๊ตฌ์ฒด์ ์ธ ํ†ต์ฐฐ์„ ์ œ๊ณตํ•œ๋‹ค๋Š” ๊ฒƒ์ด์ฃ . ์ด๋Š” ์ž๋™ํ™”๋œ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์ง€์› ๊ธฐ์ˆ ์˜ ๋ฐœ์ „ ๋ฐฉํ–ฅ์„ ์ œ์‹œํ•˜๋Š” ์ค‘์š”ํ•œ ์ด์ •ํ‘œ๊ฐ€ ๋  ๊ฒƒ์œผ๋กœ ๋ณด์ž…๋‹ˆ๋‹ค. ๋‹จ์ˆœํžˆ ์ฝ”๋“œ๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๊ฒƒ์„ ๋„˜์–ด, ์‹ค์ œ ๋ฌธ์ œ ํ•ด๊ฒฐ ๋Šฅ๋ ฅ๊นŒ์ง€ ํ‰๊ฐ€ํ•œ ์ด ์—ฐ๊ตฌ๋Š” AI๊ฐ€ '์ง„์ •ํ•œ' ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์ „๋ฌธ๊ฐ€ ์ˆ˜์ค€์— ๋„๋‹ฌํ•˜๋Š”๋ฐ ์–ผ๋งˆ๋‚˜ ๊ฐ€๊นŒ์›Œ์กŒ๋Š”์ง€ ๋ณด์—ฌ์ฃผ๋Š” ํฅ๋ฏธ๋กœ์šด ์‚ฌ๋ก€์ž…๋‹ˆ๋‹ค. ์•ž์œผ๋กœ LLM์ด ์–ด๋–ป๊ฒŒ ๋ฐœ์ „ํ•˜์—ฌ ์šฐ๋ฆฌ์˜ ์ฝ”๋”ฉ ์ƒํ™œ์„ ๋”์šฑ ํŽธ๋ฆฌํ•˜๊ฒŒ ๋งŒ๋“ค์ง€ ๊ธฐ๋Œ€ํ•ด ๋ด…๋‹ˆ๋‹ค!

์ฐธ๊ณ : ๋…ผ๋ฌธ์—์„œ๋Š” ๊ตฌ์ฒด์ ์ธ ์„ฑ๋Šฅ ์ˆ˜์น˜๋‚˜ ์„ธ๋ถ€์ ์ธ ๊ฒฐ๊ณผ๋Š” ์–ธ๊ธ‰๋˜์–ด ์žˆ์ง€ ์•Š์•„, ์ถ”๊ฐ€์ ์ธ ์ •๋ณด๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ LLM์„ ์ด์šฉํ•œ LeetCode ๋ฌธ์ œ ํ•ด๊ฒฐ์— ๋Œ€ํ•œ ์ข…ํ•ฉ์ ์ธ ํ‰๊ฐ€๋ผ๋Š” ์ ์—์„œ ๊ทธ ์˜๋ฏธ๊ฐ€ ์ƒ๋‹นํžˆ ํฌ๋‹ค๊ณ  ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

[10] (๋…ผ๋ฌธ์—์„œ ์–ธ๊ธ‰๋œ ์ฐธ๊ณ ๋ฌธํ—Œ 10๋ฒˆ์€ ๋ณธ๋ฌธ์— ํฌํ•จ๋˜์ง€ ์•Š์•„ ๊ตฌ์ฒด์ ์ธ ๋‚ด์šฉ์„ ํ™•์ธํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค.)


*์ด ๊ธฐ์‚ฌ๋Š” AI๊ฐ€ ์ƒ์„ฑํ•œ ๋‚ด์šฉ์œผ๋กœ, ์ผ๋ถ€ ์ •๋ณด๊ฐ€ ์‹ค์ œ์™€ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ •ํ™•ํ•œ ํ™•์ธ์„ ์œ„ํ•ด ์ถ”๊ฐ€์ ์ธ ๊ฒ€์ฆ์„ ๊ถŒ์žฅ๋“œ๋ฆฝ๋‹ˆ๋‹ค.

Reference

[arxiv] Performance Review on LLM for solving leetcode problems

Published: ย (Updated: )

Author: Lun Wang, Chuanqi Shi, Shaoshui Du, Yiyi Tao, Yixian Shen, Hang Zheng, Xinyu Qiu

http://arxiv.org/abs/2502.15770v1