ํŠนํ—ˆ๋ฒ•์ธ ์ธํŠธ๋กœ EnglishEN

์ „๋ฌธ๊ฐ€ยท์†Œ์‹ / ์ธ์‚ฌ์ดํŠธ

์ธ์‚ฌ์ดํŠธ

๊ธฐ์ˆ ๊ณผ ์‚ฐ์—…์˜ ๋ณ€ํ™”๋ฅผ ๊ธฐ์—…์˜ ์„ ํƒ์ด๋ผ๋Š” ๊ด€์ ์—์„œ ์ฝ๊ณ , ๊ธฐ์ˆ ๊ธฐ์—…์ด ๋ฌด์—‡์„ ํ™•์ธํ•ด์•ผ ํ• ์ง€ ํ•จ๊ป˜ ์‚ดํ•๋‹ˆ๋‹ค.

[AI] GPU ๋น„์šฉ์„ ์ค„์ด๋Š” AI ๋ฐœ๋ช…์„ ์ฒญ๊ตฌํ•ญ์œผ๋กœ ํ‘œํ˜„ํ•˜๋Š” ๋ฐฉ๋ฒ•

ํ•™์Šต ํšจ์œจ ๊ฐœ์„ ์€ ๋ชจ๋ธ ๊ตฌ์กฐ๋ฟ ์•„๋‹ˆ๋ผ ๋ฐ์ดํ„ฐ ์ €์žฅยท์ „์†กยท์ƒ˜ํ”Œ ๊ตฌ์„ฑ๊ณผ ์ž์› ๋ฐฐ๋ถ„์—์„œ๋„ ๋‚˜ํƒ€๋‚ฉ๋‹ˆ๋‹ค.

ํ•ต์‹ฌ ์š”์•ฝGPU ๋น„์šฉ ์ ˆ๊ฐ์€ ๊ฒฐ๊ณผ์ด์ง€ ๋ฐœ๋ช… ์ž์ฒด๋Š” ์•„๋‹™๋‹ˆ๋‹ค. DeepSeek ๊ณต๊ฐœ๊ธฐ์ˆ ์„ ๋ฐ์ดํ„ฐ ๊ตฌ์„ฑยท์—ฐ์‚ฐยท๋ฉ”๋ชจ๋ฆฌยท์ „๋ฌธ๊ฐ€ ๋ผ์šฐํŒ…์œผ๋กœ ๊ตฌ๋ถ„ํ•ด ์‹ค์ œ ๊ฐœ์„  ์›์ธ์„ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.ํ•™์Šต์— ํ•„์š”ํ•œ GPU ๋น„์šฉ์„ ์ค„์ด๋ฉด ๊ฐ™์€ ์˜ˆ์‚ฐ์œผ๋กœ ์‹œํ—˜ํ•  ์กฐ๊ฑด๊ณผ ๋‹ค๋ฃฐ ๋ฐ์ดํ„ฐ์˜ ๋ฒ”์œ„๋ฅผ ๋„“ํž ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋น„์šฉ ์ ˆ๊ฐ์„ ์ด๋ฃฌ ๊ฐœ๋ฐœํŒ€์—๋Š” ๊ทธ ์„ฑ๊ณผ๋ฅผ ๋งŒ๋“  ๊ธฐ์ˆ  ์ค‘ ๋ฌด์—‡์„ ํŠนํ—ˆ๋กœ ๋‚จ๊ธธ์ง€ ๊ฒ€ํ† ํ•  ๊ธฐํšŒ๋„ ์ƒ๊น๋‹ˆ๋‹ค.์ด๋•Œ ๋ชจ๋ธ ๊ตฌ์กฐ๋งŒ ์‚ดํ”ผ๋ฉด ๋ฐ์ดํ„ฐ์™€ ์—ฐ์‚ฐ ์ธํ”„๋ผ ์‚ฌ์ด์—์„œ ๋งŒ๋“  ๊ฐœ์„ ์„ ๋†“์น  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. DeepSeek ๊ด€๋ จ ๊ณต๊ฐœ ๋ฌธํ—Œ์˜ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ๋ฐฉ์‹์„ ์ฐธ๊ณ ํ•˜๋ฉด ์ €์žฅยท์ „์†กยท์ž์› ๋ฐฐ๋ถ„์˜ ๋ณ€๊ฒฝ์„ ์–ด๋–ป๊ฒŒ ๋ฐœ๋ช…์œผ๋กœ ๊ตฌ์ฒดํ™”ํ• ์ง€ ํŒ๋‹จํ•˜๋Š” ๋ฐ ๋„์›€์ด ๋ฉ๋‹ˆ๋‹ค.๋น„์šฉ ์ ˆ๊ฐ์ด๋ผ๋Š” ๊ฒฐ๊ณผ๋ฅผ ๊ธฐ์ˆ ๋กœ ํ’€์–ด์•ผ ํ•ฉ๋‹ˆ๋‹คํ•™์Šต ๋น„์šฉ์ด ์ค„์—ˆ๋‹ค๋Š” ์‚ฌ์‹ค์€ ์‚ฌ์—…์ ์œผ๋กœ ์ค‘์š”ํ•˜์ง€๋งŒ ๊ทธ๊ฒƒ๋งŒ์œผ๋กœ ๋ฐœ๋ช…์˜ ๊ตฌ์กฐ๊ฐ€ ์„ค๋ช…๋˜์ง€๋Š” ์•Š์Šต๋‹ˆ๋‹ค. ์—ฐ์‚ฐ๋Ÿ‰์ด ์ค„์—ˆ๋Š”์ง€, ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์šฉ์ด ๋‹ฌ๋ผ์กŒ๋Š”์ง€, ๋ฐ์ดํ„ฐ ์ „๋‹ฌ์˜ ๋ณ‘๋ชฉ์„ ์ค„์˜€๋Š”์ง€ ๊ตฌ๋ถ„ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๊ฐ™์€ ๋น„์šฉ ๊ฐœ์„ ์ด๋ผ๋„ ์›์ธ์ด ๋‹ค๋ฅด๋ฉด ๋น„๊ตํ•  ์„ ํ–‰๊ธฐ์ˆ ๊ณผ ์ฒญ๊ตฌํ•ญ์˜ ์ค‘์‹ฌ์ด ๋‹ฌ๋ผ์ง‘๋‹ˆ๋‹ค.DeepSeek ๊ด€๋ จ ๊ณต๊ฐœ ๋ฌธํ—Œ์ด ์ฃผ๋Š” ์งˆ๋ฌธCN118246542A๋Š” ํ•™์Šต ๋ฐ์ดํ„ฐ๋ฅผ ๊ฐ™์€ ํฌ๊ธฐ์˜ ์‹œํ€€์Šค๋กœ ๋‚˜๋ˆ„๊ณ  ์‹œํ€€์Šค ๋‹จ์œ„์˜ ์ธ๋ฑ์Šค๋ฅผ ๋งŒ๋“œ๋Š” ๋ฐฉ๋ฒ•์„ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. ์ธ๋ฑ์Šค๋ฅผ ์ด์šฉํ•ด ๋น„์œจ์— ๋งž๊ฒŒ ๋ฐ์ดํ„ฐ๋ฅผ ์„ž๊ณ  ๋‚˜๋ˆˆ ๋’ค, ํ•™์Šต ๋‹จ๊ณ„๋งˆ๋‹ค ํ•ด๋‹น ๋ธ”๋ก์„ ์ผ๊ด„ ์ฝ๋Š” ๊ตฌ์กฐ์ž…๋‹ˆ๋‹ค. ๊ณต๋ณด๋Š” ์ด ๋ฐฉ์‹์œผ๋กœ ์ค‘๋ณต ์ €์žฅ๊ณผ ์ €์žฅยทํ†ต์‹  ์ž์› ์†Œ๋ชจ๋ฅผ ์ค„์ด๋Š” ํšจ๊ณผ๋ฅผ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ์—ฌ๊ธฐ์„œ ์ฝ์„ ์ง€์ ์€ ๋ชจ๋ธ ๊ตฌ์กฐ ์™ธ์—๋„ ๋ฐ์ดํ„ฐ๋ฅผ ๊ตฌ์„ฑํ•˜๊ณ  ์ „๋‹ฌํ•˜๋Š” ๋ฐฉ์‹์ด ํ•™์Šต ํšจ์œจ์˜ ๋ฐœ๋ช… ๋Œ€์ƒ์ด ๋œ๋‹ค๋Š” ์‚ฌ์‹ค์ž…๋‹ˆ๋‹ค.๋ณ‘๋ชฉ์„ ๊ธฐ์ค€์œผ๋กœ ๋ฐœ๋ช… ํ›„๋ณด๋ฅผ ๋‚˜๋ˆ•๋‹ˆ๋‹ค๊ฐœ๋ฐœํŒ€์—๋Š” ์ „์ฒด ํ•™์Šต ์‹œ๊ฐ„๋ณด๋‹ค ์‹œ๊ฐ„์ด ์–ด๋””์—์„œ ์†Œ์š”๋˜๋Š”์ง€ ๋จผ์ € ๋ฌป์Šต๋‹ˆ๋‹ค. ์ƒ˜ํ”Œ์„ ์ฝ๋Š” ๊ณผ์ •, ์žฅ์น˜ ์‚ฌ์ด ๋™๊ธฐํ™”, ๋ฐฐ์น˜์˜ ๊ตฌ์„ฑ, ์ฒดํฌํฌ์ธํŠธ ์ €์žฅ์ด ๊ฐ๊ฐ ํ›„๋ณด๊ฐ€ ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์–ด๋–ค ์กฐ๊ฑด์—์„œ ๊ฐœ์„ ๋˜๋Š”์ง€์™€ ๋‹ค๋ฅธ ๊ตฌ์„ฑ์œผ๋กœ ๋ฐ”๊พธ์–ด๋„ ํšจ๊ณผ๊ฐ€ ์œ ์ง€๋˜๋Š”์ง€๋ฅผ ๋‚จ๊ธฐ๋ฉด ์ฒญ๊ตฌํ•ญ๊ณผ ์‹ค์‹œ์˜ˆ์˜ ๋ฒ”์œ„๋ฅผ ๊ฒ€ํ† ํ•˜๊ธฐ ์ข‹์Šต๋‹ˆ๋‹ค. ๋น„๊ต ์‹คํ—˜์—์„œ๋Š” ๊ฐ€์†๊ธฐ์™€ ๋ฐ์ดํ„ฐ ๊ทœ๋ชจ ๋“ฑ ์„ฑ๋Šฅ์— ์˜ํ–ฅ์„ ์ฃผ๋Š” ์กฐ๊ฑด์„ ํ•จ๊ป˜ ๊ธฐ๋กํ•ฉ๋‹ˆ๋‹ค.๊ธฐ์ˆ  ๊ธฐ๋ก๊ณผ ๊ถŒ๋ฆฌ ์„ค๊ณ„๋ฅผ ํ•จ๊ป˜ ๋งŒ๋“ญ๋‹ˆ๋‹ค๊ธฐ์กด ์ฒ˜๋ฆฌ ํ๋ฆ„๊ณผ ๋ณ€๊ฒฝํ•œ ํ๋ฆ„, ๋ณ‘๋ชฉ ์ธก์ •, ๋ณ€๊ฒฝํ•œ ์ œ์–ด ๊ทœ์น™์„ ํ•จ๊ป˜ ์ •๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ๊ทธ๋‹ค์Œ ์„ ํ–‰๊ธฐ์ˆ ๊ณผ์˜ ์ฐจ์ด๋ฅผ ๋Œ€์กฐํ•˜๊ณ  ํ•ต์‹ฌ ์ฒ˜๋ฆฌ ๊ด€๊ณ„๋ฅผ ๋ณดํ˜ธํ• ์ง€, ํŠน์ • ๊ตฌํ˜„์„ ๋ณ„๋„ ์ฒญ๊ตฌํ• ์ง€ ๊ฒ€ํ† ํ•ฉ๋‹ˆ๋‹ค. ์ธํŠธ๋กœ๋Š” ์—ฐ์‚ฐ ์ธํ”„๋ผ์™€ ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ํ•จ๊ป˜ ์‚ดํŽด ๋น„์šฉ ๊ฐœ์„ ์„ ๋งŒ๋“œ๋Š” ๊ตฌ์ฒด์ ์ธ ๊ธฐ์ˆ ์„ ๊ถŒ๋ฆฌํ™” ํ›„๋ณด๋กœ ์ขํž™๋‹ˆ๋‹ค.DeepSeek ์ž๋ฃŒ๋ฅผ ์›๋ฌธ ์œ ํ˜•๋ณ„๋กœ ๋‚˜๋ˆ„์–ด ์ฝ๊ธฐ์ค‘๊ตญ ๊ณต๊ฐœ์ถœ์› CN118246542A๋Š” AI ๋ชจ๋ธ์šฉ ํ•™์Šต ๋ฐ์ดํ„ฐ์…‹ ๊ตฌ์„ฑ๋ฐฉ๋ฒ•์— ๊ด€ํ•œ ์ถœ์›์ž…๋‹ˆ๋‹ค. ๋ฐ˜๋ฉด DeepSeek-V3 Technical Report๋Š” MLA, MoE ๋ฐ ์ •๋ฐ€๋„ยท๋ถ„์‚ฐํ•™์Šต ์ตœ์ ํ™” ๋“ฑ์„ ๊ธฐ์ˆ ํ•˜๊ณ  ํ•™์Šต์— ์‚ฌ์šฉํ•œ H800 GPU ์‹œ๊ฐ„์„ ๋ณด๊ณ ํ•ฉ๋‹ˆ๋‹ค. ๋‘ ๋ฌธ์„œ์˜ ์—ญํ• ์€ ๋‹ค๋ฆ…๋‹ˆ๋‹ค.์ž๋ฃŒ์ฃผ๋œ ๊ธฐ์ˆ ๋ฌธ์ œํŠนํ—ˆ ๋ถ„์„ ์‹œ ์œ ์˜์ CN118246542A (๊ณต๊ฐœ)ํ•™์Šต ๋ฐ์ดํ„ฐ์…‹์„ ๊ตฌ์„ฑํ•˜๋Š” ๊ณผ์ •๋ฐ์ดํ„ฐ์…‹ ์ƒ์„ฑยท์ƒ‰์ธ ์กฐ๊ฑด์„ ์‹ค์ œ ์ฒญ๊ตฌํ•ญ๋Œ€๋กœ ๋ถ„์„DeepSeek-V3 ๋ณด๊ณ ์„œMLAยทMoE ๋“ฑ ํšจ์œจ์  ๋ชจ๋ธ ํ•™์Šตยท์ถ”๋ก ๋…ผ๋ฌธ ๊ธฐ์ „๊ณผ ์„ฑ๋Šฅ ์ˆ˜์น˜๋Š” ๋ณ„๋„์˜ ํŠนํ—ˆ ์‹ค์‹œ ์ฆ๊ฑฐ๊ฐ€ ์•„๋‹˜๋ณด๊ณ ์„œ์— ๊ธฐ์žฌ๋œ 671B ์ „์ฒด ํŒŒ๋ผ๋ฏธํ„ฐ์™€ ํ† ํฐ๋‹น 37B ํ™œ์„ฑํ™” ํŒŒ๋ผ๋ฏธํ„ฐ์˜ ์ฐจ์ด๋Š” ๋ถ„์‚ฐ๋œ ์ „๋ฌธ๊ฐ€ ๋ชจ๋“ˆ์˜ ์‹คํ–‰๋น„์šฉ์„ ์ดํ•ดํ•˜๋Š” ์ˆ˜์น˜์ž…๋‹ˆ๋‹ค. ์‹ค์ œ ์ž์‚ฌ์˜ ๋ฐœ๋ช…์ด ํ†ต์‹ ๋Ÿ‰, ํ™œ์„ฑ ์ „๋ฌธ๊ฐ€ ์„ ํƒ, ๋ฉ”๋ชจ๋ฆฌ ์ด๋™ ๋˜๋Š” ๋ฐ์ดํ„ฐ ๊ตฌ์„ฑ ์ค‘ ์–ด๋””์— ์žˆ๋Š”์ง€ ๋ถ„ํ•ดํ•ด์•ผ ๊ถŒ๋ฆฌ๋ฒ”์œ„๋ฅผ ์„ค๊ณ„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.์ธํŠธ๋กœ ์ธ์‚ฌ์ดํŠธํ•™์Šต ํšจ์œจ์„ ๋†’์ธ ๊ธฐ์ˆ ์€ ๊ฐœ๋ฐœ๋น„ ์ ˆ๊ฐ๊ณผ ํ•จ๊ป˜ ๊ธฐ์—…์ด ๋ฐ˜๋ณตํ•ด์„œ ํ™œ์šฉํ•  ๊ธฐ์ˆ ์ž์‚ฐ์ด ๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋น„์šฉ์ด ๊ฐ์†Œํ•œ ์ž‘์—…์˜ ๋ณ€๊ฒฝ ์ „ํ›„ ๋ฐ์ดํ„ฐ ์ด๋™๊ณผ ์—ฐ์‚ฐ ํ๋ฆ„์„ ์ธก์ • ์ž๋ฃŒ์— ์—ฐ๊ฒฐํ•˜๋ฉด, ๋ณ‘๋ชฉ์„ ์ค„์ธ ์ฒ˜๋ฆฌ์™€ ํšจ๊ณผ๊ฐ€ ๋‚˜ํƒ€๋‚˜๋Š” ์กฐ๊ฑด์„ ๊ตฌ๋ถ„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ ๊ตฌํ˜„์„ ์„ ํ–‰๊ธฐ์ˆ ๊ณผ ๋Œ€์กฐํ•ด ๋ณดํ˜ธํ•  ๊ตฌ์„ฑ์„ ์ •ํ•˜๋Š” ๊ฒƒ์ด ํŠนํ—ˆ ๊ฒ€ํ† ์˜ ๋‹ค์Œ ๋‹จ๊ณ„์ž…๋‹ˆ๋‹ค.๊ด€๋ จ ์ž๋ฃŒCN118246542A ๊ณต๊ฐœ๊ณต๋ณดEPO AIยท๊ธฐ๊ณ„ํ•™์Šต ์‹ฌ์‚ฌ ์ง€์นจํŠนํ—ˆ๋ฒ•์ธ ์ธํŠธ๋กœ AIยท์†Œํ”„ํŠธ์›จ์–ดํŒ€๊ด€๋ จ ์ „๋ฌธ๊ฐ€: ๊ฐ•๋Œ€ํ™˜ ๋ณ€๋ฆฌ์‚ฌ๋…ธํƒ€ AI ํŠนํ—ˆ์™€ ์—ฐ๊ฒฐ๋œ ์ธํŠธ๋กœ์˜ ๋ช…์„ธ์„œ ์ž‘์„ฑ ํŠน๋ณ„์ƒยท์ˆ˜ํ–‰ํ‰๊ฐ€ 1์œ„AIยท์†Œํ”„ํŠธ์›จ์–ด ์ „๋ฌธ๋ถ„์•ผ ยท ์ธ์‚ฌ์ดํŠธ ๋ชฉ๋ก

AIยท์†Œํ”„ํŠธ์›จ์–ด,AI ํŠนํ—ˆ,์ธํŠธ๋กœ,๊ฐ•๋Œ€ํ™˜