ํŠนํ—ˆ๋ฒ•์ธ ์ธํŠธ๋กœ EnglishEN

์ „๋ฌธ๊ฐ€ยท์†Œ์‹ / ์ธ์‚ฌ์ดํŠธ

์ธ์‚ฌ์ดํŠธ

๊ธฐ์ˆ ๊ณผ ์‚ฐ์—…์˜ ๋ณ€ํ™”๋ฅผ ๊ธฐ์—…์˜ ์„ ํƒ์ด๋ผ๋Š” ๊ด€์ ์—์„œ ์ฝ๊ณ , ๊ธฐ์ˆ ๊ธฐ์—…์ด ๋ฌด์—‡์„ ํ™•์ธํ•ด์•ผ ํ• ์ง€ ํ•จ๊ป˜ ์‚ดํ•๋‹ˆ๋‹ค.

[AI] ๋“ฑ๋ก๋œ AI ํŠนํ—ˆ๋กœ๋„ ๊ฒฝ์Ÿ ์„œ๋น„์Šค๋ฅผ ๋ง‰๊ธฐ ์–ด๋ ค์šด ์ด์œ 

๋“ฑ๋ก ์—ฌ๋ถ€ ๋‹ค์Œ์—๋Š” ์ฒญ๊ตฌํ•ญ์ด ์‹ค์ œ ์ œํ’ˆ์˜ ํ•ต์‹ฌ ์ฒ˜๋ฆฌ๊ด€๊ณ„๋ฅผ ๋‹ด๊ณ  ์žˆ๋Š”์ง€ ํ™•์ธํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

ํ•ต์‹ฌ ์š”์•ฝํŠนํ—ˆ๊ฐ€ ๋“ฑ๋ก๋์–ด๋„ ๊ฒฝ์Ÿ์‚ฌ์˜ ๋น„์Šทํ•œ ์„œ๋น„์Šค๋ฅผ ๊ณง๋ฐ”๋กœ ๋ง‰์„ ์ˆ˜ ์žˆ๋Š” ๊ฒƒ์€ ์•„๋‹™๋‹ˆ๋‹ค. ์ตœ์ข… ๋…๋ฆฝํ•ญ์˜ ํ•„์ˆ˜๊ตฌ์„ฑ๊ณผ ์‹ค์ œ ์ œํ’ˆ์˜ ์—ฐ์‚ฐยท์‹คํ–‰์ฆ๊ฑฐ๋ฅผ ๋Œ€์กฐํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.AI ํŠนํ—ˆ๊ฐ€ ๋“ฑ๋ก๋œ ๋’ค ๊ฒฝ์Ÿ์‚ฌ๊ฐ€ ๋น„์Šทํ•œ ์„œ๋น„์Šค๋ฅผ ๋‚ด๋†“์œผ๋ฉด ๋ณด์œ ํŠนํ—ˆ๋กœ ๋Œ€์‘ํ•  ์ˆ˜ ์žˆ๋Š”์ง€๊ฐ€ ์‚ฌ์—…์˜ ์งˆ๋ฌธ์ด ๋ฉ๋‹ˆ๋‹ค. ๊ฐ™์€ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ณ  ์„ฑ๋Šฅ์ด ๋น„์Šทํ•ด๋„ ์ฒ˜๋ฆฌ ๊ตฌ์กฐ๋Š” ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ตœ์ข… ์ฒญ๊ตฌํ•ญ์ด ๋ณดํ˜ธํ•˜๋Š” ๊ตฌ์„ฑ์˜ ์กฐํ•ฉ์„ ๊ฒฝ์Ÿ ์ œํ’ˆ์— ๋Œ€์‘์‹œ์ผœ์•ผ ํŒ๋‹จํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.์‹ฌ์‚ฌ ๊ณผ์ •์—์„œ ์ถ”๊ฐ€ํ•œ ์กฐ๊ฑด๊ณผ ์™ธ๋ถ€์—์„œ ํ™•์ธํ•˜๊ธฐ ์–ด๋ ค์šด ๋‚ด๋ถ€ ์—ฐ์‚ฐ๋„ ๊ถŒ๋ฆฌ ํ™œ์šฉ์— ์˜ํ–ฅ์„ ์ค๋‹ˆ๋‹ค. ๋ณด์ •์˜ ๊ฒฝ์œ„์™€ ์‹ค์ œ ๊ตฌํ˜„์„ ํ•จ๊ป˜ ์ฝ์œผ๋ฉด ํ™•๋ณดํ•œ ๊ถŒ๋ฆฌ์˜ ๋ฒ”์œ„์™€ ์ถ”๊ฐ€๋กœ ์กฐ์‚ฌํ•  ๋Œ€์ƒ์„ ๊ตฌ๋ถ„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.๋ฐœ๋ช…์˜ ์ œ๋ชฉ์ด ๊ถŒ๋ฆฌ๋ฒ”์œ„๋Š” ์•„๋‹™๋‹ˆ๋‹คํ•œ๊ตญ ํŠนํ—ˆ๋ฒ• ์ œ97์กฐ๋Š” ํŠนํ—ˆ๋ฐœ๋ช…์˜ ๋ณดํ˜ธ๋ฒ”์œ„๋ฅผ ์ฒญ๊ตฌ๋ฒ”์œ„์— ์ ํžŒ ์‚ฌํ•ญ์œผ๋กœ ์ •ํ•ฉ๋‹ˆ๋‹ค. ์ œ๋ชฉ์ด AI ์˜์ƒ๋ถ„์„ ์‹œ์Šคํ…œ์ด๋ผ๊ณ  ํ•ด์„œ ๋ชจ๋“  ์˜์ƒ๋ถ„์„ ์„œ๋น„์Šค๋ฅผ ํฌ๊ด„ํ•˜๋Š” ๊ฒƒ์€ ์•„๋‹™๋‹ˆ๋‹ค. ์ฒญ๊ตฌํ•ญ์˜ ๊ตฌ์„ฑ๊ณผ ๊ฒฐํ•ฉ๊ด€๊ณ„๋ฅผ ํ•ด์„ํ•œ ๋’ค ์ƒ๋Œ€ ์ œํ’ˆ์˜ ๊ตฌํ˜„๊ณผ ๋Œ€์กฐํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ๊ท ๋“ฑ์นจํ•ด ๋“ฑ ๋ณ„๋„์˜ ๋ฒ•์  ์Ÿ์ ๋„ ๊ฒ€ํ†  ๋Œ€์ƒ์ž…๋‹ˆ๋‹ค.๋“ฑ๋ก ๊ณผ์ •์˜ ์„ ํƒ์ด ๋‚จ์Šต๋‹ˆ๋‹ค์‹ฌ์‚ฌ์—์„œ ์„ ํ–‰๊ธฐ์ˆ ๊ณผ ๊ตฌ๋ณ„ํ•˜๊ธฐ ์œ„ํ•ด ํŠน์ • ์ „์ฒ˜๋ฆฌ๋‚˜ ์กฐ๊ฑด์„ ์ถ”๊ฐ€ํ–ˆ๋‹ค๋ฉด ๊ทธ ๋‚ด์šฉ์ด ๋“ฑ๋ก ์ฒญ๊ตฌํ•ญ์— ๋‚จ์Šต๋‹ˆ๋‹ค. ๊ฒฝ์Ÿ์‚ฌ๊ฐ€ ๋‹ค๋ฅธ ์กฐ๊ฑด์œผ๋กœ ๊ฐ™์€ ํšจ๊ณผ๋ฅผ ๋‚ด๋Š” ๊ฒฝ์šฐ, ์„ฑ๋Šฅ์ด ๋น„์Šทํ•˜๋‹ค๋Š” ์‚ฌ์‹ค๋งŒ์œผ๋กœ ํŒ๋‹จํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค. ์ถœ์› ๋‹น์‹œ ์„ค๋ช…, ๋ณด์ • ์ด์œ ์™€ ์‹ฌ์‚ฌ๊ธฐ๋ก์„ ํ•จ๊ป˜ ๋ด์•ผ ์–ด๋–ค ๋ฒ”์œ„๋ฅผ ํ™•๋ณดํ–ˆ๋Š”์ง€ ์•Œ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.๋‚ด๋ถ€ ๋™์ž‘์„ ์–ด๋–ป๊ฒŒ ํ™•์ธํ• ์ง€๋„ ๋ฌธ์ œ์ž…๋‹ˆ๋‹ค์„œ๋ฒ„ ์•ˆ์—์„œ๋งŒ ์ˆ˜ํ–‰๋˜๋Š” ํ•™์Šต ๋‹จ๊ณ„๋Š” ์™ธ๋ถ€์—์„œ ํ™•์ธํ•˜๊ธฐ ์–ด๋ ค์šธ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ฐ˜๋ฉด ์ž…๋ ฅ ์กฐ๊ฑด์— ๋”ฐ๋ฅธ ์‘๋‹ต, ๋‹จ๋ง ๋™์ž‘, ๊ณต๊ฐœ ๋ฌธ์„œ๋กœ ์ผ๋ถ€ ์ฒ˜๋ฆฌ๊ด€๊ณ„๋ฅผ ํ™•์ธํ•  ์ˆ˜ ์žˆ๋Š” ๊ฒฝ์šฐ๋„ ์žˆ์Šต๋‹ˆ๋‹ค. ์ถœ์› ๋‹จ๊ณ„์—์„œ๋ถ€ํ„ฐ ๋ณดํ˜ธ ๋Œ€์ƒ๊ณผ ํ™•์ธ ๊ฐ€๋Šฅํ•œ ๋‹จ์„œ๋ฅผ ํ•จ๊ป˜ ๊ฒ€ํ† ํ•˜๋ฉด ๋“ฑ๋ก ํ›„์˜ ํ™œ์šฉ ๊ณ„ํš์ด ๋” ๋ถ„๋ช…ํ•ด์ง‘๋‹ˆ๋‹ค.๋ณด์œ ํŠนํ—ˆ ์ ๊ฒ€ํ‘œ๋ฅผ ์ œํ’ˆ ๊ธฐ์ค€์œผ๋กœ ๋ฐ”๊ฟ‰๋‹ˆ๋‹คํŠนํ—ˆ๋ฒˆํ˜ธ์™€ ๋“ฑ๋ก์ผ๋งŒ ๋‚˜์—ดํ•œ ๋ชฉ๋ก์— ํ˜„์žฌ ์ œํ’ˆ ๊ธฐ๋Šฅ, ๋Œ€์‘ ์ฒญ๊ตฌํ•ญ, ๋น ์ง„ ๊ตฌ์„ฑ, ํ™•์ธ ์ž๋ฃŒ๋ฅผ ์ถ”๊ฐ€ํ•ด ๋ณด์‹ญ์‹œ์˜ค. ๋Œ€์‘ ์—ฌ๋ถ€๊ฐ€ ํ™•์ธ๋˜์ง€ ์•Š์€ ์นธ์€ ๋ณด์™„ ์ถœ์›์ด๋‚˜ ์ œํ’ˆ ์ž๋ฃŒ ํ™•๋ณด๋ฅผ ๊ฒ€ํ† ํ•  ์ง€์ ์ž…๋‹ˆ๋‹ค. ์ธํŠธ๋กœ๋Š” ๋“ฑ๋ก ์‹ค์ ๊ณผ ์ œํ’ˆ ๋ณดํ˜ธ์˜ ๊ด€๊ณ„๋ฅผ ๊ตฌ์ฒด์ ์œผ๋กœ ๋Œ€์กฐํ•ฉ๋‹ˆ๋‹ค.๊ตฌ์„ฑ์š”์†Œ ํ•˜๋‚˜๊ฐ€ ๋น ์ง€๋ฉด ํŒ๋‹จ์ด ๋‹ฌ๋ผ์ง€๋Š” ๋“ฑ๋กํŠนํ—ˆ ์˜ˆGoogle US10452978B2 ์ œ1ํ•ญ์—๋Š” encoder self-attention๊ณผ decoder network๊ฐ€ ํ•จ๊ป˜ ๊ธฐ์žฌ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ์–ด๋–ค ์„œ๋น„์Šค๊ฐ€ โ€˜Transformer ๊ธฐ๋ฐ˜โ€™์ด๋ผ ์†Œ๊ฐœ๋ผ๋„ ์ œํ’ˆ์ด ์‹ค์ œ๋กœ ํ•ด๋‹น ์ธ์ฝ”๋”ยท๋””์ฝ”๋” ๊ตฌ์กฐ๋ฅผ ๊ตฌํ˜„ํ•˜๋Š”์ง€ ๋ณ„๋„๋กœ ๋Œ€์กฐํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.์ฒญ๊ตฌํ•ญ ํ•„์ˆ˜๊ตฌ์„ฑ์‹ค์‹œยท์ฆ๊ฑฐ๋ฅผ ํ™•์ธํ•˜๋Š” ์งˆ๋ฌธencoder subnetworks์ž…๋ ฅ ์‹œํ€€์Šค๋ฅผ ๋ณ„๋„ ์ธ์ฝ”๋”ฉํ•˜๋Š” ์—ฐ์‚ฐ์ด ์‹ค์ œ๋กœ ์กด์žฌํ•˜๋Š”๊ฐ€self-attention์˜ Q/K/VQยทKยทV์˜ ์ƒ์„ฑ ๋ฐ ์ธ์ฝ”๋” ๋‚ด๋ถ€ ์—ฐ์‚ฐ์ด ์–ด๋–ป๊ฒŒ ๊ตฌํ˜„๋˜๋Š”๊ฐ€decoder network์ธ์ฝ”๋”ฉ๋œ ํ‘œํ˜„์— ๊ธฐ์ดˆํ•ด ์ถœ๋ ฅ ์‹œํ€€์Šค๋ฅผ ์ƒ์„ฑํ•˜๋Š”๊ฐ€์ฆ๊ฑฐ์ˆ˜์ง‘์ด ๊ฐ€๋Šฅํ•œ ์ถœ๋ ฅํ™”๋ฉด๊ณผ ๋ณด์ด์ง€ ์•Š๋Š” ๋‚ด๋ถ€ ๋ชจ๋ธ๊ตฌ์กฐ๋Š” ๋‹ค๋ฆ…๋‹ˆ๋‹ค. ๊ณต๊ฐœ ๋ฌธ์„œ์˜ ๋ชจ๋ธ๋ช…๋งŒ์œผ๋กœ๋Š” ์ถฉ๋ถ„ํ•˜์ง€ ์•Š์„ ์ˆ˜ ์žˆ๊ณ , ๊ด€๋ จ ๊ตญ๊ฐ€์˜ ์œ ํšจ ์ฒญ๊ตฌํ•ญ ๋ฐ ๋‚ด๋ถ€ ๊ตฌํ˜„์ฆ๊ฑฐ๊ฐ€ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ๋‹จ์ผ ๋“ฑ๋กํ•ญ์˜ ๋น„์‹ค์‹œ๋Š” ๋‹ค๋ฅธ ํŒจ๋ฐ€๋ฆฌ ๊ถŒ๋ฆฌ๊นŒ์ง€ ์ž๋™ ์ •๋ฆฌํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.์ธํŠธ๋กœ ์ธ์‚ฌ์ดํŠธ์‚ฌ์—…์ ์œผ๋กœ ์ค‘์š”ํ•œ ํŠนํ—ˆ๋ถ€ํ„ฐ ๋“ฑ๋ก ์ฒญ๊ตฌํ•ญ๊ณผ ํ˜„์žฌ ์ œํ’ˆ์˜ ๊ธฐ๋Šฅ์„ ์—ฐ๊ฒฐํ•˜๊ณ , ๊ฒฝ์Ÿ ์ œํ’ˆ์—๋Š” ๋Œ€์‘ํ•œ๋‹ค๊ณ  ํŒ๋‹จํ•œ ์ด์œ ์™€ ํ™•์ธ ์ž๋ฃŒ๋ฅผ ๋ถ™์ž…๋‹ˆ๋‹ค. ๋Œ€์‘์ด ๋ถˆ๋ถ„๋ช…ํ•œ ๋ถ€๋ถ„์—์„œ๋Š” ๊ตฌํ˜„ ์ž๋ฃŒ๊ฐ€ ๋ถ€์กฑํ•œ ๊ฒƒ์ธ์ง€ ์‹ค์ œ ๊ตฌ์„ฑ์ด ๋‹ค๋ฅธ ๊ฒƒ์ธ์ง€ ๊ตฌ๋ถ„ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ตฌ๋ถ„์— ๋”ฐ๋ผ ์ œํ’ˆ ์กฐ์‚ฌ, ๊ถŒ๋ฆฌ ํ•ด์„, ํ›„์† ์ถœ์› ์ค‘ ๋จผ์ € ๊ฒ€ํ† ํ•  ์ผ์ด ๋‹ฌ๋ผ์ง‘๋‹ˆ๋‹ค.๊ด€๋ จ ์ž๋ฃŒํŠนํ—ˆ๋ฒ• ์ œ97์กฐํŠนํ—ˆ๋ฒ•์ธ ์ธํŠธ๋กœ AIยท์†Œํ”„ํŠธ์›จ์–ดํŒ€๊ด€๋ จ ์ „๋ฌธ๊ฐ€: ๋ฐฑ์ข…์›… ๋ณ€๋ฆฌ์‚ฌ๋…ธํƒ€ AI ํŠนํ—ˆ์™€ ์—ฐ๊ฒฐ๋œ ์ธํŠธ๋กœ์˜ ๋ช…์„ธ์„œ ์ž‘์„ฑ ํŠน๋ณ„์ƒยท์ˆ˜ํ–‰ํ‰๊ฐ€ 1์œ„AIยท์†Œํ”„ํŠธ์›จ์–ด ์ „๋ฌธ๋ถ„์•ผ ยท ์ธ์‚ฌ์ดํŠธ ๋ชฉ๋ก

AIยท์†Œํ”„ํŠธ์›จ์–ด,AI ํŠนํ—ˆ,์ธํŠธ๋กœ,๋ฐฑ์ข…์›