๋ฐ˜๋„์ฒด ์‚ฐ์—… ๋ถ„์„

[21.02.17] ์‚ผ์„ฑ์ „์ž, ์„ธ๊ณ„ ์ตœ์ดˆ AI ํ”„๋กœ์„ธ์„œ ํƒ‘์žฌ ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด ๊ฐœ๋ฐœ ์„ฑ๊ณต

๐ŸŒผOh Happy Day๐ŸŒผ 2021. 2. 17. 21:34

๊ธฐ์กด ๋ฉ”๋ชจ๋ฆฌ ๋Œ€๋น„ ์„ฑ๋Šฅ์€ 2๋ฐฐ ์ด์ƒ, ์—๋„ˆ์ง€๋Š” 70% ์ ˆ๊ฐ
CPU-๋ฉ”๋ชจ๋ฆฌ๊ฐ„ ๋ฐ์ดํ„ฐ ๊ตํ™˜ ์—†์ด ๋ฉ”๋ชจ๋ฆฌ ์ž์ฒด์ ์œผ๋กœ ์—ฐ์‚ฐ ์ฒ˜๋ฆฌ
์‚ผ์„ฑ์ „์ž "์ƒ๋ฐ˜๊ธฐ ๋‚ด ๊ฒ€์ฆ ์™„๋ฃŒ ํ›„ ์‹œ์žฅ ์„ ์ ํ•  ๊ฒƒ"

์‚ผ์„ฑ์ „์ž๊ฐ€ ์„ธ๊ณ„ ์ตœ์ดˆ๋กœ ๊ฐœ๋ฐœํ•œ HBM-PIM. ๊ธฐ์กด ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด์— ์—ฐ์‚ฐ์ฒ˜๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•œ AI ํ”„๋กœ์„ธ์„œ๋ฅผ ๋”ํ•œ ๊ฒƒ์ด ํŠน์ง•์ด๋‹ค. /์‚ผ์„ฑ์ „์ž

์‚ผ์„ฑ์ „์ž๊ฐ€ ์„ธ๊ณ„ ์ตœ์ดˆ๋กœ ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด์™€ ์ธ๊ณต์ง€๋Šฅ(AI) ํ”„๋กœ์„ธ์„œ๋ฅผ ํ•˜๋‚˜๋กœ ๊ฒฐํ•ฉํ•œ ๊ณ ๋Œ€์—ญํญ ๋ฉ”๋ชจ๋ฆฌ(HBMยทHigh Bandwidth Memory)-PIM์„ ๊ฐœ๋ฐœํ–ˆ๋‹ค. PIM(Processing-In-Memory) ๊ธฐ์ˆ ์€ ๋ฉ”๋ชจ๋ฆฌ ์•ˆ์— ์—ฐ์‚ฐ์ž‘์—…์„ ํ•˜๋Š” AI ํ”„๋กœ์„ธ์„œ๋ฅผ ๋‘” ์‹ ๊ฐœ๋… ์œตํ•ฉ๊ธฐ์ˆ ์ด๋‹ค.

17์ผ ์‚ผ์„ฑ์ „์ž์— ๋”ฐ๋ฅด๋ฉด HBM-PIM์€ ๋ฐ˜๋„์ฒด ๋ถ„์•ผ ์„ธ๊ณ„ ์ตœ๊ณ  ๊ถŒ์œ„์˜ ํ•™ํšŒ๋กœ ๊ผฝํžˆ๋Š” ISSCC์—์„œ ๋…ผ๋ฌธ์„ ํ†ตํ•ด ๊ณต๊ฐœ๋๋‹ค. ์ƒ๋ฐ˜๊ธฐ ์ค‘ ๊ณ ๊ฐ์‚ฌ ๋Œ€์ƒ์œผ๋กœ ์‹œํ—˜ ๊ฒ€์ฆ์„ ์™„๋ฃŒํ•˜๊ณ , ๊ธฐ์ˆ  ์„ ์ ์— ๋‚˜์„ ๋‹ค.

์‚ผ์„ฑ์ „์ž๋Š” PIM ๊ธฐ์ˆ ์„ ํ™œ์šฉ, ์ง€๋‚œ 2018๋…„ 1์›” ์–‘์‚ฐ์— ๋“ค์–ด๊ฐ„ HBM2 ์•„์ฟ ์•„๋ณผํŠธ์— AI ํ”„๋กœ์„ธ์„œ๋ฅผ ํƒ‘์žฌํ–ˆ๋‹ค. HBM2 ์•„์ฟ ์•„๋ณผํŠธ๋Š” ์Šˆํผ์ปดํ“จํ„ฐ์™€ ๊ฐ™์€ ๊ณ ์„ฑ๋Šฅ ์ปดํ“จํŒ…(HPC)๊ณผ AI ๊ฐ€์†๊ธฐ ๋“ฑ์—์„œ ์ดˆ๊ณ ์† ๋ฐ์ดํ„ฐ ๋ถ„์„์— ํ™œ์šฉ๋˜๋Š” ๊ณ ๋Œ€์—ญํญ ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด๋‹ค.

[์žฅ์ 1] ๊ธฐ์กด AI ์‹œ์Šคํ…œ์— HBM-PIM์„ ์ ์šฉํ•  ๊ฒฝ์šฐ ์ด์ „ HBM2์„ ์‚ฌ์šฉํ–ˆ์„ ๋•Œ๋ณด๋‹ค ์„ฑ๋Šฅ์ด 2๋ฐฐ ์ด์ƒ ๋†’์•„์ง„๋‹ค.

[์žฅ์ 2]๋˜ ์‹œ์Šคํ…œ์ด ์†Œ๋น„ํ•˜๋Š” ์—๋„ˆ์ง€๋Š” 70% ์ด์ƒ ๊ฐ์†Œํ•œ๋‹ค.

[์žฅ์ 3] ๊ธฐ์กด HBM ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๊ทธ๋Œ€๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ๋„ ์žฅ์ ์ด๋‹ค. HBM-PIM์„ ์ƒˆ๋กœ ์ ์šฉํ•ด๋„ ํ•˜๋“œ์›จ์–ด๋‚˜ ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ๋ณ€๊ฒฝํ•˜์ง€ ์•Š์€ ์ฑ„ AI ๊ฐ€์†๊ธฐ ์‹œ์Šคํ…œ ๋“ฑ์„ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ์ด๋‹ค.

์ตœ๊ทผ AI ๊ธฐ์ˆ ์€ ๊ณ ๋„ํ™”๋˜๊ณ , ์‘์šฉ ์˜์—ญ ์—ญ์‹œ ํ™•๋Œ€๋˜๊ณ  ์žˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ ์ค‘์•™์ฒ˜๋ฆฌ์žฅ์น˜(CPU)๊ฐ€ ๋ฉ”๋ชจ๋ฆฌ์—์„œ ๋ช…๋ น์–ด๋ฅผ ๋ถˆ๋Ÿฌ์˜ค๊ณ  ์‹คํ–‰ํ•œ ๋’ค, ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋‹ค์‹œ ๋ฉ”๋ชจ๋ฆฌ์— ์ €์žฅํ•˜๋Š” ์ž‘์—…์ธ ์ „ํ†ต์ ์ธ ์—ฐ์‚ฐ ๊ตฌ์กฐ(ํฐ ๋…ธ์ด๋งŒ ๊ตฌ์กฐ)๋ฅผ ๋ฒ—์–ด๋‚˜์ง€ ๋ชปํ•˜๊ณ  ์žˆ๋‹ค. ๊ฒŒ๋‹ค๊ฐ€ ํฐ ๋…ธ์ด๋งŒ ๊ตฌ์กฐ์˜ ๊ฒฝ์šฐ CPU์™€ ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์ด์— ์ฃผ๊ณ ๋ฐ›์€ ๋ฐ์ดํ„ฐ๊ฐ€ ๋งŽ์•„์ง€๋ฉด ์ž‘์—…์ฒ˜๋ฆฌ๊ฐ€ ์ง€์—ฐ๋˜๋Š” ํ˜„์ƒ์ด ๋‚˜ํƒ€๋‚˜๊ธฐ๋„ ํ•œ๋‹ค.

์ด๋Ÿฐ ๊ตฌ์กฐ์ ์ธ ๋ฌธ์ œ๋ฅผ ๊ทน๋ณตํ•˜๊ธฐ ์œ„ํ•ด ์‚ผ์„ฑ์ „์ž๋Š” ๋ฉ”๋ชจ๋ฆฌ ๋ฑ…ํฌ(์ฃผ๊ธฐ์–ต์žฅ์น˜์—์„œ ์ตœ์†Œ ๋…ผ๋ฆฌ์  ๋‹จ์œ„)์— AI ์—”์ง„์„ ์žฅ์ฐฉ, ๋ณ‘๋ ฌ์ฒ˜๋ฆฌ๋ฅผ ๊ทน๋Œ€ํ™”ํ–ˆ๋‹ค. CPU์™€ ๋ฉ”๋ชจ๋ฆฌ๊ฐ€ ๊ตณ์ด ๋ฐ์ดํ„ฐ๋ฅผ ์ฃผ๊ณ  ๋ฐ›์ง€ ์•Š์•„๋„ ๋ฉ”๋ชจ๋ฆฌ ์ž์ฒด์ ์œผ๋กœ ์—ฐ์‚ฐ์ฒ˜๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•ด์ง„ ๊ฒƒ์ด๋‹ค. ์ด๋Ÿฐ ํšจ์œจ์ ์ธ ์—ฐ์‚ฐ ์ฒ˜๋ฆฌ ์ž‘์—… ๋“ฑ์œผ๋กœ AI ๊ฐ€์†๊ธฐ ์‹œ์Šคํ…œ์˜ ์—๋„ˆ์ง€ ํšจ์œจ๋„ ๋†’์ผ ์ˆ˜ ์žˆ์—ˆ๋‹ค๋Š” ๊ฒŒ ํšŒ์‚ฌ ์„ค๋ช…์ด๋‹ค.

์‚ผ์„ฑ์ „์ž๋Š” ์ƒ๋ฐ˜๊ธฐ ์•ˆ์œผ๋กœ ๋‹ค์–‘ํ•œ ๊ณ ๊ฐ์‚ฌ์˜ AI ๊ฐ€์†๊ธฐ์— HBM-PIM์„ ํƒ‘์žฌ, ์‹œํ—˜ ๊ฒ€์ฆ์— ๋‚˜์„ค ๊ณ„ํš์ด๋‹ค. ํ–ฅํ›„ PIM ํ”Œ๋žซํผ์„ ํ‘œ์ค€ํ™”ํ•˜๋Š” ์ž‘์—…์—๋„ ๋‚˜์„ ๋‹ค.

๋ฐ•๊ด‘์ผ ์‚ผ์„ฑ์ „์ž ๋ฉ”๋ชจ๋ฆฌ ์‚ฌ์—…๋ถ€ ์ƒํ’ˆ๊ธฐํšํŒ€์žฅ ์ „๋ฌด๋Š” "HBM-PIM์€ AI ๊ฐ€์†๊ธฐ์˜ ์„ฑ๋Šฅ์„ ๊ทน๋Œ€ํ™” ์‹œํ‚ฌ ์ˆ˜ ์žˆ๋Š” ์—…๊ณ„ ์ตœ์ดˆ์˜ ์ธ๊ณต์ง€๋Šฅ ๋งž์ถคํ˜• PIM ์†”๋ฃจ์…˜์œผ๋กœ ์‚ผ์„ฑ์ „์ž๋Š” ๊ณ ๊ฐ์‚ฌ๋“ค๊ณผ ์ง€์†์ ์œผ๋กœ ํ˜‘๋ ฅ์„ ๊ฐ•ํ™”ํ•ด PIM ์—์ฝ” ์‹œ์Šคํ…œ์„ ๊ตฌ์ถ•ํ•ด ๋‚˜๊ฐˆ ๊ฒƒ"์ด๋ผ๊ณ  ๋งํ–ˆ๋‹ค.


๋ฆญ ์Šคํ‹ฐ๋ธ์Šค ๋ฏธ๊ตญ ์•„๋ฅด๊ณค ๊ตญ๋ฆฝ ์—ฐ๊ตฌ์†Œ CELS(์ปดํ“จํ„ฐยทํ™˜๊ฒฝ ๋ฐ ์ƒ๋ช…๊ณผํ•™) ์—ฐ๊ตฌ์‹ค์žฅ์€ "HBM-PIM์€ AI ์‘์šฉ์„ ์œ„ํ•œ ์„ฑ๋Šฅ ๋ฐ ์—๋„ˆ์ง€ ํšจ์œจ ์ธก๋ฉด์—์„œ ๋†€๋ผ์šด ์„ฑ๊ณผ๋กœ HMB-PIM ์‹œ์Šคํ…œ ํ‰๊ฐ€๋ฅผ ์œ„ํ•ด ํ–ฅํ›„์—๋„ ์‚ผ์„ฑ์ „์ž์™€ ์ง€์†์ ์ธ ํ˜‘๋ ฅ์„ ๊ธฐ๋Œ€ํ•œ๋‹ค"๊ณ  ๋ฐํ˜”๋‹ค.

 


์‚ผ์„ฑ์ „์ž๊ฐ€ ์„ธ๊ณ„ ์ตœ์ดˆ๋กœ ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด์™€ ์ธ๊ณต์ง€๋Šฅ(AI) ํ”„๋กœ์„ธ์„œ๋ฅผ ํ•˜๋‚˜๋กœ ๊ฒฐํ•ฉํ•œ ๊ณ ๋Œ€์—ญํญ ๋ฉ”๋ชจ๋ฆฌ(HBMยทHigh Bandwidth Memory)-PIM์„ ๊ฐœ๋ฐœ

(PIM(Processing-In-Memory) ๊ธฐ์ˆ ์€ ๋ฉ”๋ชจ๋ฆฌ ์•ˆ์— ์—ฐ์‚ฐ์ž‘์—…์„ ํ•˜๋Š” AI ํ”„๋กœ์„ธ์„œ๋ฅผ ๋‘” ์‹ ๊ฐœ๋… ์œตํ•ฉ๊ธฐ์ˆ )

 

- ๊ธฐ์กด ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด์— ์—ฐ์‚ฐ์ฒ˜๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•œ AI ํ”„๋กœ์„ธ์„œ๋ฅผ ๋”ํ•œ ๊ฒƒ

- CPU-๋ฉ”๋ชจ๋ฆฌ๊ฐ„ ๋ฐ์ดํ„ฐ ๊ตํ™˜ ์—†์ด ๋ฉ”๋ชจ๋ฆฌ ์ž์ฒด์ ์œผ๋กœ ์—ฐ์‚ฐ ์ฒ˜๋ฆฌ

 

[์žฅ์ 1] ๊ธฐ์กด AI ์‹œ์Šคํ…œ์— HBM-PIM์„ ์ ์šฉํ•  ๊ฒฝ์šฐ ์ด์ „ HBM2์„ ์‚ฌ์šฉํ–ˆ์„ ๋•Œ๋ณด๋‹ค ์„ฑ๋Šฅ์ด 2๋ฐฐ ์ด์ƒ ๋†’์•„์ง„๋‹ค.

[์žฅ์ 2] ์‹œ์Šคํ…œ์ด ์†Œ๋น„ํ•˜๋Š” ์—๋„ˆ์ง€๋Š” 70% ์ด์ƒ ๊ฐ์†Œํ•œ๋‹ค.

[์žฅ์ 3] ๊ธฐ์กด HBM ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ๊ทธ๋Œ€๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ๋„ ์žฅ์ ์ด๋‹ค.

 HBM-PIM์„ ์ƒˆ๋กœ ์ ์šฉํ•ด๋„ ํ•˜๋“œ์›จ์–ด๋‚˜ ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ๋ณ€๊ฒฝํ•˜์ง€ ์•Š์€ ์ฑ„ AI ๊ฐ€์†๊ธฐ ์‹œ์Šคํ…œ ๋“ฑ์„ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ์ด๋‹ค.

[์žฅ์ 4] CPU-๋ฉ”๋ชจ๋ฆฌ๊ฐ„ ๋ฐ์ดํ„ฐ ๊ตํ™˜ => ์ž‘์—…์ฒ˜๋ฆฌ๊ฐ€ ์ง€์—ฐ๋˜๋Š” ํ˜„์ƒ

์ด๋Ÿฐ ๊ตฌ์กฐ์ ์ธ ๋ฌธ์ œ๋ฅผ ๊ทน๋ณตํ•˜๊ธฐ ์œ„ํ•ด ์‚ผ์„ฑ์ „์ž๋Š” ๋ฉ”๋ชจ๋ฆฌ ๋ฑ…ํฌ(์ฃผ๊ธฐ์–ต์žฅ์น˜์—์„œ ์ตœ์†Œ ๋…ผ๋ฆฌ์  ๋‹จ์œ„)์— AI ์—”์ง„์„ ์žฅ์ฐฉ, ๋ณ‘๋ ฌ์ฒ˜๋ฆฌ๋ฅผ ๊ทน๋Œ€ํ™”ํ–ˆ๋‹ค. CPU์™€ ๋ฉ”๋ชจ๋ฆฌ๊ฐ€ ๊ตณ์ด ๋ฐ์ดํ„ฐ๋ฅผ ์ฃผ๊ณ  ๋ฐ›์ง€ ์•Š์•„๋„ ๋ฉ”๋ชจ๋ฆฌ ์ž์ฒด์ ์œผ๋กœ ์—ฐ์‚ฐ์ฒ˜๋ฆฌ๊ฐ€ ๊ฐ€๋Šฅํ•ด์ง„ ๊ฒƒ

 

์‚ผ์„ฑ์ „์ž๋Š” ์ƒ๋ฐ˜๊ธฐ ์•ˆ์œผ๋กœ ๋‹ค์–‘ํ•œ ๊ณ ๊ฐ์‚ฌ์˜ AI ๊ฐ€์†๊ธฐ์— HBM-PIM์„ ํƒ‘์žฌ, ์‹œํ—˜ ๊ฒ€์ฆ์— ๋‚˜์„ค ๊ณ„ํš์ด๋‹ค. ํ–ฅํ›„ PIM ํ”Œ๋žซํผ์„ ํ‘œ์ค€ํ™”ํ•˜๋Š” ์ž‘์—…์—๋„ ๋‚˜์„ ๋‹ค. -> ๊ณ ๊ฐ์‚ฌ๋“ค๊ณผ ์ง€์†์ ์œผ๋กœ ํ˜‘๋ ฅ์„ ๊ฐ•ํ™”ํ•ด PIM ์—์ฝ” ์‹œ์Šคํ…œ์„ ๊ตฌ์ถ•ํ•ด ๋‚˜๊ฐˆ ๊ฒƒ

 

* ํ•œ์ค„ ์˜๊ฒฌ

๋ฐ์ดํ„ฐ ๊ตํ™˜์—†์ด ๋ฉ”๋ชจ๋ฆฌ ์ž์ฒด์ ์œผ๋กœ ์—ฐ์‚ฐ์„ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” HBM-PIM ๊ฐœ๋ฐœ๋กœ AI ํ™œ์šฉ์— ๋”์šฑ ํฐ ๊ธฐ์—ฌ๋ฅผ ํ•  ๊ฒƒ์œผ๋กœ ์˜ˆ์ƒ๋œ๋‹ค. ์•ž์œผ๋กœ์˜ ๋ฏธ๋ž˜๊ฐ€ ๋”์šฑ ๊ธฐ๋Œ€๋˜๋Š” ๊ธฐ์ˆ ์ด๋‹ค. 

 

 

์‚ผ์„ฑ์ „์ž, ์„ธ๊ณ„ ์ตœ์ดˆ AI ํ”„๋กœ์„ธ์„œ ํƒ‘์žฌ ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด ๊ฐœ๋ฐœ ์„ฑ๊ณต - Chosunbiz > IT > ICT/๋ฏธ๋””์–ด