[21.02.17] ์ผ์ฑ์ ์, ์ธ๊ณ ์ต์ด AI ํ๋ก์ธ์ ํ์ฌ ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด ๊ฐ๋ฐ ์ฑ๊ณต
๊ธฐ์กด ๋ฉ๋ชจ๋ฆฌ ๋๋น ์ฑ๋ฅ์ 2๋ฐฐ ์ด์, ์๋์ง๋ 70% ์ ๊ฐ
CPU-๋ฉ๋ชจ๋ฆฌ๊ฐ ๋ฐ์ดํฐ ๊ตํ ์์ด ๋ฉ๋ชจ๋ฆฌ ์์ฒด์ ์ผ๋ก ์ฐ์ฐ ์ฒ๋ฆฌ
์ผ์ฑ์ ์ "์๋ฐ๊ธฐ ๋ด ๊ฒ์ฆ ์๋ฃ ํ ์์ฅ ์ ์ ํ ๊ฒ"

์ผ์ฑ์ ์๊ฐ ์ธ๊ณ ์ต์ด๋ก ๊ฐ๋ฐํ HBM-PIM. ๊ธฐ์กด ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด์ ์ฐ์ฐ์ฒ๋ฆฌ๊ฐ ๊ฐ๋ฅํ AI ํ๋ก์ธ์๋ฅผ ๋ํ ๊ฒ์ด ํน์ง์ด๋ค. /์ผ์ฑ์ ์
์ผ์ฑ์ ์๊ฐ ์ธ๊ณ ์ต์ด๋ก ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด์ ์ธ๊ณต์ง๋ฅ(AI) ํ๋ก์ธ์๋ฅผ ํ๋๋ก ๊ฒฐํฉํ ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ(HBMยทHigh Bandwidth Memory)-PIM์ ๊ฐ๋ฐํ๋ค. PIM(Processing-In-Memory) ๊ธฐ์ ์ ๋ฉ๋ชจ๋ฆฌ ์์ ์ฐ์ฐ์์
์ ํ๋ AI ํ๋ก์ธ์๋ฅผ ๋ ์ ๊ฐ๋
์ตํฉ๊ธฐ์ ์ด๋ค.
17์ผ ์ผ์ฑ์ ์์ ๋ฐ๋ฅด๋ฉด HBM-PIM์ ๋ฐ๋์ฒด ๋ถ์ผ ์ธ๊ณ ์ต๊ณ ๊ถ์์ ํํ๋ก ๊ผฝํ๋ ISSCC์์ ๋
ผ๋ฌธ์ ํตํด ๊ณต๊ฐ๋๋ค. ์๋ฐ๊ธฐ ์ค ๊ณ ๊ฐ์ฌ ๋์์ผ๋ก ์ํ ๊ฒ์ฆ์ ์๋ฃํ๊ณ , ๊ธฐ์ ์ ์ ์ ๋์ ๋ค.
์ผ์ฑ์ ์๋ PIM ๊ธฐ์ ์ ํ์ฉ, ์ง๋ 2018๋
1์ ์์ฐ์ ๋ค์ด๊ฐ HBM2 ์์ฟ ์๋ณผํธ์ AI ํ๋ก์ธ์๋ฅผ ํ์ฌํ๋ค. HBM2 ์์ฟ ์๋ณผํธ๋ ์ํผ์ปดํจํฐ์ ๊ฐ์ ๊ณ ์ฑ๋ฅ ์ปดํจํ
(HPC)๊ณผ AI ๊ฐ์๊ธฐ ๋ฑ์์ ์ด๊ณ ์ ๋ฐ์ดํฐ ๋ถ์์ ํ์ฉ๋๋ ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด๋ค.
[์ฅ์ 1] ๊ธฐ์กด AI ์์คํ
์ HBM-PIM์ ์ ์ฉํ ๊ฒฝ์ฐ ์ด์ HBM2์ ์ฌ์ฉํ์ ๋๋ณด๋ค ์ฑ๋ฅ์ด 2๋ฐฐ ์ด์ ๋์์ง๋ค.
[์ฅ์ 2]๋ ์์คํ
์ด ์๋นํ๋ ์๋์ง๋ 70% ์ด์ ๊ฐ์ํ๋ค.
[์ฅ์ 3] ๊ธฐ์กด HBM ์ธํฐํ์ด์ค๋ฅผ ๊ทธ๋๋ก ์ฌ์ฉํ ์ ์๋ค๋ ์ ๋ ์ฅ์ ์ด๋ค. HBM-PIM์ ์๋ก ์ ์ฉํด๋ ํ๋์จ์ด๋ ์ํํธ์จ์ด๋ฅผ ๋ณ๊ฒฝํ์ง ์์ ์ฑ AI ๊ฐ์๊ธฐ ์์คํ
๋ฑ์ ๊ตฌ์ถํ ์ ์๋ค๋ ๊ฒ์ด๋ค.
์ต๊ทผ AI ๊ธฐ์ ์ ๊ณ ๋ํ๋๊ณ , ์์ฉ ์์ญ ์ญ์ ํ๋๋๊ณ ์๋ค. ๊ทธ๋ฌ๋ ์ค์์ฒ๋ฆฌ์ฅ์น(CPU)๊ฐ ๋ฉ๋ชจ๋ฆฌ์์ ๋ช
๋ น์ด๋ฅผ ๋ถ๋ฌ์ค๊ณ ์คํํ ๋ค, ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ๋ค์ ๋ฉ๋ชจ๋ฆฌ์ ์ ์ฅํ๋ ์์
์ธ ์ ํต์ ์ธ ์ฐ์ฐ ๊ตฌ์กฐ(ํฐ ๋
ธ์ด๋ง ๊ตฌ์กฐ)๋ฅผ ๋ฒ์ด๋์ง ๋ชปํ๊ณ ์๋ค. ๊ฒ๋ค๊ฐ ํฐ ๋
ธ์ด๋ง ๊ตฌ์กฐ์ ๊ฒฝ์ฐ CPU์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ด์ ์ฃผ๊ณ ๋ฐ์ ๋ฐ์ดํฐ๊ฐ ๋ง์์ง๋ฉด ์์
์ฒ๋ฆฌ๊ฐ ์ง์ฐ๋๋ ํ์์ด ๋ํ๋๊ธฐ๋ ํ๋ค.
์ด๋ฐ ๊ตฌ์กฐ์ ์ธ ๋ฌธ์ ๋ฅผ ๊ทน๋ณตํ๊ธฐ ์ํด ์ผ์ฑ์ ์๋ ๋ฉ๋ชจ๋ฆฌ ๋ฑ
ํฌ(์ฃผ๊ธฐ์ต์ฅ์น์์ ์ต์ ๋
ผ๋ฆฌ์ ๋จ์)์ AI ์์ง์ ์ฅ์ฐฉ, ๋ณ๋ ฌ์ฒ๋ฆฌ๋ฅผ ๊ทน๋ํํ๋ค. CPU์ ๋ฉ๋ชจ๋ฆฌ๊ฐ ๊ตณ์ด ๋ฐ์ดํฐ๋ฅผ ์ฃผ๊ณ ๋ฐ์ง ์์๋ ๋ฉ๋ชจ๋ฆฌ ์์ฒด์ ์ผ๋ก ์ฐ์ฐ์ฒ๋ฆฌ๊ฐ ๊ฐ๋ฅํด์ง ๊ฒ์ด๋ค. ์ด๋ฐ ํจ์จ์ ์ธ ์ฐ์ฐ ์ฒ๋ฆฌ ์์
๋ฑ์ผ๋ก AI ๊ฐ์๊ธฐ ์์คํ
์ ์๋์ง ํจ์จ๋ ๋์ผ ์ ์์๋ค๋ ๊ฒ ํ์ฌ ์ค๋ช
์ด๋ค.
์ผ์ฑ์ ์๋ ์๋ฐ๊ธฐ ์์ผ๋ก ๋ค์ํ ๊ณ ๊ฐ์ฌ์ AI ๊ฐ์๊ธฐ์ HBM-PIM์ ํ์ฌ, ์ํ ๊ฒ์ฆ์ ๋์ค ๊ณํ์ด๋ค. ํฅํ PIM ํ๋ซํผ์ ํ์คํํ๋ ์์
์๋ ๋์ ๋ค.
๋ฐ๊ด์ผ ์ผ์ฑ์ ์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์
๋ถ ์ํ๊ธฐํํ์ฅ ์ ๋ฌด๋ "HBM-PIM์ AI ๊ฐ์๊ธฐ์ ์ฑ๋ฅ์ ๊ทน๋ํ ์ํฌ ์ ์๋ ์
๊ณ ์ต์ด์ ์ธ๊ณต์ง๋ฅ ๋ง์ถคํ PIM ์๋ฃจ์
์ผ๋ก ์ผ์ฑ์ ์๋ ๊ณ ๊ฐ์ฌ๋ค๊ณผ ์ง์์ ์ผ๋ก ํ๋ ฅ์ ๊ฐํํด PIM ์์ฝ ์์คํ
์ ๊ตฌ์ถํด ๋๊ฐ ๊ฒ"์ด๋ผ๊ณ ๋งํ๋ค.
๋ฆญ ์คํฐ๋ธ์ค ๋ฏธ๊ตญ ์๋ฅด๊ณค ๊ตญ๋ฆฝ ์ฐ๊ตฌ์ CELS(์ปดํจํฐยทํ๊ฒฝ ๋ฐ ์๋ช
๊ณผํ) ์ฐ๊ตฌ์ค์ฅ์ "HBM-PIM์ AI ์์ฉ์ ์ํ ์ฑ๋ฅ ๋ฐ ์๋์ง ํจ์จ ์ธก๋ฉด์์ ๋๋ผ์ด ์ฑ๊ณผ๋ก HMB-PIM ์์คํ
ํ๊ฐ๋ฅผ ์ํด ํฅํ์๋ ์ผ์ฑ์ ์์ ์ง์์ ์ธ ํ๋ ฅ์ ๊ธฐ๋ํ๋ค"๊ณ ๋ฐํ๋ค.
์ผ์ฑ์ ์๊ฐ ์ธ๊ณ ์ต์ด๋ก ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด์ ์ธ๊ณต์ง๋ฅ(AI) ํ๋ก์ธ์๋ฅผ ํ๋๋ก ๊ฒฐํฉํ ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ(HBMยทHigh Bandwidth Memory)-PIM์ ๊ฐ๋ฐ
(PIM(Processing-In-Memory) ๊ธฐ์ ์ ๋ฉ๋ชจ๋ฆฌ ์์ ์ฐ์ฐ์์ ์ ํ๋ AI ํ๋ก์ธ์๋ฅผ ๋ ์ ๊ฐ๋ ์ตํฉ๊ธฐ์ )
- ๊ธฐ์กด ๋ฉ๋ชจ๋ฆฌ ๋ฐ๋์ฒด์ ์ฐ์ฐ์ฒ๋ฆฌ๊ฐ ๊ฐ๋ฅํ AI ํ๋ก์ธ์๋ฅผ ๋ํ ๊ฒ
- CPU-๋ฉ๋ชจ๋ฆฌ๊ฐ ๋ฐ์ดํฐ ๊ตํ ์์ด ๋ฉ๋ชจ๋ฆฌ ์์ฒด์ ์ผ๋ก ์ฐ์ฐ ์ฒ๋ฆฌ
[์ฅ์ 1] ๊ธฐ์กด AI ์์คํ ์ HBM-PIM์ ์ ์ฉํ ๊ฒฝ์ฐ ์ด์ HBM2์ ์ฌ์ฉํ์ ๋๋ณด๋ค ์ฑ๋ฅ์ด 2๋ฐฐ ์ด์ ๋์์ง๋ค.
[์ฅ์ 2] ์์คํ
์ด ์๋นํ๋ ์๋์ง๋ 70% ์ด์ ๊ฐ์ํ๋ค.
[์ฅ์ 3] ๊ธฐ์กด HBM ์ธํฐํ์ด์ค๋ฅผ ๊ทธ๋๋ก ์ฌ์ฉํ ์ ์๋ค๋ ์ ๋ ์ฅ์ ์ด๋ค.
HBM-PIM์ ์๋ก ์ ์ฉํด๋ ํ๋์จ์ด๋ ์ํํธ์จ์ด๋ฅผ ๋ณ๊ฒฝํ์ง ์์ ์ฑ AI ๊ฐ์๊ธฐ ์์คํ ๋ฑ์ ๊ตฌ์ถํ ์ ์๋ค๋ ๊ฒ์ด๋ค.
[์ฅ์ 4] CPU-๋ฉ๋ชจ๋ฆฌ๊ฐ ๋ฐ์ดํฐ ๊ตํ => ์์ ์ฒ๋ฆฌ๊ฐ ์ง์ฐ๋๋ ํ์
์ด๋ฐ ๊ตฌ์กฐ์ ์ธ ๋ฌธ์ ๋ฅผ ๊ทน๋ณตํ๊ธฐ ์ํด ์ผ์ฑ์ ์๋ ๋ฉ๋ชจ๋ฆฌ ๋ฑ ํฌ(์ฃผ๊ธฐ์ต์ฅ์น์์ ์ต์ ๋ ผ๋ฆฌ์ ๋จ์)์ AI ์์ง์ ์ฅ์ฐฉ, ๋ณ๋ ฌ์ฒ๋ฆฌ๋ฅผ ๊ทน๋ํํ๋ค. CPU์ ๋ฉ๋ชจ๋ฆฌ๊ฐ ๊ตณ์ด ๋ฐ์ดํฐ๋ฅผ ์ฃผ๊ณ ๋ฐ์ง ์์๋ ๋ฉ๋ชจ๋ฆฌ ์์ฒด์ ์ผ๋ก ์ฐ์ฐ์ฒ๋ฆฌ๊ฐ ๊ฐ๋ฅํด์ง ๊ฒ
์ผ์ฑ์ ์๋ ์๋ฐ๊ธฐ ์์ผ๋ก ๋ค์ํ ๊ณ ๊ฐ์ฌ์ AI ๊ฐ์๊ธฐ์ HBM-PIM์ ํ์ฌ, ์ํ ๊ฒ์ฆ์ ๋์ค ๊ณํ์ด๋ค. ํฅํ PIM ํ๋ซํผ์ ํ์คํํ๋ ์์ ์๋ ๋์ ๋ค. -> ๊ณ ๊ฐ์ฌ๋ค๊ณผ ์ง์์ ์ผ๋ก ํ๋ ฅ์ ๊ฐํํด PIM ์์ฝ ์์คํ ์ ๊ตฌ์ถํด ๋๊ฐ ๊ฒ
* ํ์ค ์๊ฒฌ
๋ฐ์ดํฐ ๊ตํ์์ด ๋ฉ๋ชจ๋ฆฌ ์์ฒด์ ์ผ๋ก ์ฐ์ฐ์ ์ฒ๋ฆฌํ ์ ์๋ HBM-PIM ๊ฐ๋ฐ๋ก AI ํ์ฉ์ ๋์ฑ ํฐ ๊ธฐ์ฌ๋ฅผ ํ ๊ฒ์ผ๋ก ์์๋๋ค. ์์ผ๋ก์ ๋ฏธ๋๊ฐ ๋์ฑ ๊ธฐ๋๋๋ ๊ธฐ์ ์ด๋ค.