AI ๋ฐ ML ์ฐ์ ์์์ ํด๋ผ์ฐ๋ ์ปดํจํ
Rescale์ ํด๋ผ์ฐ๋์์ GPU๋ฅผ ์ฌ์ฉํ๋ ๋จธ์ ๋ฌ๋ ๋ถ์ผ์์ ๊ฒ์ดํธ์จ์ด๋ฅผ ์ ๊ณตํฉ๋๋ค. ์ด๋ฅผ ํตํด ์ฌ์ฉ์๊ฐ ๊ตฌ์ฑํ๊ธฐ ์ด๋ ต๊ณ ์๊ฐ์ด ๋ง์ด ์์๋ ์ ์๋ Caffe, Torch7, Tensorflow์ ๊ฐ์ ํ๋ ์์ํฌ ์ฌ์ฉ์ด ๊ฐ๋ฅํฉ๋๋ค.
HPC์์ AI์ ML ์ฌ์ฉ์ ์ด์
์ ์ฐํ ๊ตฌ์ฑ
๋ค์ํ ์ ํ ๋ฐ ๋ฒ์ ์ด ์๋ GPU๋ฅผ ๋ฐ๋ก ์ฌ์ฉํ ์ ์์ต๋๋ค
์ต์ ํ๋ ํ๋ ์์ํฌ
Rescale ํ๋ซํผ์๋ ๋ง์ด ์ฌ์ฉ๋๋ ML ํ๋ ์์ํฌ๊ฐ ์ฌ์ ์ค์น๋์ด์๊ณ ๋ค์ํ ์ํคํ ์ณ์์ ์ฌ์ฉ์ด ๊ฐ๋ฅํ๋๋ค
์๊ฐํ
AI/ML ์ฐ์ ์์ ๋ง์ด ์ฌ์ฉ๋๋ Tensorflow ์ Keras Notebooks๊ฐ Linux ๊ฐ์ ํ ์คํฌํ์์ ์ ๊ณต๋ฉ๋๋ค
ML ๊ฒฐ๊ณผ๋ฅผ ์ ์ํ ์ฒ๋ฆฌํ๊ธฐ ์ํ ์ ์ฐํ ํด๋ผ์ฐ๋ ํ๊ฒฝ
AI (์ธ๊ณต์ง๋ฅ)๋ ์ปดํจํฐ๊ฐ ํ์ต, ๊ณํ ๋ฐ ๋ฌธ์ ํด๊ฒฐ๊ณผ ๊ฐ์ ์ธ๊ฐ์ ๋๋์ ์ ์ฌํ ๊ธฐ๋ฅ์ ํ๋๋ก ํ๋ก๊ทธ๋จ ๋์ด ์๋ ๊ฒ์ ๋งํฉ๋๋ค. AI๋ ๊ณผ๊ฑฐ ์๋ ๋์ ์กด์ฌํด ์์ผ๋ฉฐ, ๊ธฐ์ ์ด ๋ฐ์ ํจ์ ๋ฐ๋ผ ์ธ๊ณต์ง๋ฅ ๋ถ์ผ๋ ๋ฐ์ ํ๊ณ ์์ต๋๋ค. ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ๊ฒฐ์ ์ ๋ด๋ฆฌ๋ ๋ฐฉ๋ฒ์ ์ค๋ช ํฉ๋๋ค. ์ธ๊ฐ์ ๋ง์์ ์ดํดํ๋ ๋ฐ ์์ด ํจ์ฌ ๋ ์ง๋ณด์ ์ด๋ฉฐ, ๋ต์ ์ํด ์ด๋ป๊ฒ ํ์ด์ผ ํ๋์ง ๊ธฐ๊ณ์๊ฒ ํ๋ก๊ทธ๋จ์ ์ผ๋ก ๋งํ๋ ๋์ , ๊ธฐ๊ณ๋ ์ด์ ์ธ๊ฐ์ ๋์ฒ๋ผ ๊ธฐ๋ฅํ ์ ์์๊ณผ ๋์์ ๋ํ, ์ค์ค๋ก ํธ๋ ๋์ ํจํด์ ์ฐพ๋๋ก ํ๋ก๊ทธ๋๋ฐ ๋์ด ์์ต๋๋ค. ๊ทธ๋์ ๋ฅ ๋ฌ๋์ด๋ผ๋ ์ฉ์ด๊ฐ ์ฌ์ฉ๋๊ณ ์์ต๋๋ค.
์ผ๋ฐ์ ์ผ๋ก ๋จธ์ ๋ฌ๋ ํ๊ฒฝ์ ์ค์ ํ๋ ๊ฒ์ ์ด๋ ต์ต๋๋ค. ๊ฐ๋น์ผ ์จํ๋ ๋ฏธ์ค GPU๋ฅผ ํฌํจํ ๋ค์ํ ๋ชจ๋ธ์ ์คํํ๊ธฐ ์ํด์๋ ๋ง์ ์ปดํจํ ๋ฅ๋ ฅ์ด ํ์ํฉ๋๋ค. ํ๋ ์์ํฌ๋ฅผ ์ค์ ํ๊ณ ์ฌ๋ฐ๋ฅด๊ฒ ์๋ํ๋ ค๋ฉด, ๋ง์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์์กด์ฑ์ด ํ์ํ๋ฉฐ ์ด์ ๋์์ ๋ค์ํ ํจํค์ง๊ฐ ํจ๊ป ์๋ํ๋๋ก ํ๋ ๊ฒ์ ๋๋จํ ๊น๋ค๋กญ์ต๋๋ค. ๊ธฐ์ ์ ์ ๋ฌธ๊ฐ๋ฅผ ๊ณ ์ฉํ๊ฑฐ๋ ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์ค๋ฅผ ๊ณ ์ฉํ์ฌ ํ์ ๋ณด๋ค ์ธํ๋ผ๋ฅผ ๊ตฌ์ถํ๋ ๋ฐ ์๊ฐ์ ๋ง์ด ํฌ์ํด์ผ ํฉ๋๋ค.
๋จธ์ ๋ฌ๋์ ์ด์ ์๋ ๋ณผ ์ ์์๋ ๋ํฅ๊ณผ ํจํด์ ๋ํ ํต์ฐฐ๋ ฅ์ ์ ๊ณตํจ์ผ๋ก์จ ๋น์ฆ๋์ค์ ์ค์ํ ์ธก๋ฉด์ด ๋๊ณ ์์ต๋๋ค. ๊ธฐ์ ๋ค์ ๊ฒฝ์์์ ์์๊ธฐ ์ํด ํต์ฐฐ๋ ฅ์ ์ป๊ธฐ ์ํ์ฌ ๋น์ฆ๋์ค ๊ตฌ์๊ตฌ์๊น์ง ๋จธ์ ๋ฌ๋์ ๊ตฌ์ถํ๊ณ ์์ต๋๋ค.
Rescale๋ ๊ธฐ๊ณ์ ๋ฅ ๋ฌ๋์ ํ์ ๋ฐํํ ์ ์๋ ํ๋ซํผ์ ์ ๊ณตํฉ๋๋ค.
- ๋๋ฆฌ ์ฌ์ฉ๋๋ ๋ฅ ๋ฌ๋ ํ๋ ์์ํฌ ๋ฐ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ๋ํ์ฌ ์ฆ๊ฐ์ ์ผ๋ก ์ฌ์ฉ ๊ถํ์ ์ ๊ณตํฉ๋๋ค
- ์ต์ GPU๋ฅผ ์ฆ์ ํ์ฉํ์ญ์์ค
- ๋๋ง์ ์ฑ๊ทค๋ฌ๋ฆฌํฐ(Singularity) ์ปจํ ์ด๋๋ฅผ ์ฌ์ฉํ์ญ์์ค
- ์์ ๋ง์ NVIDIA CUDA ์ ํ๋ฆฌ์ผ์ด์ ์ ์ ๋ก๋ํ๊ณ ์คํํฉ๋๋ค
- HPC ํ๋์จ์ด: NVIDIA Tesla P100 ๋ฐ Tesla V100 GPU, Intel Skylake ํ๋ก์ธ์, InfiniBand ์ธํฐ์ปค๋ฅํธ, 1TB ์ด์์ RAM
- ์ต์ ๋จธ์ ๋ฌ๋ ์ํํธ์จ์ด: TensorFlow, Keras, Caffe2, PyTorch, Chainer๋ฅผ ํฌํจํ ๋ชจ๋ ์ต์ ๋ฒ์ ์ ์ธ๊ธฐ ๋ผ์ด๋ฒ๋ฌ๋ฆฌ. ๋ชจ๋ GPU์์ ์คํ๋๋๋ก ๊ตฌ์ฑ๋์์ต๋๋ค
- ์ ์ฐํ ์ธํฐ๋ ํฐ๋ธ ๋ฐ ๋ฐฐ์น(Batch) ํธ๋ ์ด๋ ์ธํฐํ์ด์ค: Jupyter ๋ ธํธ๋ถ์ ์ธํฐ๋ ํฐ๋ธ ๋ชจ๋ธ๋ง ๋ฐ ์๊ฐํ, Rescale์ API๋ฅผ ํตํ ์๋ํ๋ ๋ชจ๋ธ ๋ฐฐ์น ๊ต์ก
- ๋์ฉ๋ ๋ฐ์ดํฐ์ ์ ์ํ ํด: ๋์ฉ๋ ํธ๋ ์ด๋ ๋ฐ์ดํฐ์ ์ ํจ์จ์ ์ผ๋ก ์ ๋ก๋ํ ์ ์๋ ํ์ผ ์ ์ก ํด, ๊ณต๊ฐ ๋ฐ์ดํฐ์ ์ ๋น ๋ฅด๊ณ ์ฝ๊ฒ ์ก์ธ์ค๊ฐ ๊ฐ๋ฅ