1. 지금으로부터 7년 전(2016년) 알파고는 인공지능이 인간의 직관, 판단을 압도할 수 있다는 것을 보여줬습니다.
당시 계산에 사용된 알파고 초기모델의 GPU 수는 176개였습니다.
2. 몇 년 전(2021년) 테슬라는 흔히 말하는 자율 주행 ADAS(Advanced Driver Assistance Systems)을 구현하였습니다.
이때 사용된 GPU 수는 7,360개였습니다.
3. 이미 화제를 넘어서 대중에게 많이 사용되고 있는 Chat GPT는 OpenAI에서 만들었습니다.
다양한 주제에 대해 사람처럼 대답할 수 있는 언어 모델이였습니다.
다양한 주제에 대해 사람처럼 대답할 수 있는 언어 모델이였습니다.
이때 사용된 GPU 수는 25,000개였습니다. GPU 모델은 테슬라때 사용한 A100 모델입니다.
정리해보면, 아래와 같습니다.
4. 그런데 알파고와 ADAS, 그리고 ChatGPT는 공통점이 있습니다.
모두 기계학습을 다룬다는 것입니다. 기계학습을 계산하려면 주로 대량의 행렬과 벡터 계산을 해야 합니다.
5. GPU는 바로 대량의 행렬과 벡터 계산에 특화되어 있기 때문에 기계 학습에서는, GPU를 사용합니다.
(참고로 A100은 Xeon Gold 2.6GHz CPU 대비 249배 AI 성능을 보인다.)
6. 2023년 6월 현재 A100 80GB의 가격은 약 2600만원 이상입니다.
GPT-3.5의 경우 6,500억원 규모의 GPU를 사용합니다.
GPT-3.5의 경우 6,500억원 규모의 GPU를 사용합니다.
7. OpenAI 뿐만 아니라 Google, Tesla, Apple 등 여러 서버 기업에서 A100의 수요를 갖고 있는 중입니다.
8. 이러한 영향성으로, Nvidia는 2023년 들어서 두 달 만에, 약 67%의 주가 상승을 보이고 있는 중이다.
9. 만약 10 전에 삼성전자와 Nvidia의 주가를 투자했다면 어떤 결과가 나왔을까요?
삼성전자는 약 2배의 수익을 낼 동안, Nvidia는 약 74배의 수익을 낼 수 있었습니다.