AI 소식 · 영상 게시 2025-01-30 · 7분 13초

DeepSeek R1이 엔비디아 주가를 흔든 이유와 로컬 실행 방법

DeepSeek R1이 OpenAI o1과 비교해 화제가 된 이유, 학습·사용 비용, 엔비디아 주가 하락의 배경, Ollama로 로컬 실행할 때 주의할 점을 정리했습니다.

DeepSeek R1이 공개된 직후 엔비디아와 나스닥 주가가 크게 떨어졌습니다. 이 영상에서 단테는 DeepSeek가 어떤 회사이고 R1이 OpenAI o1과 비교해 어떤 점이 화제였는지, 왜 주가에 영향을 줬는지, 그리고 개인정보가 걱정될 때 로컬에서 실행하는 방법까지 정리했습니다. 당시 DeepSeek 소식을 처음 접하고 핵심만 빠르게 파악하고 싶은 분께 맞는 내용입니다. 아래 내용은 영상 게시 시점(2025-01-30) 기준입니다.

DeepSeek와 R1

DeepSeek는 젊은 중국인 CEO가 운영하는 회사 이름이자 모델 이름입니다. ChatGPT처럼 웹사이트에서 바로 써 볼 수 있고, DeepThink를 누르면 추론 모델 R1을, Search를 누르면 검색을 거친 답을 받을 수 있습니다.

R1이 화제가 된 이유는 OpenAI의 당시 최신 추론 모델 o1과 벤치마크에서 많은 항목이 대등하거나 더 좋았기 때문입니다. 특히 수학 관련 벤치마크에서 o1보다 높은 점수를 얻었고, 일부 항목은 조금 못했지만 전반적으로 비슷하거나 나은 수치였습니다. 코딩 벤치마크 한 항목에서는 o1이 앞섰습니다.

시기도 맞아떨어졌습니다. 당시 o1을 무제한으로 쓰려면 월 200달러 수준의 Pro 플랜에 가입해야 했고, 개인에게는 부담스러운 금액이었습니다. 그런 상황에서 비슷한 성능의 추론 모델이 무료로 풀렸습니다. 영상은 CEO가 한 인터뷰에서 10년 이상의 시니어보다 주니어·미들급 인력을 선호한다고 말한 점도 소개했습니다. 경력자는 "어떻게 하면 달성할 수 있다"에 집중하는 반면, 연차가 낮은 사람은 반복 실험으로 최선의 방법을 찾아낸다는 이유였습니다.

왜 비용이 화제였나

첫째는 훈련 비용입니다. 미국 수출 규제 때문에 엔비디아는 중국에 성능이 제한된 H800을 공급하고, DeepSeek는 상위 모델 대신 이 칩을 사용했습니다. 그럼에도 R1의 기반인 V3 모델의 개발 비용이 경쟁사 모델 학습 비용보다 적은 수준이라고 알려지면서 "적은 비용으로 좋은 성능"이라는 인식이 퍼졌습니다.

둘째는 사용 비용입니다. o1을 무제한으로 쓰는 방법은 Pro 플랜을 구독하거나 API를 직접 쓰는 것인데, API 출력 토큰 기준으로 o1이 R1보다 27배 비쌌습니다. 비용만 놓고 보면 R1이 압도적이라는 평가가 많았습니다. 입력 토큰은 모델에 전달하는 프롬프트에 대한 비용이고, 출력 토큰은 모델이 내보내는 결과에 대한 비용입니다.

학습 방식도 비교했습니다. 영상 설명에 따르면 R1은 소규모 지도 학습 데이터와 강화 학습을 함께 썼고, o1은 RLHF와 지도 미세조정(SFT)을 썼습니다. RLHF는 보상 모델을 사용한 강화 학습으로 사람이 선호하는 응답을 내도록 반복 학습시키는 방법이고, SFT는 미세조정으로 모델을 특정 작업에 특화시키는 방법입니다.

엔비디아 주가가 떨어진 이유

R1 뉴스가 퍼지자 엔비디아와 나스닥 주가가 큰 폭으로 내려갔습니다. 가장 우세한 해석은 "더 적은 학습 비용으로도 좋은 성능을 낼 수 있다면 고가 GPU 수요와 엔비디아의 수익성이 떨어질 수 있다", 그리고 "다른 AI 기술 기업에 거품이 낀 것은 아닌가"라는 우려입니다.

단테는 개인적인 견해로, 시기가 크게 작용했다고 봤습니다. o1과 비슷한 성능의 모델은 이전에도 있었는데 이번에는 개발자나 IT 업계 밖에서도 크게 논란이 됐습니다. R1 공개 며칠 전 트럼프 대통령이 샘 올트먼과 함께 스타게이트를 발표하면서 AI 투자에 관심이 쏠려 있던 와중이었기 때문에 더 주목받았다는 분석입니다.

개인정보가 걱정된다면 로컬 실행

DeepSeek 웹사이트에서 검색하면 검색 기록 같은 개인 정보가 중국 정부에 의해 활용될 수 있다는 우려가 있으므로 주의가 필요합니다. 우회 방법은 R1 모델을 로컬에 설치하는 것입니다. Ollama라는 커맨드라인 도구를 쓰면 맥북에서도 LLM을 쉽게 실행할 수 있고, Ollama와 모델을 결합한 AnythingLLM 같은 데스크톱 앱을 설치하면 UI로도 쓸 수 있습니다. 이런 프로그램은 많으니 취향에 맞게 고르면 됩니다.

다만 R1은 파라미터 수에 따라 용량이 크게 달라집니다. 벤치마크 수치는 671B 모델 기준이고, 이 모델은 약 404GB라 개인 컴퓨터에 설치하기는 현실적으로 어렵습니다. 로컬 실행 성능은 결국 컴퓨터 사양을 탑니다. Cursor 같은 에디터에서 API 키를 발급받아 DeepSeek 모델을 쓰는 방법도 있습니다. 단테는 유명하다는 이유만으로 굳이 DeepSeek를 써야 할 필요는 없다는 의견도 덧붙였습니다.

정리

  • DeepSeek R1은 OpenAI o1과 벤치마크에서 대등하거나 일부(특히 수학)에서 앞서면서 무료로 공개돼 화제가 됐습니다.
  • 성능이 제한된 H800으로 적은 비용에 학습했다는 점과, API 출력 토큰 비용이 o1의 27분의 1이라는 점이 핵심이었습니다.
  • 엔비디아 주가 하락은 GPU 수요와 AI 기업 거품에 대한 우려, 그리고 스타게이트 발표 직후라는 시기가 겹친 결과로 볼 수 있습니다.
  • 개인정보가 걱정되면 Ollama 등으로 로컬 실행할 수 있지만, 671B 전체 모델(약 404GB)은 개인 PC에서 돌리기 어렵습니다.

영상: 유튜브에서 보기 · 정정 요청: dante@quokkalabs.net