이 영상에서 단테는 OpenAI가 공개한 o3-mini의 특징을 5분 안에 훑어봅니다. 사용 가능 범위, 컨텍스트 윈도우, 요약된 사고 과정 공개, 추론 수준 설정, API 가격을 차례로 정리하고, 모델이 쏟아지는 시기에 개발자가 어떻게 대응하면 좋을지 의견을 덧붙였습니다. 영상 게시 시점(2025-02-01) 기준 내용이므로, 당시 OpenAI 추론 모델의 흐름을 정리해 보고 싶은 분께 맞습니다.
출시, 사용 범위, 성능
o3-mini는 12월 프리뷰에서 처음 공개된 뒤 정식 출시되어, ChatGPT 웹사이트에서 일반 사용자도 쓸 수 있게 되었습니다. 단테가 짚은 가장 큰 특징은 그때까지 OpenAI가 공개한 추론 모델 가운데 가장 경쟁력 있는 가격으로 제공된다는 점입니다.
ChatGPT 무료 사용자는 Reason 모드로만 쓸 수 있고, Plus, Team, Pro 사용자는 o3-mini와 o3-mini-high 두 가지를 웹에서 쓸 수 있습니다.
OpenAI는 o3-mini가 o1-mini보다 빠르게 응답하면서, 높은 추론 설정에서는 o1보다 정확한 답을 낸다고 설명합니다. 성능과 속도가 모두 좋아서 o1-mini를 대체할 수 있다고 공식적으로 밝혔습니다. 발표 자료의 벤치마크에서도 이전 추론 모델들보다 좋은 점수를 보였고, 이 벤치마크는 high 설정 기준입니다.
컨텍스트 윈도우는 모델이 한 번에 처리할 수 있는 최대 토큰 수입니다. 넓을수록 더 많은 내용을 기억하고 처리할 수 있어, 앞선 대화의 맥락을 유지하며 대화 품질이 높아집니다. o3-mini의 컨텍스트 윈도우는 20만 토큰으로, 12만 8,000 토큰인 o1-mini가 아니라 o1과 같은 수준입니다.
사고 과정의 요약 공개
체인 오브 소트(Chain of Thought)는 복잡한 작업을 중간 추론 단계로 나눠 해결하는 방식입니다. 질문에 바로 답하는 대신 논리적인 단계를 거쳐 최종 답에 도달하고, 그 과정을 보여 줄 수 있습니다.
DeepSeek은 이 사고 과정을 사용자에게 보여 주면서 인기를 얻었습니다. 사용자는 모델이 어떤 식으로 생각했기에 틀린 답을 냈는지 검증하고, 더 나은 프롬프트를 만드는 데 활용할 수 있었습니다. 단테는 이를 의식한 것인지는 알 수 없지만, o3-mini에서도 사고 과정의 간략화 버전을 공개하기 시작했다고 설명합니다. 다만 DeepSeek과 달리 요약본만 제공합니다.
OpenAI가 그동안 사고 과정을 공개하지 않은 이유로는, 경쟁사가 비슷한 방법으로 경쟁 모델을 개발하는 것을 막고, 허용되지 않은 정보를 열람하려는 시도를 막으려는 목적이 꼽힙니다. 이번에는 이 부분을 보완해 요약 형태로 공개한 것으로 보입니다.
추론 수준과 한계
o3-mini는 low, medium, high 세 가지 추론 수준을 설정할 수 있습니다. API에서는 reasoning_effort 옵션에 세 값 중 하나를 넣습니다.
- low: 속도와 경제적인 토큰 사용을 우선합니다.
- medium: 속도와 품질의 균형을 맞춥니다.
- high: 속도를 희생하고 높은 품질의 추론을 보장합니다.
아쉬운 점은 o1-mini처럼 비전 추론을 지원하지 않는다는 것입니다. 이미지를 올려 쓰려면 여전히 mini가 아닌 o1을 써야 합니다. 대신 수학, 과학, 코딩 같은 STEM 문제 풀이에 최적화되어 있고, o1-mini보다 응답이 빠르고 오류가 줄었다고 소개됩니다.
API 가격과 DeepSeek 비교
o3-mini의 API 가격은 기존 o1 계열보다 크게 내려갔습니다. 단테는 DeepSeek의 저렴한 API 가격을 의식한 인하로 봤습니다. 그래도 출력 토큰 가격은 DeepSeek의 거의 두 배 수준입니다. 가격표에 함께 나오는 Batch API는 24시간 안에 응답하는 방식으로 즉시 응답을 보장하지 않는 대신 50% 할인된 가격으로 쓸 수 있습니다. 즉시 답을 받을 수 있는 DeepSeek과 비교하면 여전히 가격 차이가 있다는 평가입니다. 성능 좋은 모델의 API 비용이 계속 내려가고 있어, 비싼 Pro 요금제 없이도 고성능 모델을 쓸 수 있는 방향으로 가고 있다고 단테는 전망했습니다.
모델이 쏟아질 때 개발자의 대응
마지막으로 단테는 기술 트렌드가 너무 빨리 바뀌어 지치는 현상을 언급합니다. 2024년에 모델이 대거 출시되었고, 기업 간 경쟁과 대규모 데이터 센터 투자로 모델은 계속 나올 수밖에 없는 시기입니다. AI 연구자가 아니라 개발자라면 모델이 나올 때마다 전부 공부하기보다, 현재 작업 범위에서 어떤 AI 도구를 어떻게 쓸지 익히는 데 집중하라고 조언합니다. 코딩이라면 Cursor나 Windsurf, 영상이라면 Sora, 이미지라면 Canva처럼 도구 사용법을 익혀 두면, 더 좋은 모델이 나와도 대화용 모델과 코딩 에이전트용 모델을 조합하는 식으로 자신만의 사용 패턴을 만들어 갈 수 있다는 것입니다.
정리
- o3-mini는 영상 게시 시점 기준 OpenAI 추론 모델 중 가장 경쟁력 있는 가격으로 나왔고, OpenAI는 o1-mini를 대체할 모델로 소개했습니다.
- 컨텍스트 윈도우는 20만 토큰으로 o1과 같고, 사고 과정은 요약본 형태로 공개됩니다.
reasoning_effort로 low, medium, high를 고를 수 있으며, 비전 입력은 지원하지 않습니다.- API 가격은 크게 내려갔지만 출력 토큰 기준으로 DeepSeek보다는 여전히 비쌉니다.
- 모델을 모두 따라가기보다 자기 작업에 쓰는 도구의 사용법을 익히는 것이 낫다는 것이 단테의 조언입니다.