플릿 목록
2026년 10월 25일 갱신
이 페이지는 시간제 이용약관(제1.1조, 제8.2조)과 2년 예약 플릿 서비스 계약서(정의 및 제10.1조)가 가리키는 플릿 목록이자 이용 가능한 모델 목록입니다. 각 플릿의 요율은 그 플릿의 1시간이 소비하는 시간 수입니다. 영문판(fleets.html)과 같은 내용이며, 서로 다르면 국문판이 우선합니다.
약관은 검토용으로 공개되어 있으며 아직 효력이 없습니다. 플릿시간 판매는 2026년 12월 1일에 시작되며, 그 전에는 누구도 구매하거나 결제할 수 없습니다.
플릿
| 플릿 | 장비 | 위치 | 상태 | 요율 | 모델 |
|---|---|---|---|---|---|
| 플릿 1 | NVIDIA DGX Spark(GB10) 16대, 각 128GB 메모리, 100 Gb/s RDMA 스위치와 노드 쌍 직결 링크로 연결 | 서울 | 가동 중 | 1 | 아래 모델 |
| 플릿 2 | Apple Mac Studio(M5 Ultra) 8대, 각 256GB, 1.2 TB/s: 합계 2TB, 9.6 TB/s로 플릿 1 메모리 대역폭의 2.2배 | 서울 | 구축 중 | 1 | 플릿을 열 때 여기에 게시 |
| 플릿 3 | NVIDIA DGX Spark(GB10) 16대 | 서울 | 구축 중 | 1 | 플릿을 열 때 여기에 게시 |
저희 시스템은 플릿별 상태와 구간별 예약 가능 시간을 담은 실시간 가용 용량을 https://sparkpipe.ai/availability.txt에 공개하며, 최소 30초마다 갱신합니다.
플릿 1의 모델
플릿 1에 설치된 모든 모델입니다. 제공 모델은 어떤 예약에서든 고를 수 있고, 2년 계약의 선택 모델로 지정할 수 있습니다. 핵심 모델은 계속 성능을 개선하며, 검증 모델은 릴리스 검증을 통과해 표의 속도로 제공됩니다. 검증 중 모델은 서비스 중이고 채팅 점검을 통과했으며, 출력 토큰을 게시자의 참조 구현과 비교하는 중입니다.
| 모델 | 게시자 | 라이선스 | 컨텍스트 창 | 디코드, 단일 요청 | 프리필, 8K 프롬프트 | 분류 | 제공 여부 |
|---|---|---|---|---|---|---|---|
| Kimi K3 kimi-k3 | Moonshot AI | Kimi K3 License | 1M | 16.2 tok/s | 590 tok/s | 핵심 | 제공 |
| GLM 5.3 glm-5.3 | Z.AI | GLM-5.3 License | 1M | 28.9 tok/s | 1,162 tok/s | 핵심 | 제공 |
| GLM 5.3 Flash glm-5.3-flash | Z.AI | MIT | 128K | 55.0 tok/s | 876 tok/s | 핵심 | 제공 |
| DeepSeek V4.1 Flash deepseek-v4.1-flash | DeepSeek | MIT | 1M | 42.5 ¹ tok/s | 1,290 ¹ tok/s | 핵심 | 제공 |
| K-EXAONE 2.0 k-exaone-2.0 | LG AI연구원 | Apache 2.0 | 256K | 27.3 ³ ⁴ tok/s | 324 ³ tok/s | 검증 중 | 제공 |
| A.X K2 a.x-k2 | SK텔레콤 | Apache 2.0 | 256K | 23.8 ³ ⁴ tok/s | 1,274 ³ tok/s | 검증 중 | 제공 |
| Solar Open 2 solar-open-2 | 업스테이지 | Upstage Solar License | 256K | 61.2 ³ ⁴ tok/s | 1,025 ³ tok/s | 검증 중 | 제공 |
| MiMo V2.6 Pro mimo-v2.6-pro | Xiaomi | MIT | 32K | 19.0 ² tok/s | 55 ² tok/s | 검증 | 제공 |
| MiMo V2.6 Flash mimo-v2.6-flash | Xiaomi | MIT | 32K | 40.9 ² tok/s | 157 ² tok/s | 검증 | 제공 |
| Gemma 4 31B gemma-4-31b | Apache 2.0 | 32K | 34.4 tok/s | 834 tok/s | 검증 | 제공, 텍스트만 | |
| Gemma 4 26B A4B gemma-4-26b-a4b | Apache 2.0 | 256K | 89.5 tok/s | 1,848 tok/s | 검증 | 제공, 텍스트만 | |
| Ling 3.0 Flash ling-3.0-flash | inclusionAI | MIT | 256K | 80.4 tok/s | 1,514 tok/s | 검증 | 제공 |
| Ling 3.0 Flash Finance ling-3.0-flash-fin | inclusionAI | MIT | 256K | 79.2 tok/s | 1,550 tok/s | 검증 | 제공 |
| Laguna S 2.1 laguna-s-2.1 | Poolside | OpenMDW 1.1 | 32K | 51.0 tok/s | 773 tok/s | 검증 | 제공 |
| Muse Glimmer 30B muse-glimmer-30b | meta-models | Apache 2.0 | 128K | 37.9 tok/s | 1,186 tok/s | 검증 | 제공 |
| Hunyuan Hy4 Preview hy4-preview | Tencent | Apache 2.0 | 32K | 14.2 tok/s | 53 tok/s | 검증 | 제공 |
| Qwen 3.8 27B qwen3.8-27b | Qwen | Apache 2.0 | 256K | 57.4 tok/s | 1,852 tok/s | 검증 | 제공 |
| Qwen 3.8 Flash qwen3.8-flash | Qwen | Qwen Community License 1.0 | 256K | 45.0 tok/s | 358 tok/s | 검증 | 제공하지 않음 |
| Qwen 3.8 Max qwen3.8-max | Qwen | Qwen3.8-Max License | 32K | 10.4 tok/s | 35 tok/s | 검증 | 제공 |
컨텍스트 창은 제공 기준입니다. 디코드는 추측 디코딩 없는 단일 요청으로, 2026-10-18에 7~8K 토큰 프롬프트로 측정했습니다. 방법과 근거: PERFORMANCE_STATUS.md(영문).
¹ DeepSeek V4.1 Flash는 2026-10-24에 1,047,883토큰 프롬프트로 측정했습니다. 디코드는 그 프롬프트 뒤의 단일 요청이고, 프리필은 그 프롬프트의 평균 속도입니다. ² 다른 작업이 모든 노드에서 CPU 코어 16개를 쓰는 동안 측정했으므로 하한값입니다. ³ 2026-10-26에 6,850~7,396토큰 프롬프트로 측정했습니다. ⁴ 추측 디코딩을 켜면 약 3,800토큰 파일에서 함수 하나의 이름만 바꿔 전체를 다시 쓰는 요청이 K-EXAONE 2.0에서 190.9 tok/s, A.X K2에서 298.0 tok/s, Solar Open 2에서 426.6 tok/s로 처리되며(프롬프트 프리필 포함), 출력은 추측 디코딩 없이 디코딩한 결과와 같습니다(2026-10-26).
Qwen 3.8 Flash는 제공하지 않습니다. 그 라이선스는 모델을 서비스로 제공하는 모든 사업에 Qwen과의 별도 계약을 요구하므로, 저희 회사 내부에서만 씁니다.
추측 디코딩(실측)
추측 디코딩은 요청 자체의 컨텍스트와 드래프트 모델에서 토큰 초안을 만들고, 모델이 한 번에 검증하므로 출력은 모델 자신의 것과 정확히 같습니다. 플릿 1에서 측정했으며, 따로 적지 않으면 단일 요청입니다.
| 모델 | 작업 | 일반 디코드 | 추측 디코딩 |
|---|---|---|---|
| Kimi K3 | 파일 전체 코드 재작성 | 15.3 tok/s | 126.4 tok/s(최고 140.6) |
| Kimi K3 | 검색·치환 편집 | 15.0 tok/s | 28.0 tok/s |
| Kimi K3 | 짧은 편집, 동시 요청 2개 | – | 일반의 1.3~1.4배 |
| GLM 5.3 | 파일 전체 코드 재작성 | 27.6 tok/s | 124.2 tok/s(프레임 제한 해제 시 232.9) |
| DeepSeek V4.1 Flash | 코드 편집 | – | 일반의 2.0배 |
| 전체 | 새로 쓰는 글 | – | 일반의 1.0~1.2배 |
근거: PERFORMANCE_STATUS.md(영문), 2026-10-15 ~ 2026-10-24.
대형 모델과 국산 모델의 가까운 미래 속도(추정치)
추정치는 저희 실측치와 하드웨어의 공개 수치로 계산한 예측이며, 측정값이 아닙니다. 달성할 수 있다고 보는 값만 싣고, 그 바탕이 되는 하드웨어나 소프트웨어가 가동되면 실측치로 바꿉니다. 실측으로 표시한 칸은 이미 실측치입니다.
| 모델 | 크기 | 디코드, 플릿 1 | 디코드, 플릿 2 | 플릿 2, 추측 디코딩 | 128K 프롬프트, 가속기 박스 4대 | 박스 8대 |
|---|---|---|---|---|---|---|
| Kimi K3 | 1.56 TB | 16.2 tok/s, 실측 | 23 tok/s | 35 tok/s | 37초 | 18초 |
| Qwen 3.8 Max, 4비트 빌드 | 1.37–1.48 TB | 10.4 tok/s, 실측 | – | – | 35초 | 17초 |
| K-EXAONE 2.0, LG | 1.50 TB | 27.3 tok/s, 실측 | – | – | 35초 | 18초 |
| A.X K2, SKT | 0.69 TB | 23.8 tok/s, 실측 | 33 tok/s | 49 tok/s | 16초 | 8초 |
M5 Ultra Mac Studio 한 대에서 실측(플릿 2의 장비, SparkPipe Metal 엔진, 2026-10-26): Qwen 3.8 27B를 원래 BF16 정밀도로 단일 요청 20.1 tok/s로 디코딩하며, 이는 Studio에서 실측한 1.14 TB/s 메모리 대역폭이 허용하는 22.3 tok/s의 90%입니다. 여러 요청이 가중치 읽기를 함께 사용하므로 동시 요청 2개에서 합계 39.0 tok/s, 8개 130, 16개 231, 32개 366, 64개 442 tok/s입니다. 프리필은 1K 토큰 프롬프트에서 1,429 tok/s, 8K에서 1,501 tok/s입니다.
100만 토큰 Kimi K3 프롬프트를 처음부터 처리하는 시간은 가속기 박스 4대로 약 17분, 8대로 9분으로 추정합니다. 플릿 1과 플릿 2를 합치면 4TB이고 플릿 3이 2TB를 더하므로, 공개된 정밀도로는 플릿 하나에 담기지 않는 모델도 두 플릿에 걸쳐 실행할 수 있습니다. FP8의 Qwen 3.8 Max(2.5TB)와 BF16의 Inkling(1.9TB)이 그렇습니다.
추정 방법:
- 디코드: 토큰 하나의 시간은 각 노드가 그 토큰에 쓰이는 가중치 중 자기 몫을 플릿 1에서 실측한 245 GB/s로 읽는 시간에, 그 읽기를 둘러싼 커널과 집합 통신의 고정 비용으로 레이어마다 0.44 ms를 더한 값입니다. Kimi K3는 0.44 ms, GLM 5.3은 0.31 ms로 실측됩니다. 지금의 디코드 시간은 대부분 메모리가 아니라 이 고정 비용이므로, 저희 작업으로 이 비용이 줄면 추정치도 올라갑니다. 플릿 2는 Mac Studio의 1.2 TB/s 중 90%와 같은 레이어당 비용으로 잡았으며, 50 Gb/s 링크와 10GbE로 연결된 8대 전체에 모델을 나눕니다. Qwen 3.8 Max의 10.4 tok/s는 아직 이 방식으로 설명되지 않아 플릿 2 추정치를 싣지 않았습니다. K-EXAONE 2.0의 플릿 2 추정치는 전문가(expert)를 노드에 고르게 나눈 뒤라 다시 계산하고 있습니다.
- 추측 디코딩은 에이전트 코딩 턴에서 짧은 편집의 실측치대로 일반 디코드의 1.5배로 잡았습니다. 파일 전체 재작성은 8.3배, 새 산문은 1.0~1.2배로 실측됩니다.
- 프리필 가속기는 RTX 5080 4장을 담은 박스로, 박스 안에서는 PCIe로 결과를 합치고 박스마다 100 Gb/s로 400 Gb/s 스위치를 거쳐 플릿에 연결됩니다. 긴 프롬프트마다 모델 가중치를 링크 속도의 85%로 박스에 한 번 흘려보내며(박스 4대 42.5 GB/s, 8대 85 GB/s), 카드는 밀집 연산 최대치의 40%(카드당 FP8 약 450 TFLOPS, BF16 225)로 프롬프트의 어텐션 비용까지 계산합니다. 약 2만 토큰보다 짧은 프롬프트는 플릿 자체의 프리필로 처리합니다.
- Qwen 3.8 Max는 공개된 FP8 정밀도(2.5TB)로는 플릿 하나의 2TB보다 큽니다. 이 행은 플릿 하나에 담기고 저희 정확도 A/B 검증을 통과하는 4비트 빌드(AMD MXFP4, Red Hat 또는 RadixArk의 NVFP4)를 가정합니다.
다음에 오는 모델
중국 외 게시자의 대형 오픈 모델로, 사업자에게 서비스로 제공할 수 있는 라이선스를 가진 모델입니다. 각 모델은 제공 전에 검증합니다.
| 모델 | 게시자 | 파라미터 | 크기 | 라이선스 | 비고 |
|---|---|---|---|---|---|
| Nemotron 3 Ultra | NVIDIA, 미국 | 550B, 활성 55B | 1.12 TB | OpenMDW 1.1 | NVIDIA의 최대 오픈 모델 |
| Mistral Large 3 | Mistral AI, 프랑스 | 675B, 활성 41B | 0.68 TB | Apache 2.0 | 유럽산 범용 모델 |
| Inkling | Thinking Machines, 미국 | 975B, 활성 41B | 1.91 TB | Apache 2.0 | 공개된 BF16 정밀도로는 두 플릿(4TB)에 걸쳐 실행하며, FP8 빌드라면 플릿 하나에 담깁니다 |
| Muse Spark Open | meta-models | 816B, 활성 42B | 1.64 TB | Muse 모델 라이선스 | 요청 시 접근 허가 |
모델 라이선스
각 모델은 게시자가 자체 라이선스로 공개한 오픈 웨이트 소프트웨어이며, 고객은 그 라이선스를 지켜야 합니다(시간제 이용약관 제8.1조, 계약서 제10.3조). 제공 모델의 조건은 다음과 같습니다.
- Kimi K3: 그룹 매출이 어느 12개월 동안이든 2,000만 달러를 넘는 모델 서비스 사업은 Moonshot AI와 별도 계약이 필요하며, 월간 활성 사용자가 1억 명을 넘거나 월 매출이 2,000만 달러를 넘는 상용 제품은 인터페이스에 "Kimi K3"를 표시해야 합니다.
- GLM 5.3: 그룹 매출이 어느 12개월 동안이든 100억 달러를 넘는 모델 서비스 사업은 상업적 이용 전에 Z.AI의 보안 심사를 통과해야 합니다.
- Qwen 3.8 Max: 그룹 매출이 어느 12개월 동안이든 5,000만 달러를 넘는 모델 서비스 또는 AI 업무 보조 사업은 Qwen의 별도 라이선스가 필요하며, 월간 활성 사용자가 1억 명을 넘거나 월 매출이 2,000만 달러를 넘는 상용 제품은 모델 이름을 표시해야 합니다.
- MIT(GLM 5.3 Flash, DeepSeek V4.1 Flash, MiMo V2.6, Ling 3.0)와 Apache 2.0(Gemma 4, Muse Glimmer 30B, Hunyuan Hy4 Preview, Qwen 3.8 27B, K-EXAONE 2.0, A.X K2): 이용 분야나 매출 조건이 없습니다.
- Upstage Solar License(Solar Open 2): Apache 2.0 조건에, Solar Open 2를 바탕으로 만들어 다른 사람에게 배포하는 모델은 "Solar" 브랜드를 밝혀야 한다는 규칙이 더해집니다. 이용 분야나 매출 조건은 없습니다.
- OpenMDW 1.1(Laguna S 2.1): 이용이나 출력물에 대한 조건이 없으며, 모델이 특허나 저작권을 침해한다고 소송을 제기한 자에 대해서는 라이선스가 종료됩니다.
Kimi K3, GLM-5.3, Qwen 3.8 Max 라이선스는 모든 이용이 관련 법령을 지키도록 요구합니다. 모든 라이선스는 가중치 사본에 게시자의 고지를 함께 두도록 요구하며, 고객은 저희 플릿에서 모델을 이용할 뿐 사본을 받지 않습니다.