기본 콘텐츠로 건너뛰기

Together AI Pricing: Credits, Rates and Limits

Summary: Together AI is a prepaid inference and training platform: you buy credits, then spend them on serverless tokens, dedicated GPUs, fine-tuning, and related services. There is no free trial as of 2026-11-06. Official docs set a $15 first credit purchase (then $5 top-ups); a support KB article still says a flat $5 minimum — both are quoted below. This post maps the credit rules, product lanes, sample serverless rates, and the limits that matter when you compare Together with other inference APIs.

What Together AI sells (and how billing works)

Together AI positions itself as an open-source-model cloud: serverless chat and multimodal inference, provisioned throughput, dedicated endpoints, GPU clusters, sandboxes, post-training, and fine-tuning. The public pricing page at together.ai/pricing lists per-model serverless rates (per 1M tokens for chat), per-GPU-hour rates for dedicated inference and clusters, and per-1M-token fine-tuning prices with minimum charges.

Billing itself is documented under Credits. Credits are the prepaid unit for API requests, dedicated inference, fine-tuning, evaluations, and other Together services. The platform is fully prepaid for non-contract accounts: you need a positive balance before calls succeed, and API access is suspended when the balance hits zero. Card purchases usually land in moments; ACH (U.S. bank) purchases clear in about 1–3 business days and can go up to $50,000 per transaction ($100,000 for Scale/Enterprise contracts per the payment-methods docs).

Official screenshots of the pricing page, credits docs, homepage, and free-trial KB are attached at the end of this post.

No free trial — and the $15 vs $5 purchase conflict

Both the live Credits docs and the Knowledge Base agree on one point: Together AI does not currently offer free trials.

  • docs.together.ai Credits (authoritative product docs, verified 2026-11-06): “Access to the Together platform requires a minimum $15 credit purchase.” Under Buy credits, the same page clarifies: minimum is $15 for your organization’s first purchase and $5 after that. It also notes that free credits (if any appear on a balance) are not enough for platform access — purchased credits at that minimum are required.
  • support.together.ai KB “Does Together AI offer a free trial?” (last updated ~5 months before this check): “Access to the Together platform requires a minimum $5 credit purchase.” It does not split first vs subsequent purchases.

For budgeting, treat the live Credits docs as the rule you should plan against ($15 in, then $5 top-ups). Mention the KB’s flat $5 wording so you are not surprised if an older FAQ or UI copy still says $5 only — re-check Billing settings before you buy.

Prepaid credits do not currently expire per the Credits docs. Auto-recharge can top up when the balance falls below a threshold you set, but only when a credit/debit card is the default payment method. Setting ACH as default turns auto-recharge off automatically.

Product lanes compared

Use this table as a map of Together’s own product lines — not a competitor bake-off. Numbers below are from together.ai/pricing and the dedicated-endpoints pricing docs on 2026-11-06.

Capability Serverless Inference Dedicated Endpoints Fine-tuning
How you pay Per token (and modality-specific units for image/audio/video). Credits debit as you call the API. Per ready GPU replica, billed by the minute while serving (not per token). On-demand H100 listed at $5.49/GPU-hour; B200 at $8.99/GPU-hour; reserved via sales. Per 1M tokens in the training (× epochs) and optional eval sets, with a per-job minimum charge that depends on the model (examples on the pricing page start around $4 and go up to $60+ for large models).
Entry / balance gate Positive prepaid balance required; docs: first purchase $15, later $5. No free trial. Same credit balance; you need enough balance to cover creating/running the deployment. Same; enough balance to cover the job (including the minimum).
Rate / capacity limits Docs: most users hit no hard rate limit; under load you may see 429 or 503. Best-effort TPS/TTFT. Batch API: up to 50% lower cost for async work. US-only endpoint us-api.together.ai: 1.25× standard token rates for listed models. No hard per-token rate limit like serverless; cost scales with ready replicas. GPU quota can still return 429 if you over-request replicas. Job-based; billed for tokens processed, subject to the model’s minimum charge.
Best fit Prototyping, variable or bursty traffic, many open models without owning GPUs. Steady high throughput, custom models, predictable latency; stop or scale-to-zero when idle to cut spend. LoRA or full fine-tunes (SFT / DPO listed on pricing) when you need a production-tuned open model.
Sample chat rates (per 1M tokens) Examples from the Chat table: GLM-5.3-Flash $0.15 / $0.50 in/out; gpt-oss-120B $0.15 / $0.60; Llama 3 8B Instruct Lite $0.14 / $0.14; Kimi K3 $3.00 / $15.00 (cached input lower). Always re-check the live table — model lists move. n/a (hardware-hour, not token). Examples from pricing: Llama 3.1 8B SFT $0.34 / DPO $0.84 (min $4); Llama 3.3 70B SFT $2.03 / DPO $5.08 (min $4); larger MoE/frontier rows list higher rates and higher mins.

Provisioned Throughput (PTUs) sits between serverless and dedicated: you reserve capacity in throughput units with an estimator on the pricing page. GPU Clusters list separate on-demand and reserved hourly rates (for example H100 on-demand $3.99/GPU-hour on the clusters table — distinct from the dedicated-inference H100 on-demand $5.49). Do not mix those two tables when you estimate a bill.

Serverless sample rates and what “$0 model” still means

The Chat tab on the pricing page shows Input / Output (and often cached input) per 1M tokens. A few verified rows from 2026-11-06:

  • GLM-5.3-Flash — $0.15 input ($0.03 cached) / $0.50 output
  • MiniMax M3.1 Flash — $0.15 input ($0.015 cached) / $0.60 output
  • Qwen3.5 9B — $0.17 / $0.25
  • gpt-oss-120B — $0.15 / $0.60
  • Llama 3 8B Instruct Lite — $0.14 / $0.14
  • Kimi K3 — $3.00 input ($0.30 cached) / $15.00 output
  • Ternary Bonsai 27B — $0.00 / $0.00 on the table; Tev1 4B Experimental lists $0.04 input and Free output

Even when a row shows $0 or Free output, the Credits docs still require a purchased credit balance to use the platform. A $0 listed rate is not a free-trial account. Image, audio, video, and transcription tabs use different units (per image, per video, per audio minute, per 1M characters) — use the matching tab, not the chat token table.

If you need U.S.-only processing for supported models, point the client at https://us-api.together.ai/v1 and budget 1.25× the standard serverless rates. For non-interactive volume, the Batch API can cut cost by up to 50% versus real-time serverless on supported workloads.

Spend controls, cut-offs, and common API errors

From Spend controls and Error codes:

  • Hard cut-off at $0 — prepaid accounts lose API access at zero balance; access resumes after you add credits. Metering has a short delay, so a little usage can still arrive after $0 — you remain responsible for that usage.
  • 402 Payment Required — balance at the spend cut-off, or the model requires a positive balance. Add credits; if you already paid, wait up to about 5 minutes for the balance to update.
  • 401 — missing/invalid API key. 403 — model or feature blocked (message names the reason). 429 — throttle or reduce bursts on serverless, or lower GPU replica requests on dedicated. 503 / 529 — back off and retry.
  • Organization is the billing boundary: projects share one credit balance. Auto-recharge off/on affects the whole org. Per-project spend budgets are documented as coming soon — not available to configure yet.

For another prepaid / free-tier inference comparison on this blog, see Groq API Free Tier: Rate Limits, Costs and When to Upgrade and OpenRouter Free Models: Limits, Fees and When to Pay. If credit and auth errors look like provider routing issues, Hugging Face Inference Errors Fixed: 401, Credits, Providers covers a related pattern.

Editor's note

Who this is for: teams comparing open-model inference APIs who can fund a small prepaid balance and want one vendor spanning serverless, dedicated GPUs, and fine-tuning. Especially useful if you already prototype on OpenAI-compatible clients (Together documents OpenAI-compatible endpoints).

Who this is not for: anyone expecting a no-card free tier or unlimited $0 playground. Together’s own docs say there is no free trial right now. Also a poor fit if you need hard per-project spend caps today — those budgets are still “coming soon.”

Gotchas and fixes from official docs:

  • Calls fail immediately after signup. Buy the documented first credit pack ($15 per Credits docs), wait for the balance to show, then retry. Do not re-submit a pending card purchase.
  • Balance looks positive but API still blocked. Credits docs: check whether the balance is free credits vs purchased credits — platform access needs the minimum purchased pack.
  • 402 after a top-up. Wait up to ~5 minutes for balance propagation (error-codes docs), confirm the default payment method, then retry.
  • Auto-recharge never fires. Default payment method must be a card, not ACH. Switching default to ACH disables auto-recharge.
  • 429 / 503 under load. Spread bursts, exponential backoff; for guaranteed capacity use provisioned throughput or dedicated endpoints.
  • Dedicated bill higher than expected. You pay for ready replicas by the minute. Scale to zero / stop idle deployments; cold-start and non-ready time is not billed per DMI pricing docs.

FAQ

Q: Does Together AI have a free tier or free trial?
A: No. As of 2026-11-06 both the Credits docs and the support KB state that Together does not currently offer free trials. You need a prepaid credit purchase before API use. Some model rows may show $0 token prices, but that is not the same as a free account.

Q: Is the minimum purchase $5 or $15?
A: The live Credits documentation says $15 for the organization’s first purchase and $5 afterward. The Knowledge Base free-trial article still says a flat $5 minimum. Prefer the Credits docs when you budget, and confirm the amount shown in Billing → Add credits before you pay.

Q: Do unused Together credits expire?
A: The Credits docs say prepaid balance credits do not currently have an expiration date. Credits bought after an invoice is generated cannot clear past-due invoice balances — those must be paid separately.

Start with a small purchased balance, pick a cheap Flash-class serverless model for smoke tests, turn on auto-recharge only after you trust your traffic shape, and move to dedicated or provisioned capacity when 429s or latency SLAs force the issue. Re-check together.ai/pricing and billing credits before you lock a production budget — model rows and purchase floors change.

Last verified: 2026-11-06

Sources: together.ai/pricing · together.ai · docs — Credits · docs — Spend controls · docs — Payment methods · docs — Rate limits · docs — Serverless overview · docs — Geo-specific inference · docs — Dedicated pricing · docs — Error codes · KB — free trial / billing

Images: official Together AI public pages (pricing, Credits docs, homepage, free-trial Knowledge Base), screenshots captured 2026-11-06 for this post.

Uploaded Image Uploaded Image Uploaded Image Uploaded Image

댓글

이 블로그의 인기 게시물

브루(Vrew) 요금제 정리: 무료 200크레딧으로 어디까지 쓸 수 있나

요약: 영상 자막 편집기 브루(Vrew)는 2026년 4월 22일부터 기능별 사용량 대신 '통합 크레딧' 하나로 요금을 매겨요. 무료 플랜은 매달 200크레딧이 들어오는데, 음성 분석(자동 자막)만 쓰면 최대 200분 분량이라 짧은 영상 몇 편은 충분하지만, 영상 초반의 Vrew 마크를 지우려면 유료 플랜이 필요해요. 이 글은 브루 공식 가격 페이지와 고객센터 공지를 2026년 10월 23일에 다시 확인해, 크레딧 계산법과 플랜 고르는 기준을 정리했어요. 목차 브루 요금 구조: 통합 크레딧이란 1크레딧으로 할 수 있는 일 무료 플랜으로 되는 것과 안 되는 것 유료 플랜 4종 비교표 월 구독·연 구독·기간 이용권, 무엇이 이득일까 상황별 추천: 학생·직장인·유튜버 크레딧이 모자랄 때: 사용 기록 지우개 업그레이드·환불 전에 알아둘 규칙 운영자 메모, 자주 묻는 질문 1. 브루 요금 구조: 통합 크레딧이란 예전 브루는 플랜마다 음성 분석 몇 분, AI 목소리 몇 자, 번역 몇 자처럼 기능별 한도를 따로 줬어요. 그런데 보이저엑스(브루 운영사)가 실제 이용 데이터를 보니 한두 가지 기능만 집중해서 쓰는 사람이 훨씬 많았다고 해요. 그래서 2026년 4월 22일 업데이트부터는 플랜마다 정해진 크레딧을 받고, 어떤 기능에 쓸지는 내가 정하는 방식으로 바뀌었어요. 플랜별 매달 지급량은 Free 200 · Light 2,000 · Standard 10,000 · Business 12,000크레딧 이에요. 공식 공지에 따르면 무료 사용자는 매달 1일에, 유료 사용자는 매월 결제일에 충전되고, 남은 크레딧은 다음 달로 넘어가지 않아요. 바뀐 뒤 무엇이 좋아졌나 공지에 나온 예시가 이해하기 쉬워요. Standard 플랜에서 AI 목소리만 쓰면 예전에는 최대 50만 자였지만, 지금은 1만 크레딧을 모두 AI 목소리에 몰아 쓸 수 있어 최대 100만 자가 돼요. 반대로 여러 기능을 골고루 쓰는 사람은 크레딧이 기능끼리 ...

에이닷 전화 vs 익시오: 통화 녹음·AI 요약, 내 통신사·폰에 맞는 앱 고르기

요약: 통화 녹음과 AI 요약을 쓰고 싶다면 먼저 내 통신사와 휴대폰 종류부터 확인해야 해요. LG유플러스 고객은 무료 앱 익시오, SKT 고객은 에이닷 전화가 가장 기능이 많고, 다른 통신사의 아이폰 사용자는 iOS에 들어 있는 기본 통화 녹음·전사 기능이 현실적인 선택이에요. 이 글은 2026-10-30에 SKT·LG유플러스·Apple 공식 페이지와 도움말을 직접 확인해 세 가지를 비교했어요. 왜 '앱 기능'보다 '내 조건'을 먼저 봐야 할까요 통화 요약 앱 비교 글을 보면 기능 목록부터 나열하는 경우가 많아요. 그런데 실제로 써 보려는 사람에게 가장 먼저 걸리는 건 기능이 아니라 이용 조건 이에요. 익시오는 LG유플러스 고객 전용이고, 에이닷 전화는 누구나 설치할 수 있지만 통역콜·baro 같은 기능은 SKT 고객에게만 열려 있어요. 아이폰은 운영체제 구조상 앱이 통화를 마음대로 녹음하기 어려워서, 통신사 앱이 안 되면 iOS 기본 기능에 기대야 해요. 그래서 이 글은 "어떤 앱이 제일 좋은가"보다 "내 통신사·내 폰에서 무엇을 쓸 수 있나" 순서로 정리했어요. 기능 차이는 그다음이에요. 한눈에 비교: 에이닷 전화 vs 익시오 vs 아이폰 기본 통화 녹음 구분 에이닷 전화 (SKT) 익시오 ixi-O (LG유플러스) 아이폰 기본 통화 녹음 (Apple) 누가 쓸 수 있나 통신사 구분 없이 앱 설치 가능. 단, 통역콜·baro·그룹통화 발신 등은 SKT 고객 전용 U+ 모바일 고객. 타 통신사, 만 14세 미만, 선불요금제 고객은 제한 (공식 사이트 FAQ상 알뜰폰 중 KB리브엠은 예외) 지원 국가·언어의 iPhone 사용자. 1명과 통화할 때만 녹음 가능 지원 OS·기기 Android 10 이상, iOS 16 이상 iOS 17 이상 iPhone 12 이상 / Android...

타입캐스트 vs 클로바더빙: 수익 나는 채널에 쓸 때 무료·유료 조건 비교

요약 타입캐스트와 클로바더빙은 둘 다 글만 입력하면 한국어 AI 목소리를 만들어 주는 서비스지만, 무료로 쓸 수 있는 범위가 꽤 다릅니다. 클로바더빙 무료는 매달 15,000자까지 쓸 수 있는 대신 수익이 생기는 채널에는 쓸 수 없고, 타입캐스트 무료는 처음에 주는 약 5분 분량의 다운로드로 끝나는 체험판에 가깝습니다. 광고 수익이 붙은 유튜브나 쇼핑몰 영상에 넣을 목소리라면 처음부터 유료 플랜 조건을 보고 고르는 편이 안전합니다. 왜 이 두 서비스를 같이 비교하나 쇼츠 내레이션, 수업 자료 더빙, 상품 소개 영상처럼 "내 목소리 대신 AI 목소리"가 필요할 때 한국 사용자들이 가장 많이 찾는 곳이 네오사피엔스의 타입캐스트 와 네이버의 클로바더빙 입니다. 기능 소개만 보면 비슷해 보이지만, 실제로 문제가 되는 건 음질보다 "이 목소리를 내 채널에 써도 되나" 입니다. 그래서 이 글은 기능 나열보다 무료 사용 범위, 출처 표기 의무, 유료 플랜 가격과 다운로드 한도를 중심으로 정리했습니다. 모든 수치는 2026년 10월 25일에 두 서비스의 공식 요금 페이지와 고객센터 도움말에서 직접 다시 확인한 내용입니다. 한눈에 보는 비교표 항목 타입캐스트 무료 타입캐스트 베이직 클로바더빙 Free 클로바더빙 Standard 월 요금 0원 9,900원 (연간 결제 시 10% 할인) 0원 19,900원 (네이버 클라우드 플랫폼에서 결제) 무료·포함 사용량 음성 생성·재생 무제한, 다운로드는 최초 3,000크레딧(약 5분) 1회 지급 월 30,000크레딧(약 60분) 월 15,000자, 다운로드 월 20회, 프로젝트 누적 5개 (매월 1일 갱신) 월 30,000자, 다운로드 월 40회, 프로젝트 누적 20개 쓸 수 있...