面向企业级规模的开源模型推理服务

产品总结

Nebius AI Studio（官方推理页以 Nebius Token Factory 为题）是面向企业级规模的模型推理服务，页面主线是「从开源模型到受治理的生产环境」。它提供 OpenAI 兼容接口：把常用客户端的 base_url 指向 api.tokenfactory.nebius.com 并填入 API Key 即可调用，覆盖文本、代码与视觉模型，并附带生产级 SLA。官方称平台提供 60+ 个模型，范围包括 LLM、视觉、推理与嵌入，并会按月扩充，页面上举出的例子有 Qwen3 系列与嵌入模型 Qwen3-Embedding-8B，另有护栏用途的模型。\n\n生产能力方面，官方把推理描述为「在专属端点上部署模型，亚秒级目标与 99.9% 可用性」，并把容量与定价写成一条升级路径：从共享访问扩展到带 99.9% SLA 的专属端点，同时提供透明的每 token 价格与生产用量的批量折扣。后训练被描述为「精简流程，把开源模型适配到你的数据并一键部署」，也就是微调结果可直接成为端点，省掉在训练平台与推理平台之间搬运权重与适配环境的步骤。嵌入与护栏与主推理同栈，做检索增强的团队可以用一个账号解决生成、检索与安全过滤。\n\nNebius 本身也是云厂商，因此除推理外还提供 GPU 算力：官方价格页按 GPU 小时列出多档，区分「抢占式」与「按需」两列，另有按小时的存储与网络类单价，并给出若干起价档位。对同时需要推理 API 与训练/批处理算力的团队，这种组合能让训练、批处理与在线推理在同一账户内结算，减少跨云流量与账单拼接；代价是重资产云业务的容量与区域可用性需要按当期页面确认。\n\n使用前需要注意：推理价格按 token 透明列出，但预算仍要按自身输入输出比例与缓存策略折算，并确认生产量级是否触发批量折扣；算力侧抢占式与按需差价明显，可中断任务更适合放抢占档，同时要接受被回收的风险；专属端点、SLA 与批量折扣属于合同级条款，公开页面只给起点，最终单价与承诺需商务确认；模型目录与价格更新较快，迁移前应核对目标模型与参数差异；不同类别模型（生成、嵌入、护栏）的计费单位可能不同，需要分类估算。整体而言，它适合需要企业级推理承诺、并把训练与推理尽量放在同一家供应商的团队。

产品类型

模型推理云与 GPU 算力

支持平台

OpenAI 兼容 API / 共享端点 / 专属端点 / 多模态与嵌入模型 / 后训练（微调） / 护栏与嵌入 / Batch 推理 / GPU 算力

资费模式

推理按 token 透明计价，并有生产用量的批量折扣；GPU 侧按每小时列价，区分抢占式与按需两类，官方页面还给出多档起价。