🟩 英伟达 NVIDIA NIM 免费大模型 API 完整指南

1平台是什么：NVIDIA NIM / build.nvidia.com

1.1 一句话定义

NVIDIA NIM（NVIDIA Inference Microservices，英伟达推理微服务）是英伟达在 build.nvidia.com 上提供的模型托管与推理服务。它把 100+ 个开源 / 开放权重模型（Llama、DeepSeek、Qwen、Nemotron、Mistral、GPT-OSS 等）部署在英伟达自己的 GPU 集群上，对外暴露一个 OpenAI 兼容 的 Chat Completions API。

你不用自己买卡、不用管推理优化，直接换 base_url 就能用上这些大模型——这正是它和 Groq、Cloudflare Workers AI 同属"免费算力"赛道的原因。

1.2 它解决什么痛点

• 零基础设施：不买 A100/H100 也能用前沿开源模型做原型。
• OpenAI 兼容：现有 OpenAI SDK 代码改一行 base_url 即可迁移，无需重写。
• 可平滑自托管：验证完模型后，拉同一个 NIM 容器跑在自己 GPU 上，API 完全一致，零代码改动。

2免费政策（关键数字与口径）

2.1 官方 FAQ 原话，几个关键数字

• 全部模型免费 prototype："All models on build.nvidia.com are free to prototype with."
• 限速约 40 RPM（每分钟请求数）：most models 上限 40 次/分钟，无按 token 计费（"no per-token billing"）。
• 不需要信用卡：注册 NVIDIA Developer Program 即可。
• 无每日 token 上限：区别于 Groq / Google 的免费档（它们有每日 token 封顶）。

2.2 注册前置

需 手机验证（一次性）。API Key 以 nvapi- 开头，约 56 字符，只显示一次，务必存好（走环境变量，别硬编码进代码）。

3怎么开始：注册到调用的 5 步

3.1 流程

1. 打开 build.nvidia.com，注册 NVIDIA Developer 账号（手机验证）。
2. 进 build.nvidia.com/settings/api-keys 生成 API Key，仅显示一次，存好。
3. 在 build.nvidia.com/models 按 "Free Endpoint" 筛选，每个模型页给出现成代码片段和准确 model ID。
4. 用 OpenAI SDK 改 base_url 即可（见第六章代码）。
5. 超限速 → 要么降速，要么下载 NIM 容器自建（第七章，API 完全一致）。

4模型清单：2026-08 在线代表

4.1 英伟达自研 Nemotron 3 系列（重点）

4.2 其他厂商开放权重模型

5限速与坑（必读）

• 40 RPM 是全局共享，不是每模型——并行调多个模型加起来不能超 40。
• 部分模型需额外 per-model-family 注册：调用返回 403 时，去该模型页点 "Try API" 注册该家族即可。
• 无 SLA、无生产保障：高峰时段延迟会抖，不要拿来做客户面产品。
• 不能微调：免费档只给推理，要定制模型只能自托管。
• 速率触发 429：加请求间延迟或减小批大小。

6接入代码：OpenAI 兼容一行切换

6.1 Python（OpenAI SDK）

from openai import OpenAI
client = OpenAI(
    base_url="https://integrate.api.nvidia.com/v1",
    api_key="nvapi-YOUR_KEY",   # 走环境变量，别硬编码
)
resp = client.chat.completions.create(
    model="minimax/minimax-m2.7",   # 换成任意 NIM 模型 ID
    messages=[{"role":"user","content":"用 Python 写个反转字符串的函数"}],
    max_tokens=512,
    stream=True,   # 兼容流式输出
)
for chunk in resp:
    print(chunk.choices[0].delta.content or "", end="")

6.2 curl

curl https://integrate.api.nvidia.com/v1/chat/completions \
  -H "Authorization: Bearer nvapi-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"minimax/minimax-m2.7","messages":[{"role":"user","content":"Hello"}]}'

7自托管选项：无限速的 NIM 容器

若免费档限速不够，可下载 NIM 容器跑在自己 GPU / 云（AWS、Azure、GCP、OCI、Brev）上，API 与云端完全一致，零代码改动：

# 拉取并运行（以 gpt-oss-120b 为例）
docker pull nvcr.io/nim/openai/gpt-oss-120b:latest
docker run -it --gpus all -p 8000:8000 nvcr.io/nim/openai/gpt-oss-120b:latest

# 调用本地端点，参数结构同云端
curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"openai/gpt-oss-120b","messages":[{"role":"user","content":"Hello"}]}'

8与其他免费平台对比

9跟你站点的关系：接进 dsh / Agent 路线

NIM 是 OpenAI 兼容端点，正好能当 dsh、Claude Code、Codex、Cline 等 Agent 框架的免费后端。等于给《AI Agent 学习路线》里"Agent 怎么低成本跑起来"补了一个真实可用的免费算力来源——尤其适合学生、个人开发者、初创做原型。

• 在 dsh 里把 NIM 当 OpenAI 兼容 provider，配 base_url=https://integrate.api.nvidia.com/v1 + nvapi- key，Agent 就能直接调 Nemotron / DeepSeek / Qwen 等。
• RAG 场景可用 nemotron-3-embed-1b 做向量化（与《什么是 CLI》里"工具入口"思路一致）。
• 闲时跑重任务（日报、周报、批量整理）用 DeepSeek V4-Flash 这类便宜模型，呼应《dsh 教程》的峰谷定价策略。