下面是目前主流 大语言模型 API 的付费情况总览：

🧠 一、主要大语言模型 API：是否付费对比

提供方	模型	是否免费	限制 / 说明
OpenAI	GPT-3.5 / GPT-4 / GPT-4o	❌ 付费为主	有免费额度（如 ChatGPT 免费版），API 调用大多需付费
Anthropic	Claude 2 / Claude 3	❌ 付费为主	API 使用需订阅（如通过 Amazon Bedrock / Claude 官网）
Google	Gemini Pro / 1.5	✅（有限）/ ❌	有免费层（限速），API 商业化使用需付费
Meta	LLaMA 2 / LLaMA 3	✅ 开源免费	模型本身免费，但托管/推理费用另计（如用 AWS/GCP）
Mistral	Mistral / Mixtral	✅ 开源免费	模型开放，API 接入商（如 HuggingFace）可能收费
Cohere	Command R	❌ 付费为主	提供免费额度，API 商业化收费
Open-Source 自托管	LLaMA / Mistral / RWKV 等	✅ 免费	模型和API都可自己部署，零成本但需计算资源
Hugging Face	Transformers / Inference API	✅ / ❌	免费模型下载，推理API免费有调用限制，商用或大流量需订阅

💰 二、典型付费 API 示例

1. OpenAI

curl https://api.openai.com/v1/chat/completions \-H "Authorization: Bearer YOUR_API_KEY" \-d '{"model": "gpt-4","messages": [{"role": "user", "content": "你好"}]
}'

GPT-4o 单次调用价格（截至 2025）：$0.005-$0.01 / 1K tokens
免费额度：ChatGPT（免费版使用 GPT-3.5）

2. Google Gemini API

免费开发计划有速率和配额限制
商业级调用定价：
- Gemini 1.5 Flash：$0.000125/token（输入）
- Gemini 1.5 Pro：$0.0005/token（输入）

3. Anthropic Claude

API 接入通过官网或 Amazon Bedrock，价格与 OpenAI 类似
Claude 3 Opus 比 GPT-4 更强但更贵，约 $0.03/token（输出）

🆓 三、免费可用的开源 LLM 模型（推荐）

模型	特点	推荐部署方式
LLaMA 2 / 3	Meta 出品，效果强	使用 `text-generation-webui` 或 HuggingFace
Mistral / Mixtral	高性价比，小模型快	Docker 部署或 HuggingFace Spaces
Yi / InternLM / Qwen	中文效果优秀	自建推理服务（如 `vLLM`, `FastChat`）

🧩 总结：什么是“付费”的？

✅ 模型是开源的 ≠ API 是免费的
✅ 如果你自己部署模型，本地使用 0 成本
❌ 如果调用别人的 API 云服务（OpenAI、Claude、Gemini），则通常需要 按 token 或调用次数付费

如何用免费的大语言模型开发项目，一些 部署方法 或 API 替代方案（例如 vLLM + Hugging Face 模型），搭建开源模型 API ？

好的，我们来一步步搭建一个 免费且功能强大的大语言模型 API 接口，你可以用来替代 OpenAI 或其他付费服务。本方案基于开源模型（如 LLaMA、Mistral、Qwen）+ 高性能推理引擎 vLLM，在 Linux 上部署。

✅ 一、系统前提

操作系统：Linux (推荐 Ubuntu 20.04/22.04)
Python 版本：>=3.8
显卡支持：NVIDIA GPU + CUDA 11+（可选，CPU 也能运行但较慢）
推荐显卡：至少 8GB 显存（如 RTX 3060 以上）

🚀 二、安装 vLLM 并部署模型 API

1️⃣ 安装 Python 环境

sudo apt update
sudo apt install python3-pip python3-venv git -y
python3 -m venv llm-env
source llm-env/bin/activate

2️⃣ 安装 vLLM

pip install --upgrade pip
pip install vllm

3️⃣ 下载开源大语言模型（如 Qwen 1.5, Mistral, LLaMA3）

以阿里巴巴的中文模型 Qwen1.5-7B-Chat 为例：

# 需要先登录 huggingface
huggingface-cli login# 运行 API 接口（模型会自动下载）
python3 -m vllm.entrypoints.openai.api_server \--model Qwen/Qwen1.5-7B-Chat \--port 8000

🔁 可替换为任何 HuggingFace 上支持的模型，如：

mistralai/Mistral-7B-Instruct-v0.2

meta-llama/Meta-Llama-3-8B-Instruct

baichuan-inc/Baichuan2-7B-Chat

🔌 三、模拟 OpenAI API 调用方式（兼容 `openai.ChatCompletion.create()`）

你现在可以像这样调用自己的 LLM API：

import openaiopenai.api_key = "EMPTY"  # 不需要真实密钥
openai.api_base = "http://localhost:8000/v1"response = openai.ChatCompletion.create(model="Qwen/Qwen1.5-7B-Chat",messages=[{"role": "user", "content": "你好，请写一首唐诗。"}]
)
print(response['choices'][0]['message']['content'])

📦 四、支持模型列表推荐

模型名称	平台	特点
`Qwen1.5-7B-Chat`	HuggingFace	中文强、速度快
`mistralai/Mistral-7B-Instruct-v0.2`	HuggingFace	英文强、轻量级
`meta-llama/Meta-Llama-3-8B-Instruct`	Meta	英文通用最优
`THUDM/chatglm3-6b`	中文推荐	低显卡也能跑