Hetzner免费推理API:Qwen 35B 与 27B 白嫖

 

Hetzner 免费推理 API:两个开源模型先白嫖

德国主机商 Hetzner 悄悄上线了一个实验性推理 API:免费调用 Qwen3.6-35B-A3B-FP8 与 Qwen3.8-27B 两个开源模型,262K 上下文,OpenAI 兼容接口。官方文档写明,实验期内免费,用 OpenAI 兼容的 REST API 就能接,三个标准端点是 /v1/models、/v1/completions 与 /v1/chat/completions,基础地址是 https://inference.hetzner.com/api/v1。要绑一个 Hetzner 账号拿 Token,不用绑卡也能先跑起来。

Hetzner免费推理API:Qwen 35B 与 27B 白嫖

两个模型怎么选:35B 稀疏与 27B 稠密

Qwen3.6-35B-A3B-FP8 是 MoE 稀疏模型,总参数 35B、每次激活 3B,还带视觉能力,能看图;Qwen3.8-27B 是 27B 稠密模型,同样支持文本与图像。两个模型上下文都是 262144 Token,许可证都是 Apache 2.0。选哪个看任务:要速度与成本低,35B 的稀疏结构每次只激活 3B 参数更划算;要稳定输出,27B 的稠密结构更可预期。两个都是通义团队的开源权重,Hetzner 只提供算力与接口。

限流先看清:每分钟 10 次请求是硬顶

免费归免费,限流写得很清楚:每个 API Key 每 60 秒最多 400 万输入 Token、10 万输出 Token、10 次请求,超了返回 429。10 次请求每分钟的上限很紧,批量任务要自己排队,别一口气并发打爆。调用方式跟 OpenAI 一样,Python SDK 改个 base_url 就能用:client = OpenAI(base_url='https://inference.hetzner.com/api/v1', api_key='你的 Token'),再传 model='Qwen/Qwen3.6-35B-A3B-FP8'。curl 也能直接调,文档里给了完整示例。

免费期能干什么:先拿这三类用法试水

第一类是本地开发的免费后端:写应用、调提示词、跑测试,先用 Hetzner 的免费接口顶着,跑通再决定要不要上付费推理服务。第二类是长上下文任务:262K 上下文一次能塞几十万字,文档问答与代码库分析都够用。第三类是多模型对比:同样的提示词跑 Qwen3.6 与 Qwen3.8,看稀疏与稠密在自己的任务上差多少。实验期结束会提前邮件通知,到时再决定去留,现在先用起来。