Kaggle免费GPU:2 张 T4 每周 30 小时,V4-Pro 塞不进

 

帖子吹的旗舰模型,偏偏是唯一跑不起来的那个

刷到 这条 X 帖子 时,评论区全在喊「白嫖爽了」「旗舰模型随便跑」。我当场在 Kaggle Notebook 文档 里核对了一遍硬件参数:双 Tesla T4、单卡标称 16GB 显存(帖子说的 15GB)、每周 GPU 配额约 30 小时、单次会话最长 12 小时。再一看 DeepSeek-V4-Pro-0813 的配置——1.6T 总参数、49B 激活参数、官方部署示例直接上 4×GB300 或 B200 做张量并行 TP=8。这玩意儿连单张 H100(80GB)都装不下,指望两张 T4 共 30GB 显存跑起来?做梦都别醒太早。帖子点名的另外三个模型 Qwen3.5-9B、Qwen-Image-2.1、Wan2.2-TI2V-5B 才是这套硬件够得着的——但也得挑对版本。

Kaggle免费GPU:2 张 T4 每周 30 小时,V4-Pro 塞不进

两张 T4 到底啥水平:额度透明、显存刚够、闲置超时有坑

官方高效用卡文档 写得明明白白:每周约 30 小时 GPU 配额(按需分配,有时更高,每周重置,具体重置日以账号设置页显示为准),单次会话 GPU 最长 12 小时、TPU 9 小时,后端挂 4 核 CPU、29GB 内存,/kaggle/working 目录自动保存 20GB。但闲置超时两份文档对不上号:Notebook 文档写 20 分钟,高效用卡文档写 60 分钟。按最严的 20 分钟规划才不翻车——你去倒杯咖啡回来,实例没准就被回收了。显存方面,T4 单卡标称 16GB(帖子按 15GB 算),双卡合计约 30GB。跑 4-bit 量化的 9B/7B/5B 模型绰绰有余,30B 以上的稠密模型基本不用想,MoE 激活参数超 20B 也大概率 OOM。

领取门槛与隐形设置:手机验证、联网开关、数据怎么进

想薅这羊毛,先把账号绑手机号验证通过,否则 GPU 选项根本不显示。新建 Notebook 后,右侧面板 Accelerator 选 GPU T4 x2,再把 Internet 开关拨开——默认关网,不开你连 pip install 都拉不下来包。模型权重别想着 git clone 巨型仓库,走 Kaggle 侧边栏 Add Input → Models 搜官方托管的 Qwen/Qwen3.5-9B 之类,或者把量化好的 GGUF / Safetensors 传到 Dataset 再挂载,开卡前把东西备齐,别等卡跑起来再下载,那是在烧你宝贵的 30 小时。高峰期排队是常态,刷新几次「No GPU available」别急,换个时间段再来。滥用多开、挖矿、跑违规内容,封号快得像闪电,官方条款写得清清楚楚。

实战核心:三个真能跑的模型与最小可用命令

先装通用依赖,终端跑:

pip install -q transformers accelerate bitsandbytes diffusers peft sentencepiece

Qwen3.5-9B(9B 稠密、Apache 2.0、262K 上下文、4-bit 约 7GB 显存) 用 transformers 两行搞定:

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model = AutoModelForCausalLM.from_pretrained(
    'Qwen/Qwen3.5-9B',
    device_map='auto',
    load_in_4bit=True,
    torch_dtype=torch.bfloat16
)
tokenizer = AutoTokenizer.from_pretrained('Qwen/Qwen3.5-9B')
inputs = tokenizer('你好,介绍下你自己', return_tensors='pt').to(model.device)
print(tokenizer.decode(model.generate(**inputs, max_new_tokens=128)[0]))

Qwen-Image-2.1(7B 视觉生成、Qwen 研究许可仅限非商业、BF16 全量约 30GB——7B 视觉部分加 8B 文本编码器,单卡跑 BF16 不够,须开 CPU offload 或用 4-bit 量化版) 用 diffusers 骨架:

from diffusers import DiffusionPipeline
import torch
pipe = DiffusionPipeline.from_pretrained(
    'Qwen/Qwen-Image-2.1',
    torch_dtype=torch.bfloat16
).to('cuda')
image = pipe(prompt='一只在代码海洋里冲浪的猫', num_inference_steps=30, guidance_scale=4.0).images[0]
image.save('qwen_image.png')

Wan2.2-TI2V-5B(5B 视频生成、Apache 2.0,BF16 仅主模型约 10GB、加上 UMT5-XXL 文本编码器后单卡不够,须开 CPU offload 或用 GGUF 4-bit 量化版约 6GB) 同理 diffusers 调用:

from diffusers import WanPipeline
import torch
pipe = WanPipeline.from_pretrained(
    'Wan-AI/Wan2.2-TI2V-5B-Diffusers',
    torch_dtype=torch.bfloat16
).to('cuda')
pipe.enable_model_cpu_offload()  # 双 T4 必开
video = pipe(prompt='极光下的雪山', num_frames=81, guidance_scale=5.0).frames[0]

三个模型里,Qwen3.5-9B 的 4-bit 版能稳在单卡 15GB 以内;Qwen-Image-2.1 与 Wan2.2 跑 BF16 都须开 CPU offload 兜底,想省事直接上 GGUF 4-bit 量化版。双卡并行推理用 device_map='auto' 能把权重分摊到两张 T4 上,显存实在不够再开 CPU offload,不用自己写并行代码。存视频用 diffusers 自带的 export_to_video。

翻车现场:闲置超时、显存碎片、社区魔改版风险

⚠️ 闲置 20 分钟实例就回收:跑长视频或大批量推理,别只开着页面干等,交互会话闲置会被回收;长任务改用 Save & Run All 走后台批量跑,别指望 60 分钟宽限。
⚠️ 显存碎片化会炸:连续跑多个 pipeline 记得 del pipe; torch.cuda.empty_cache(); gc.collect(),不然第二发必 OOM。
⚠️ 「无审查/无审核」版本全是社区魔改:如 HauhauCS/Qwen3.5-9B-Uncensored、AtomicChat/Qwen-Image-2.1-Turbo-Uncensored-GGUF,非官方发布,权重来源不明、安全性未知,生产环境别碰,自己玩自行甄别风险。
⚠️ DeepSeek-V4-Pro 别想了:哪怕你搞 8-bit 量化、CPU 卸载、磁盘换存,激活参数 49B + KV Cache 依然远超 30GB 物理上限,硬上只有被 Kill 进程的份。

Colab 互补视角:额度透明度差异与双平台叠加

Kaggle 这波最大的良心是把「每周 30 小时」写进官方文档,白纸黑字摆着,不像 Colab 免费版从来不公布具体小时数,靠玩家众包统计才知道大概多少。两者互补关系很明显:Colab 适合交互式调试、前端可视化、临时起个 Gradio Demo;Kaggle 适合跑长任务、批量推理、训练微调,且输出目录 /kaggle/working 自动持久化 20GB,关机不丢数据。更绝的是实验性联动:如果你手里有 Colab Pro,绑定同一 Google 账号的 Kaggle 邮箱,每周能再加 15 小时 GPU 额度;Pro+ 用户直接加 30 小时。相当于双平台额度叠加,白嫖上限直接拉满。本站 11 月 8 日发的两篇 Colab 羊毛文侧重免费版生存技巧,这篇主攻 Kaggle 免费额度的实战落地,三篇配合阅读,免费算力拼图才算凑齐。