← 返回主页 ~/growth/deepseek
02 Large Model / 观察与思考

模型不是神像。

我关注 DeepSeek,不只因为它能答题。更重要的是它把权重、技术报告和蒸馏模型放到台面上, 让一个普通学生也能在自己的机器上验证、拆解、再创作。对我来说,模型是工具,不是信仰。

DeepSeek / Open Weights / Distillation / Community
关注对象
DeepSeek 系列
关注重点
开放权重与蒸馏
观察范围
社区二创 / 鲸鱼娘
当前在读
技术报告 / 模型卡
01

我为什么盯住 DeepSeek

我不是模型从业者,只是一个使用者,外加物联网专业的学生。关注 DeepSeek 有三个很实际的原因: 它开放权重,我能本地跑;它公开技术报告,我能看工程取舍;它的社区二创足够活跃, 我能观察一个模型怎样进入真实使用场景。

笔记里我偶尔把 DeepSeek 简写成 DSH,这是我自己的书写习惯,不是官方缩写, 写在这里免得以后回看时混淆。

第一次在本地跑模型时,我最直观的感受不是“智能”,而是“资源换能力”: 上下文长度、显存、量化方式、生成速度,全都在互相挤。榜单上的一个分数, 落到我的机器上要换算成三个问题:能不能跑、跑得多快、错的时候有多离谱。

所以我看模型,不先问“它是不是最强”,而先问“它在什么任务上稳定地省我的时间”。

02

开放权重,不等于“什么都开源”

我读公开材料时,会把“开放”拆成几层,不混着说。一个模型可以公开权重, 但不公开训练数据;可以公开技术报告,但不公开完整工程细节;可以允许商用, 但仍然有再分发和使用条款。

把“开放”拆开看
层级 通常能看到什么 我能做什么 仍然缺什么
技术报告 方法、训练流程、评测结果 理解思路,复现部分实验 完整数据与全部工程细节
模型权重 可下载的参数文件 本地推理、量化、微调 原始训练数据与完整训练代码
蒸馏模型 更小参数的学生模型 低资源部署、横向对比 教师模型的全部能力
许可证 使用、修改、分发条款 判断商用与再分发边界 不等于无条件开放

以我读到的公开信息,DeepSeek-R1 的权重采用 MIT 许可发布,同时公开了 R1-Zero 这类训练思路,也有基于 Qwen、Llama 等底座蒸馏出的小模型。这个组合的意义不只是“免费”, 而是让更多人能验证:强能力不一定只能靠无限堆参数,也可以从强模型的行为里教给更小的模型。

当然,具体许可和可用范围要以官方模型卡、许可证原文为准,信息会更新,我不能拿旧笔记当永久结论。 这也是我后来养成的一个习惯:先看许可证,再谈“开源”。

开放带来的两面

好处是明显的:可验证、可迁移、可二次开发。坏处也存在:版本碎片化、 部署质量参差、许可证理解成本高,还有人把“权重可下载”直接说成“完全开源”。 我倾向于把话说准确:开放权重是一种很强的开放,但它仍然有边界。

Working definition 开放权重:我能拿到参数并在自己的环境里运行。完全开源:从数据、代码到训练流程都能被检查和重建。两者不是同义词。
03

蒸馏:把“过程”教给学生模型

蒸馏不是把大模型压缩一下那么简单。我目前的理解是:教师模型产生输出, 学生模型在自己的容量和训练目标下学习这些信号。信号可以是答案,也可以是推理过程, 甚至是词表上的概率分布。

distillation_pipeline.txtFlow
强模型 / 教师
  │  生成候选:答案、过程、评分
  ▼
筛选:正确性 / 格式 / 难度 / 多样性
  │
  ▼
学生模型:监督微调 / 偏好优化
  │
  ▼
分任务评测:推理 / 代码 / 中文 / 长文本
  │
  ▼
失败样本回流,重新配数据

真正难的不是跑通脚本,而是数据筛选和评测。把完整的思维链直接喂给学生, 它可能学到格式,不一定学到策略;只给最终答案,又缺少过程监督。 教师也会犯错,错误的过程如果被当成标准答案,学生只会学得更像。

所以我现在的判断是:蒸馏的收益来自“数据分布 + 教师信号 + 学生容量”的匹配, 不是一句“用 R1 蒸馏”就能解释。同一个教师模型,换一批数据、换一个学生规模, 结果可能完全不同。

这件事也反过来影响我学习

把别人的笔记抄一遍,不等于掌握。把别人的推理过程拆开,用自己的题重做, 再对照错误,才更接近蒸馏里“有效信号”的部分。 区别在于:模型是被训练,我是主动选择拿什么训练自己。

04

社区是模型的“翻译层”

模型发布后,社区会很快做出量化版、LoRA、提示词模板、Agent 工具链、UI 封装、 角色卡和各种评测。它们不一定发论文,但决定了模型怎么被真正用起来。

我观察二创时,会先看三个东西:

  1. 它是否解决了具体问题,还是只换了一层皮。
  2. 它是否标注来源、模型版本和许可证边界。
  3. 它是否形成可复用的工作流,而不是一次性演示。

鲸鱼娘圈层:把模型人格化之后

DeepSeek 的鲸鱼标识在社区里被二创成拟人角色,也就是大家说的“鲸鱼娘”。 我看到的不是官方设定,而是一种用户自发的翻译:把冷冰冰的模型变成一个可以对话、 可以玩梗、可以共享设定的对象。有人写性格说明,有人做图,有人做对话模板。

它的价值在于降低理解门槛,让技术讨论有一个共同语言。风险也很清楚: 把二创当官方、把角色设定当模型事实,或者用“可爱”替代对能力和边界的判断。 我的态度是:可以玩,但别混淆边界;可以喜欢,但别用二创替代真实评测。

我看到的社区现象
现象 我的观察 我的判断
角色卡 把模型能力包装成固定人格 降低使用门槛,但容易掩盖幻觉
量化版 让低配机器也能跑起来 速度与质量的交换要自己测
提示词模板 社区快速复用同一套输入 好模板是接口,不是魔法
鲸鱼娘二创 模型被赋予人格与圈层文化 可以当文化现象,不当官方事实
05

我怎么判断一个模型好不好用

我不信单一榜单,也不凭一次对话下结论。现在的做法很土,但对我有效: 固定一组自己的题,重复跑,记录失败方式。

  • 准备 10 个真实问题,覆盖代码、中文写作、事实核查和长文本。
  • 同一提示词跑三次,看结果稳不稳定,而不是只看最好的一次。
  • 记录延迟、内存占用和可接受的成本。
  • 专门看失败:编造、格式崩、拒答、越权、听不懂否定。
  • 读模型卡和许可证,不只看演示视频。

对我这种普通用户,最有价值的指标其实很朴素: 在我真正要做的事情上,它是否稳定地省时间。 如果每次都要我重新检查、重新纠正,那它再强也只是一个昂贵的玩具。

Personal rule 把模型当工具,不当神像。工具要称手,也要知道什么时候不该用。
06

下一阶段

接下来想做的几件事:

  • 在本地跑一个 7B 级蒸馏模型,记录量化前后的质量和速度差异。
  • 完整读一遍 R1 技术报告和模型卡,把不懂的术语单独列出来。
  • 搭一个自己的小型评测集,不追求全面,只覆盖我常做的事。
  • 继续观察社区二创的许可证边界,尤其是二次分发和商用。

我不需要证明哪个模型最强。我需要知道,在什么任务上,它为什么强、什么时候会坏。