用直觉解释模型原理
模块 2 作业:用直觉解释模型原理
背景
对应学习目标:用直觉解释 Attention 和 Transformer;理解预训练、指令微调、偏好优化的区别;理解推理参数如何影响输出。
这个作业检验你能不能"用人话讲原理"——这是理解 LLM 最重要的一课。
任务
- 解释 Attention:用生活类比(如"词与词之间互相看、互相参考")解释 Self-Attention 解决了什么问题。必须写明类比的边界(类比哪里成立、哪里不成立)。
- 区分训练三步:分别用一句话 + 一个例子说明预训练、指令微调、偏好优化各自让模型获得什么能力。
- 解释 Temperature:说明 Temperature 高与低分别带来什么输出差异,并说明"Temperature 越高越有创作力"这个说法哪里对、哪里误导。
交付物
three-explanations.md:三部分解释,每部分:直觉类比 + 机制要点 + 类比边界。
评分 Rubric
| 维度 | 优秀 | 合格 | 需改进 |
|---|---|---|---|
| 类比质量 | 类比贴切且说明边界 | 类比基本合理 | 类比牵强或冒充机制 |
| 训练三步 | 三步能力来源区分清楚 | 主要区别正确 | 混淆 |
| 参数理解 | Temperature 影响解释准确 | 基本方向正确 | 有事实错误 |
建议用时
90 分钟。