斯坦福大学 Stanford 中英双语字幕 ⏱️ 02:34:51 720P HD

「中英双语字幕」讲透 ChatGPT 和 Claude 到底如何构建出来

斯坦福大学公开课 · 深度剖析大语言模型（LLM）从底层 Token 向量化、Attention 注意力计算到预训练与人类对齐的完整架构设计。

快捷控制:
倍速
下载视频 (751MB) 原帖
⌨️ 快捷键提示: 空格 播放/暂停 · ←/→ 快退快进 · ↑/↓ 音量 · F 全屏

核心洞察：从“魔法”到可拆解的工程原理

“学这些东西最有意思的地方，就是把‘模型内部大概有点魔法’，慢慢换成自己能顺着讲出来的过程。以后看新模型的介绍，至少知道它改的是哪一环，也能分清自己理解了什么、哪些地方还只是记住了名字。”

“预测下一个 token” 这句话，几乎所有人都耳熟能详。然而如果进一步追问细节，往往会遇到关键认知断层：

Q1. 文本离散化

文字到底怎么变成数字？为什么一个单词还要被拆开为多个子词 (Subwords / BPE)？

Q2. 注意力计算

Self-Attention 到底在算什么？Q、K、V 投影矩阵如何捕捉上下文相关性与语义权重？

Q3. 参数更新本质

海量文本预训练时，反向传播算法到底在改动神经元权重的哪一部分世界知识？

Q4. 对齐与后训练

从冷冰冰的概率生成器，到具备对话助手特质的 ChatGPT 与 Claude，SFT 与 RLHF 起了什么决定性作用？

视频与课程规格

  • 主讲机构 斯坦福大学 Stanford
  • 翻译整理 uudon (@uudonX)
  • 字幕类型 精校中英双语嵌入字幕
  • 完整时长 2小时 34分 51秒
  • 视频尺寸 1280 × 720 (720P)
  • 本地存储大小 751.18 MB
  • 流媒体协议 HTTP 206 Byte-Range
💡 本视频已离线缓存至本站高速服务器，支持无等待即时拖动与全平台浏览器无损流式播放。