从 LLaMA 到 DeepSeek

连载中 · 共 2 篇 · 在 LLaMA 骨架上,看 DeepSeek 换了哪些零件

  1. 01MLA:多头潜在注意力(上)
  2. 02解耦 RoPE(MLA 下)

配套互动:在矩阵里一格一格看 MLA →

← 查看全部系列