Zum Inhalt springen
onsuggest
Anmelden
Artikel zh

DeepSeek-V4.1 模型结构(6):解码,DSpark

Quelle: Java不加糖's Blog ·

主干一次前向只出一个 token。DSpark 是挂在主干后面的三层草稿模块:一次前向给出 5 个位置的 logits,用一个秩 256 的 Markov head 补上草稿 token 之间的依赖,再由 confidence head 和调度器按当前负载决定送几个给主干验证。这一篇从投机解码的接受规则讲起,推出并行草稿为什么越往后越不准,调度器的阈值为什么随负载变,以及按置信度截断在什么条件下不改变输出分布。

Tastaturkürzel

Vorherige Entdeckung
←P
Nächste Entdeckung
→N
Mögen
L
Nicht für mich
X
Speichern
S
Diese Hilfe anzeigen
?
Schließen
Esc

Die Kürzel funktionieren auf der Entdeckungsseite.