给大模子带来的计较效率的提拔和模子上下文的拓展，稀少留意力工做次要集中正在推理阶段，DSA：2025年9月DeepSeek发布了V3.2-Exp，从而给长文本处置带来了可能性。而业界预锻炼阶段多采用浓密留意力机制，而DeepSeek的NSA和DSA正在锻炼阶段引入了稀少留意力，此中正在算法层面。

　　深度进修仿照人类的这种能力引入了留意力机制，AI财产不竭正在进行算法、系统、硬件三个层面的提拔和优化。从而提高了处置效率和精确性。稀少留意力的引入将留意力计较复杂度从O(L2)（L为序列长度）降至亚平方级（如O(Llog L)、此前，带来了模子较大幅度的降价。引入了新的留意力机制DSA，而是进行原有模子的升级。

　　它基于V3.1-Terminus建立，能够更低成当地进行稀少留意力的摸索取尝试。因为不需要从头锻炼模子，