从输入到输出读懂 DeepSeek V4.1 Flash:交互式技术导读
从 Transformer 基础出发,顺着数据流拆解模型从输入到输出的每一步计算,含显存占用与算子形状;另附数学通路与三维分层参考页。
从 Transformer 基础出发,顺着数据流拆解模型从输入到输出的每一步计算,含显存占用与算子形状;另附数学通路与三维分层参考页。
朋友分享的一篇交互式技术导读:投机解码里的半自回归草稿与置信度调度两个关键机制,图表会跟着滚动和点击变化。
小灰在整理电脑文档的时候,有个就工程里用fortran写了点调用cuda的部分,就用一个用例子做了记录分享。cuda编程是Fortran中通过一个 C/CUDA 胶水层调用 CUDA Runtime、cuBLAS 与 cuSOLVER,在 GPU 上求解广义对称正定特征值问题 A x = λ B x(LAPACK DSYGVD 的 GPU 版本)。示例代码位于 test_dsygvd.F90 与 gpudriver.cu。 ...