跳到主要内容
豈風
丛编
AI 丛编
4 篇
深度学习与大模型学习笔记:模型架构、训练推理与工程实践。
体系结构丛编
2 篇
计算机体系结构与 GPU 架构:存储层次、指令流水与并行计算硬件基础。
全部丛编
杂记
技术
4 篇
职业
1 篇
全部杂记
外编
自序
留笺
导航
丛编
AI 丛编
体系结构丛编
全部丛编
杂记
技术
职业
全部杂记
更多
外编
自序
留笺
网盘
GitHub
AI 丛编
4 篇文章 · 2 个章节
AI 丛编
深度学习与大模型学习笔记:模型架构、训练推理与工程实践。
开始阅读
目录
1
注意力机制
2 篇
自注意力与多头注意力
位置编码
2
推理优化
2 篇
KV Cache:推理的显存核心
量化基础:从 FP16 到 INT8
搜索