后端与基础设施
AI 工程
翻译·演讲·阅读
其他
1 篇文章
把「Token 很贵」拆到可计算的层面:Self-Attention 单层成本 24nd²+4n²d 怎么来的、为什么 4K 曾是标准上下文、H100 的 295 FLOPs/byte 分界线怎么划、训练 6N 与推理 2N 的差异,以及 CPM、Spot 与 Prefill-Decode 分离的实际账。
如果这篇文章帮到了你,欢迎请我喝杯咖啡。
微信支付
Faker(**鹏)
支付宝
王二小(**鹏)
金额随意,感谢支持