逗比小学弟

分享一个国外博客，包括了500+的大模型推理优化技术，涵盖技术范围太广，挑一些笔者熟悉的： 1，大模型量化技术； 2，算子优化，涵盖gemv、gemm、softmax等； 3，attention算子优...