头像

-爱丽丝踢钢板

帅气的我简直无法用语言描述!

大模型面试–003 LLM推理内存优化

**👩‍💼 面试官:** 你能解释一下**PagedAttention**的概念及其优点吗? **👨‍💻 应聘者:** PagedAttention的灵感来自于操作系统通过虚拟内存分页来管理的方式。这...
头像14小时前
000