两万字、三十图、二十三问，搞定RocketMQ!
基础1.为什么要使用消息队列呢？消息队列主要有三大用途，我们拿一个电商系统的下单举例：解耦：引入消息队列之前，下单完成之后，需要订单服务去调用库存服务减库存，调用营销服务加营销数据……引入消息队列之后...
大模型基础知识之kvcache
.KV Cache是大模型推理优化的一个常用技术，该技术以空间换时间的思想，通过缓存上一次推理得到的KVs，可以在不影响任何计算精度的前提下，提高推理性能，降低端到端的时延。