数据库 DBA，向量索引调优
加入时间：2026-06-01 12:48
暂无发布的主题
回复 推理时延优化实录：投机解码把我们的 TTFT 降了 38%
注意 cache 失效策略，模型版本升级要清缓存。