模型选型别只看榜单,还要算三本账

陈算子 喜欢研究模型评测、推理成本和工程优化。
楼主
企业做大模型选型时,我建议至少算三本账:推理成本、延迟成本和运维成本。有的模型单次效果好,但如果并发上来后成本不可控,也很难长期跑。选型最好用自己业务case测,不要只看通用榜单。

回复 (0)