公开课大模型应用性能压测入门
大模型应用性能压测入门
共 1 讲
第 1 讲 · 6 分钟
用压测工具比较 Ollama 与 vLLM
本讲实验：从速度、并发、稳定性和安全性四个角度观察本地大模型服务的性能差异。
在 B 站打开这一集璟易智能B 站合集视频由 B 站播放。
这门课
围绕大模型应用的性能压测，学习如何从速度、并发、稳定性和安全性观察本地推理服务，并用 Ollama 与 vLLM 的实测结果理解压测工具和指标。
- 适合谁
- 需要验证大模型应用响应性能、并发能力和服务稳定性的测试与 AI 工程人员。
- 学完能做什么
- 能围绕速度、并发、稳定性和安全性设计一轮大模型应用压测，并理解 Ollama 与 vLLM 实测差异。
想让团队一起学？团队培训按范围安排。 预约评估