該解決方案有何用途?
該解決方案基于華為云Flexus云服務器X實例幫助您快速部署EvalScope模型性能評測應用。EvalScope 是一個開源模型評測與性能基準測試框架,專為多樣化模型評估需求設計。它支持多種類型的模型評測,包括大語言模型(LLM)、多模態(tài)模型、Embedding 模型、Reranker 模型和 CLIP 模型等,適用于端到端 RAG 評測、競技場模式、模型推理性能壓測等多種評測場景。
方案架構
該解決方案幫助您在華為云Flexus云服務器X實例(彈性云服務器 ECS)上快速搭建EvalScope模型性能評測平臺。
快速搭建EvalScope模型性能評測平臺
版本:1.1.0????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????
上次更新日期:2025年4月
來源:由華為云構建
部署:預計10分鐘
卸載:預計5分鐘
架構描述
架構描述
-
創(chuàng)建一個彈性公網IP EIP,用于提供訪問公網和被公網訪問能力
-
創(chuàng)建一臺Flexus云服務器X實例(彈性云服務器 ECS),用于搭建EvalScope模型性能評測平臺
-
創(chuàng)建一個安全組,通過配置安全組規(guī)則,為云服務器提供安全防護