vLLM大模型服务-
适用于：Linux
商品简介：vLLM 是一个快速且易于使用的 LLM 推理和服务库。
商品亮点：鲲鹏服务器，开箱即用,一键部署
商品说明
| 版本: -- | 交付方式: 镜像 |
| 适用于: Linux | 上架日期: 2025-05-30 09:19:03 |
vLLM 是一个快速且易于使用的 LLM 推理和服务库。
vLLM 最初由加州大学伯克利分校的天空计算实验室开发，现已发展成为一个由学术界和工业界共同贡献的社区驱动项目。
目前官方没有提供针对鲲鹏云的AArch64架构的安装包，需要手工进行安装。
本商品在鲲鹏云的AArch64架构上Ubuntu24.04和HCE2.0系统中进行安装后以 镜像 提供给用户使用。
建议的系统要求如下：
• CPU: 8vCPUs 或更高
• RAM : 16GB 或更大
• Disk: 至少 40GB
我们提供此镜像供您选择。此镜像是免费的，如果您选择此镜像，即表示您完全同意此声明。
我们不对镜像提供支持，也不提供任何明示或暗示的保证、担保或陈述，也不对由此造成的损失承担任何责任。
如果您在使用过程中遇到操作系统问题，可以联系操作系统厂商或开源社区寻求技术支持。
