llama.cpp推理框架-


版本: -- | 交付方式: 镜像 |
适用于: Linux | 上架日期: 2025-07-14 01:33:32 |
llama.cpp 采用纯 C/C++ 编写,无需任何外部依赖, 提供最佳的性能和跨平台兼容性,从嵌入式设备到高性能服务器都能流畅运行。
支持 CPU、GPU(CUDA、OpenCL、Metal)等多种硬件平台, 兼容 Windows、macOS、Linux 等操作系统,满足各种部署需求。
本商品基于鲲鹏架构的Huawei Cloud EulerOS 2.0 64bit 系统安装的llama.cpp。
建议的系统要求如下:
• CPU: 2 GHz或更高
• RAM : 4 GB或更大
• Disk: 至少40 GB
我们提供此 镜像 供您选择。此镜像是免费的,如果您选择此镜像,即表示您完全同意此声明。
我们不对镜像提供支持,也不提供任何明示或暗示的保证、担保或陈述,也不对由此造成的损失承担任何责任。
如果您在使用过程中遇到操作系统问题,可以联系操作系统厂商或开源社区寻求技术支持。