AI开发平台MODELARTS-推理场景介绍:支持的模型列表和权重文件
支持的模型列表和权重文件
本方案支持vLLM的v0.3.2版本。不同vLLM版本支持的模型列表有差异,具体如表3所示。
序号 |
模型名称 |
支持vLLM v0.3.2 |
开源权重获取地址 |
---|---|---|---|
1 |
llama-7b |
√ |
|
2 |
llama-13b |
√ |
|
3 |
llama-65b |
√ |
|
4 |
llama2-7b |
√ |
|
5 |
llama2-13b |
√ |
|
6 |
llama2-70b |
√ |
|
7 |
llama3-8b |
√ |
|
8 |
llama3-70b |
√ |
|
9 |
yi-6b |
√ |
|
10 |
yi-9b |
√ |
|
11 |
yi-34b |
√ |
|
12 |
deepseek-llm-7b |
√ |
|
13 |
deepseek-coder-instruct-33b |
√ |
https://huggingface.co/deepseek-ai/deepseek-coder-33b-instruct |
14 |
deepseek-llm-67b |
√ |
|
15 |
qwen-7b |
√ |
|
16 |
qwen-14b |
√ |
|
17 |
qwen-72b |
√ |
|
18 |
qwen1.5-0.5b |
√ |
|
19 |
qwen1.5-7b |
√ |
|
20 |
qwen1.5-1.8b |
√ |
|
21 |
qwen1.5-14b |
√ |
|
22 |
qwen1.5-32b |
√ |
|
23 |
qwen1.5-72b |
√ |
|
24 |
qwen1.5-110b |
√ |
|
25 |
baichuan2-7b |
√ |
|
26 |
baichuan2-13b |
√ |
|
27 |
chatglm2-6b |
√ |
|
28 |
chatglm3-6b |
√ |
|
29 |
gemma-2b |
√ |
|
30 |
gemma-7b |
√ |
|
31 |
mistral-7b |
√ |