AI开发平台MODELARTS-附录：大模型推理常见问题:问题3：使用llama3.1系列模型进行推理时报错
时间：2025-04-09 09:16:49
下载AI开发平台MODELARTS用户手册完整版
复制链接到剪贴板
分享文章到微博
分享文章到朋友圈
问题3：使用llama3.1系列模型进行推理时报错
使用llama3.1系模型进行推理时报错：ValueError: 'rope_scaling' must be a dictionary with two fields, 'type' and 'factor', got {'factor': 8.0, 'low_freq_factor': 1.0, 'high_freq_factor': 4.0, 'original_max_position_embeddings': 8192, 'rope_type': 'llama3'}
support.huaweicloud.com/bestpractice-modelarts/modelarts_llm_infer_91136.html
