华为云首页 用户手册

AI开发平台MODELARTS-GP Ant8裸金属服务器使用Megatron-Deepspeed训练GPT2并推理:Step1 安装模型

AI开发平台MODELARTS-GP Ant8裸金属服务器使用Megatron-Deepspeed训练GPT2并推理:Step1 安装模型

时间：2024-04-30 19:22:38
AI开发平台MODELARTS

Step1 安装模型

  1. 安装Megatron-Deepspeed框架。

    1. 使用root用户SSH的方式登录GPU裸金属服务器，登录方式在华为云购买页面可以获取。
    2. 拉取pytorch镜像，可以选择常用的镜像源进行下载。
      docker pull nvcr.io/nvidia/pytorch:21.10-py3
    3. 启动容器。
      docker run -d -t --network=host --gpus all --privileged --ipc=host --ulimit memlock=-1 --ulimit stack=67108864 --name megatron-deepspeed -v /etc/localtime:/etc/localtime -v /root/.ssh:/root/.ssh nvcr.io/nvidia/pytorch:21.10-py3
    4. 执行以下命令，进入容器终端。
      docker exec -it megatron-deepspeed bash
    5. 下载Megatron-DeepSpeed框架。
      git clone https://github.com/bigscience-workshop/Megatron-DeepSpeed

      若git clone失败，可以尝试先下载至本地，然后拷贝至服务器中，在docker cp至容器中。

    6. 安装Megatron-DeepSpeed框架。
      cd Megatron-DeepSpeed
pip install -r requirements.txt -i http://mirrors.myhuaweicloud.com/pypi/web/simple --trusted-host mirrors.myhuaweicloud.com
pip install mpi4py -i http://mirrors.myhuaweicloud.com/pypi/web/simple --trusted-host mirrors.myhuaweicloud.com
    7. 修改测试代码，注释掉以下文件的断言所在行。
      vim /workspace/Megatron-DeepSpeed/megatron/model/fused_softmax.py +191

      在“assert mask is None, "Mask is silently ignored due to the use of a custom kernel"”前加“#”，即：

      # assert mask is None, "Mask is silently ignored due to the use of a custom kernel"

  2. 数据集下载和预处理。

    本实践中选择使用1GB 79K-record的JSON格式的OSCAR数据集。

    1. 下载数据集。
      wget https://huggingface.co/bigscience/misc-test-data/resolve/main/stas/oscar-1GB.jsonl.xz 
wget https://s3.amazonaws.com/models.huggingface.co/bert/gpt2-vocab.json
wget https://s3.amazonaws.com/models.huggingface.co/bert/gpt2-merges.txt
    2. 解压数据集。
      xz -d oscar-1GB.jsonl.xz
    3. 预处理数据。
      python3 tools/preprocess_data.py \
    --input oscar-1GB.jsonl \
    --output-prefix meg-gpt2 \
    --vocab gpt2-vocab.json \
    --dataset-impl mmap \
    --tokenizer-type GPT2BPETokenizer \
    --merge-file gpt2-merges.txt \
    --append-eod \
    --workers 8
      若发生如下“np.float”报错，按照报错提示修改为“float”即可。
      图1 预处理数据报错
    4. 数据预处理完成标识。
      图2 数据预处理完成
    5. 新建data目录并移动处理好的数据。
      mkdir data 
mv meg-gpt2* ./data 
mv gpt2* ./data

support.huaweicloud.com/usermanual-modelarts-lite/usermanual-modelarts-lite-0087.html
看了此文的人还看了
CDN加速 GaussDB 文字转换成语音 免费的服务器 如何创建网站 域名网站购买 私有云桌面 云主机哪个好 域名怎么备案 手机云电脑 SSL证书申请 云点播服务器 免费OCR是什么 电脑云桌面 域名备案怎么弄 语音转文字 文字图片识别 云桌面是什么 网址安全检测 网站建设搭建 国外CDN加速 SSL免费证书申请 短信批量发送 图片OCR识别 云数据库MySQL 个人域名购买 录音转文字 扫描图片识别文字 OCR图片识别 行驶证识别 虚拟电话号码 电话呼叫中心软件 怎么制作一个网站 Email注册网站 华为VNC 图像文字识别 企业网站制作 个人网站搭建 华为云计算 免费租用云托管 云桌面云服务器 ocr文字识别免费版 HTTPS证书申请 图片文字识别转换 国外域名注册商 使用免费虚拟主机 云电脑主机多少钱 鲲鹏云手机 短信验证码平台 OCR图片文字识别 SSL证书是什么 申请企业邮箱步骤 免费的企业用邮箱 云免流搭建教程 域名价格
AI开发平台MODELARTS-GP Ant8裸金属服务器使用Megatron-Deepspeed训练GPT2并推理:Step1 安装模型

搜索反馈

您搜索到想要的结果了吗?

是的 没有

意见反馈

0/200

提交 取消

提交成功！非常感谢您的反馈，我们会继续努力做到更好 反馈提交失败！请稍后重试！
热门活动
推荐文章
更多内容
云硬盘存储EVS Web应用防火墙 人机语音识别 开发者大会2023 云计算入门 云数据库选择 HDC大会 华为云计算 响应式建站是什么 智慧班牌系统