基于阿里云免费PAI完成Qwen2-0.5B的部署与微调

准备阶段

1. 一个阿里云账号（还未试用PAI的）
2. 下载相关文件：https://qybk.lanzouw.com/iDAtC2ekta5g
3. 一个灵巧的双手
4. 一个善于学习的心
5. 本教程参考自视频：

阿里云白嫖PAI

1. 注册/登陆阿里云（略）
2. 领取并创建免费的交互式建模（DSW）实例
   
   
   
   
   
   
   
   
   授权成功后，再手动选择（返回）刚才的标签页
   
   然后选择进PAI控制台（忘记截图了）
   
   
   
   
   搜索modelscope:1.13.1-pytorch2.1.2tensorflow2.14.0-gpu-py310-cu121-ubuntu22.04并选择
   
   其余选项默认即可
   

部署LLaMa-Factory

1. 等待实例启动完成
2. 打开工作空间
   
3. 将开头下载的压缩包（准备阶段提供的下载地址）拖入到工作空间（直接从文件夹拖拽即可）
   
   
4. 进入终端并输入命令apt update更新软件源
   
   
   
5. 安装解压工具，输入命令apt install unzip
   
6. 解压刚上传的文件，输入命令unzip 训练大模型.zip
   
   注意：中文会出现乱码，属于正常现象
7. 修改解压后文件夹名称，右键，ReName，改为chat即可
   
8. 进入chat文件夹，截图略
9. 选择脚本文件
   
10. ×掉日志信息
11. 按顺序运行脚本，需要等待上一个脚本运行成功再运行下一个哟（可选的生成公网链接不用运行）
    
12. 运行成功如图所示
    
    注意：出现红色错误信息直接忽视，不要管
13. 进入Web页面，以待后续使用
    
14. 进入终端，输入执行pip install -U huggingface_hub
    
    
15. 输入执行export HF_ENDPOINT=https://hf-mirror.com
16. 输入执行下载模型huggingface-cli download --resume-download qwen/Qwen2-0.5B --local-dir gpt2
    注意：拉取时间较长，耐心等待
    
17. 复制路径
    

开始使用

1. 回到Web页面，选择中文语言
   
2. 选择Qwen2-0.5B模型，并把刚才在终端复制的路径粘贴进去
   
3. 选择chat菜单并加载模型
   
4. 下滑到底输入任意信息并提交，看看有没有回复
   

以上为基础部署流程