书生浦语XTuner 微调个人小助手

文章目录

    • 一、环境配置与数据准备
    • 1.构建一个xtuner环境
    • 2.安装 XTuner
    • 3.修改提供的数据
    • 四、训练启动
    • 1.模型位置
    • 2.创建软连接即可
    • 3.修改官方的Config
    • 4.启动微调
    • 4.权重转换
    • 4. 模型合并
    • 二、进阶任务
    • 2.1 上传到 HuggingFace

一、环境配置与数据准备

XTuner 文档链接：XTuner-doc-cn

1.构建一个xtuner环境

cd ~
#git clone 本repo
git clone https://github.com/InternLM/Tutorial.git -b camp4
mkdir -p /root/finetune && cd /root/finetune
conda create -n xtuner-env python=3.10 -y
conda activate xtuner-env

2.安装 XTuner

注意：对应的torch pytorch版本，我这里的cuda镜像是12.2的

# pip install  -e
#-e 表示在可编辑模式下安装项目，因此对代码所做的任何本地修改都会生效
git clone https://github.com/InternLM/xtuner.git
cd /root/finetune/xtunerpip install  -e '.[all]'pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 --index-url https://download.pytorch.org/whl/cu121
pip install transformers==4.39.0

# 能打印如下配置列表则代表pip安装完成
xtuner list-cfg

在这里插入图片描述

3.修改提供的数据

3.1 创建一个新的文件夹用于存储微调数据

mkdir -p /root/finetune/data && cd /root/finetune/data
cp -r /root/Tutorial/data/assistant_Tuner.jsonl  /root/finetune/data

数据格式：
在这里插入图片描述

3.2 创建修改脚本

# 创建 `change_script.py` 文件
touch /root/finetune/data/change_script.py

import json
import argparse
from tqdm import tqdm
# process_line就是输入每一行，然后通过递归函数处理嵌套的字典和列表，找到字符串，把对应的old_text替换为新的new_text
def process_line(line, old_text, new_text):# 解析 JSON 行data = json.loads(line)# 递归函数来处理嵌套的字典和列表def replace_text(obj):if isinstance(obj, dict):return {k: replace_text(v) for k, v in obj.items()}elif isinstance(obj, list):return [replace_text(item) for item in obj]elif isinstance(obj, str):return obj.replace(old_text, new_text)else:return obj# 处理整个 JSON 对象processed_data = replace_text(data)# 将处理后的对象转回 JSON 字符串return json.dumps(processed_data, ensure_ascii=False)# main函数 读取 input_file然后写入output_file调用process_line进行微调数据,通过tqdm创建进度条
def main(input_file, output_file, old_text, new_text):with open(input_file, 'r', encoding='utf-8') as infile, \open(output_file, 'w', encoding='utf-8') as outfile:# 计算总行数用于进度条total_lines = sum(1 for _ in infile)infile.seek(0)  # 重置文件指针到开头# 使用 tqdm 创建进度条for line in tqdm(infile, total=total_lines, desc="Processing"):processed_line = process_line(line.strip(), old_text, new_text)outfile.write(processed_line + '\n')
# argparse 库来解析命令行参数。它定义了四个参数：input_file，output_file没有defalut（默认值）所以是必填项目，old_text，new_text有默认值所以非必填
if __name__ == "__main__":parser = argparse.ArgumentParser(description="Replace text in a JSONL file.")parser.add_argument("input_file", help="Input JSONL file to process")parser.add_argument("output_file", help="Output file for processed JSONL")parser.add_argument("--old_text", default="尖米", help="Text to be replaced")parser.add_argument("--new_text", default="巧克力豆", help="Text to replace with")args = parser.parse_args()main(args.input_file, args.output_file, args.old_text, args.new_text)

执行脚本：

# usage：python change_script.py {input_file.jsonl} {output_file.jsonl}
cd ~/finetune/data
python change_script.py ./assistant_Tuner.jsonl ./assistant_Tuner_change.jsonl

查看数据：

cat assistant_Tuner_change.jsonl | head -n 3

主要查看是否修改为new_text即可。
在这里插入图片描述

四、训练启动

1.模型位置

/root/share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat

2.创建软连接即可

mkdir /root/finetune/modelsln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat /root/finetune/models/internlm2_5-7b-chat

3.修改官方的Config

cd /root/finetune
mkdir ./config
cd config
# 从 internlm2_5_chat_7b_qlora_alpaca_e3 目录中复制配置文件到当前目录下。
xtuner copy-cfg internlm2_5_chat_7b_qlora_alpaca_e3 ./

打开/root/finetune/config/internlm2_5_chat_7b_qlora_alpaca_e3_copy
修改以下几个配置（-号替换为+）

#######################################################################
#                          PART 1  Settings                           #
#######################################################################
- pretrained_model_name_or_path = 'internlm/internlm2_5-7b-chat'
+ pretrained_model_name_or_path = '/root/finetune/models/internlm2_5-7b-chat'- alpaca_en_path = 'tatsu-lab/alpaca'
+ alpaca_en_path = '/root/finetune/data/assistant_Tuner_change.jsonl'evaluation_inputs = [
-    '请给我介绍五个上海的景点', 'Please tell me five scenic spots in Shanghai'
+    '请介绍一下你自己', 'Please introduce yourself'
]#######################################################################
#                      PART 3  Dataset & Dataloader                   #
#######################################################################
alpaca_en = dict(type=process_hf_dataset,
-   dataset=dict(type=load_dataset, path=alpaca_en_path),
+   dataset=dict(type=load_dataset, path='json', data_files=dict(train=alpaca_en_path)),tokenizer=tokenizer,max_length=max_length,
-   dataset_map_fn=alpaca_map_fn,
+   dataset_map_fn=None,template_map_fn=dict(type=template_map_fn_factory, template=prompt_template),remove_unused_columns=True,shuffle_before_pack=True,pack_to_max_length=pack_to_max_length,use_varlen_attn=use_varlen_attn)

4.启动微调

xtuner train 命令用于启动模型微调进程。该命令需要一个参数：CONFIG 用于指定微调配置文件。这里我们使用修改好的配置文件 internlm2_5_chat_7b_qlora_alpaca_e3_copy.py。
训练过程中产生的所有文件，包括日志、配置文件、检查点文件、微调后的模型等，默认保存在 work_dirs 目录下，我们也可以通过添加 --work-dir 指定特定的文件保存位置。–deepspeed 则为使用 deepspeed， deepspeed 可以节约显存。

cd /root/finetune
conda activate xtuner-envxtuner train ./config/internlm2_5_chat_7b_qlora_alpaca_e3_copy.py --deepspeed deepspeed_zero2 --work-dir ./work_dirs/assistTuner

执行完成目录：

4.权重转换

模型转换的本质其实就是将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件，那么我们可以通过以下命令来实现一键转换。
我们可以使用 xtuner convert pth_to_hf 命令来进行模型格式转换。

xtuner convert pth_to_hf 命令用于进行模型格式转换。该命令需要三个参数：CONFIG 表示微调的配置文件， PATH_TO_PTH_MODEL 表示微调的模型权重文件路径，即要转换的模型权重， SAVE_PATH_TO_HF_MODEL 表示转换后的 HuggingFace 格式文件的保存路径。

除此之外，我们其实还可以在转换的命令中添加几个额外的参数，包括：

参数名 解释
–fp32 代表以fp32的精度开启，假如不输入则默认为fp16
–max-shard-size {GB} 代表每个权重文件最大的大小（默认为2GB）

cd /root/finetune/work_dirs/assistTunerconda activate xtuner-env# 先获取最后保存的一个pth文件
pth_file=`ls -t /root/finetune/work_dirs/assistTuner/*.pth | head -n 1`
export MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU
xtuner convert pth_to_hf ./internlm2_5_chat_7b_qlora_alpaca_e3_copy.py ${pth_file} ./hf

这里有个注意事项：执行完xtuner convert pth_to_hf ./internlm2_5_chat_7b_qlora_alpaca_e3_copy.py ${pth_file} ./hf可能会提示报错，
仔细观察下图可以看到#iter_864.pth多了有个冒号

FileNotFoundError: Cannot find /root/finetune/work_dirs/assistTuner/iter_864.pth:

在这里插入图片描述
解决方案 我们把右边的文件名和这个路径保持一致，修改为：
执行完成后的hf目录也如下图所示：
转换完成后，可以看到模型被转换为 HuggingFace 中常用的 .bin 格式文件，这就代表着文件成功被转化为 HuggingFace 格式了。
此时，hf 文件夹即为我们平时所理解的所谓 “LoRA 模型文件”
在这里插入图片描述

4. 模型合并

对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。

对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。

在 XTuner 中提供了一键合并的命令 xtuner convert merge，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。

xtuner convert merge命令用于合并模型。该命令需要三个参数：LLM 表示原模型路径，ADAPTER 表示 Adapter 层的路径， SAVE_PATH 表示合并后的模型最终的保存路径。

在模型合并这一步还有其他很多的可选参数，包括：

参数名 解释
–max-shard-size {GB} 代表每个权重文件最大的大小（默认为2GB）
–device {device_name} 这里指的就是device的名称，可选择的有cuda、cpu和auto，默认为cuda即使用gpu进行运算
–is-clip 这个参数主要用于确定模型是不是CLIP模型，假如是的话就要加上，不是就不需要添加

cd /root/finetune/work_dirs/assistTuner
conda activate xtuner-envexport MKL_SERVICE_FORCE_INTEL=1
export MKL_THREADING_LAYER=GNU
xtuner convert merge /root/finetune/models/internlm2_5-7b-chat ./hf ./merged --max-shard-size 2GB

完成之后的目录结构：
在这里插入图片描述
启动应用：
streamlit run /root/Tutorial/tools/L1_XTuner_code/xtuner_streamlit_demo.py
在这里插入图片描述

二、进阶任务

2.1 上传到 HuggingFace

安装git lfs和huggingface_hub

apt-get install git-lfs
git lfs install
pip install huggingface_hub

登录：需要https://huggingface.co/settings/tokens Access token

huggingface-cli login

在这里插入图片描述
创建模型repo：

$huggingface-cli repo create InternLM-Xtuner
git clone https://hf-mirror.com/shuiii/InternLM-Xtuner

把模型复制到repo中：

cp -r /root/finetune/work_dirs/assistTuner/merged /root/InternLM-Xtuner/

如果你的模型太大（>5GB），那么需要使用下面的命令声明一下，否则无法push，这里是看了Huggingface上传自己的模型

$ huggingface-cli lfs-enable-largefiles /root/InternLM-Xtuner

注意：push的时候需要填写两次huggingface的用户名和token

$git add .
$git commit -m "commit from $USER"
$git push

我这边push的还出现报错：

xtuner-env) root@intern-studio-072965:~/InternLM-Xtuner# git pushThis repository is configured for Git LFS but 'git-lfs' was not found on your path. If you no longer wish to use Git LFS, remove this hook by deleting .git/hooks/pre-push.error: failed to push some refs to 'https://hf-mirror.com/shuiii/InternLM-Xtuner'

解决方案：

git pull --rebase origin main
git push origin main

huggingface上传部署地址：https://huggingface.co/shuiii/InternLM-Xtuner/tree/main

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.xdnf.cn/news/14360.html

如若内容造成侵权/违法违规/事实不符，请联系一条长河网进行投诉反馈，一经查实，立即删除！

相关文章

信捷 XDH PLC C语言 Ethercat 简易绝对运动 BMC_A_DRVA_BODY函数

信捷 XDH PLC C语言 Ethercat 简易绝对运动 BMC_A_DRVA_BODY函数

本文以简易运动为例，描述多轴运动的程序封装。具有一定的参数价值。适用于信捷XDH PLC。 很容易移植到具有Ethercat 总线的PLC,使用ST语言的情况。 1.建立结构体 2.在全局变量表建立全局变量 （1）DRVA_PAR_array是类型为BMC_A_DRVA&#xff…
阅读更多...
磐石云黑名单管理系统

磐石云黑名单管理系统

黑名单验证平台是一款基于历史高风险号码实时验证的管理平台； 功能特点； 1、支持代理商账户 2、支持对接三方黑名单库进行缓存（俗称扒库），首次获取黑名单后缓存到本地，下次不再付费调用三方接口&#xf…
阅读更多...
Objects工具类详解

Objects工具类详解

在 Java 编程中，对象的处理是不可避免的。为了简化对象操作并减少空指针异常（NullPointerException）的风险，Java 7 引入了 java.util.Objects 类。这个类包含了一系列静态方法，旨在帮助开发者更安全、更高效地处理对象…
阅读更多...
InnoDB存储引擎

InnoDB存储引擎

6.1 逻辑存储结构 InnoDB的逻辑存储结构如下图所示: 6.2 架构 6.2.1 概述 MySQL5.5 版本开始，默认使用InnoDB存储引擎，它擅长事务处理，具有崩溃恢复特性，在日常开发中使用非常广泛。下面是InnoDB架构图，左侧为内存结…
阅读更多...
如何使用.bat实现快速电脑关机？

如何使用.bat实现快速电脑关机？

1、在电脑桌面新建一个记事本文档，将如下内容写进去： echo off shutdown /s /t 02、然后，保存一下，再把桌面此文件重命名为电脑关机.bat 3、双击此程序，可以立刻关机电脑。 PS：① 此程序会不保存任何当前…
阅读更多...
表的设计（MYSQL）

表的设计（MYSQL）

表的设计方法 范式 第一范式 第二范式 第三范式 实现方式 程序实现
阅读更多...
【再谈设计模式】抽象工厂模式~对象创建的统筹者

【再谈设计模式】抽象工厂模式~对象创建的统筹者

一、引言 在软件开发的世界里，高效、灵活且易于维护的代码结构是每个开发者追求的目标。设计模式就像是建筑蓝图中的经典方案，为我们提供了应对各种常见问题的有效策略。其中，抽象工厂模式在对象创建方面扮演着重要的角色，它如同一…
阅读更多...
R语言机器学习与临床预测模型77--机器学习预测常用R语言包

R语言机器学习与临床预测模型77--机器学习预测常用R语言包

R小盐准备介绍R语言机器学习与预测模型的学习笔记 你想要的R语言学习资料都在这里， 快来收藏关注【科研私家菜】 01 预测模型常用R包 常见回归分析包: rpart 包含有分类回归树的方法; earth 包可以实现多元自适应样条回归; mgev包含广义加性模型回归; Rweka 包中的M…
阅读更多...
使用OpenGL ES简单实现一个特效

使用OpenGL ES简单实现一个特效

玩抖音的时候，刷到一个抖音红发GET特效，感觉实现起来应该不太难。 于是小试牛刀。以刷到的一个视频一帧为原图 抖音红发GET特效拍出来的效果为 我实现的效果为： 基于Android平台，以OpenGL ES为工具，开发了一个滤镜…
阅读更多...
豆包MarsCode算法题：数组元素之和最小化

豆包MarsCode算法题：数组元素之和最小化

数组元素之和最小化 问题描述思路分析分析思路解决方案 参考代码（Python）代码分析1. solution 函数2. 计算 1 2 3 ... n 的和3. 乘以 k 得到最终的数组元素之和4. 主程序（if __name__ __main__:）代码的时间复杂度分析&#x…
阅读更多...
WebRTC视频 05 - 视频采集类 VideoCaptureDS 下篇

WebRTC视频 05 - 视频采集类 VideoCaptureDS 下篇

WebRTC视频 01 - 视频采集整体架构 WebRTC视频 02 - 视频采集类 VideoCaptureModule WebRTC视频 03 - 视频采集类 VideoCaptureDS 上篇 WebRTC视频 04 - 视频采集类 VideoCaptureDS 中篇 WebRTC视频 05 - 视频采集类 VideoCaptureDS 下篇（本文） 一、前言…
阅读更多...
ffmpeg 最强大的视频工具

ffmpeg 最强大的视频工具

文章目录 一、ffmpeg安装二、基本用法1、文件格式转换2、视频过滤器 filter3、剪切4、合并5、音频过滤器6、删除轨道7、简单应用：录屏 一、ffmpeg安装 windows下可以上官网 https://www.ffmpeg.org/download.html下载： 下载好后，解压缩&…
阅读更多...
初识算法 · 位运算(2)

初识算法 · 位运算(2)

目录 前言： 判定字符是否唯一 丢失的数字 比特位计数 只出现一次的数字III 前言： ​本文的主题是位运算，通过四道题目讲解，一道是判断字符是否唯一，一道是只出现一次的数字III，一道是比特位计数&…
阅读更多...
大数据新视界 -- 大数据大厂之 Impala 性能优化：基于数据特征的存储格式选择（上）（19/30）

大数据新视界 -- 大数据大厂之 Impala 性能优化：基于数据特征的存储格式选择（上）（19/30）

💖💖💖亲爱的朋友们，热烈欢迎你们来到 青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而 我的…
阅读更多...
[产品管理-76]：延续是创新与颠覆式创新的比较

[产品管理-76]：延续是创新与颠覆式创新的比较

目录 一、概述 1、定义与特征 2、市场影响与竞争策略 3、实施难度与风险 4、案例分析 二、示例 1. 延续性创新示例 2. 创新示例 3. 颠覆式创新示例 一、概述 延续性创新与颠覆式创新是技术创新领域的两种重要策略，它们在多个方面存在显著差异。 以下是对…
阅读更多...
JAVA学习日记（十五） 数据结构

JAVA学习日记（十五） 数据结构

一、数据结构概述 数据结构是计算机底层存储、组织数据的方式。 数据结构是指数据相互之间以什么方式排列在一起的。 数据结构是为了更加方便的管理和使用数据，需要结合具体的业务场景来进行选择。 二、常见的数据结构 （一）栈 特点&…
阅读更多...
自动化测试工具Ranorex Studio（三十）-代码模块中使用变量快照

自动化测试工具Ranorex Studio（三十）-代码模块中使用变量快照

为了在代码模块中使用数据连接器提供的值，你需要在代码中添加一个变量。使用右键菜单项’Insert Module Variable’。 添加一个新的变量到您的代码模块 指定变量名和默认值 通过添加一个新的变量，Ranorex Studio 会在光标位置插入一段新代码——由一个…
阅读更多...
Python技巧：查询模块的版本号的方法

Python技巧：查询模块的版本号的方法

1,pycharm里面的 Python interpreter 或者 Python package 2，通过 __version_info__ import matplotlib print(matplotlib.__version_info__) 3，查看目录里面的 _version.py 文件
阅读更多...
​​​​​​​15TS Series TVS 的解析

​​​​​​​15TS Series TVS 的解析

15TS Series 1500W Transient Voltage Suppresso指的是一系列高性能的瞬态电压抑制二极管（Transient Voltage Suppressor，TVS），这些二极管由时源芯微（TimeSource）设计用于保护敏感的电子设备免受瞬态过电压…
阅读更多...
Python学习从0到1 day27 Python 高阶技巧 ① 闭包

Python学习从0到1 day27 Python 高阶技巧 ① 闭包

目录 一、闭包 作用 示例 二、nonlocal关键字 示例 三、atm取钱的闭包实现 四、闭包注意事项 优点 缺点 我陪你走了一段路，你最了解我不是吗 —— 24.11.11 一、闭包 在函数嵌套的前提下，内部函数使用了外部函数的变量，并且外部函数返回了内部…
阅读更多...
最新文章

Copyright @ 2022~2023