系列篇章💥

目录

系列篇章💥引言1、简介1.1 Lora微调技术概述1.2 Qwen2-7B-Instruct模型简介2.2 Lora微调的优势

2、技术2.1 Lora微调的工作原理2.3 Lora微调在Qwen2-7B-Instruct中的应用

3、应用场景3.1 问答系统3.2 自动摘要生成3.3 指令执行

4、代码实践4.1 环境准备4.2 安装依赖4.3 模型下载4.4 导入依赖包4.5 数据集准备4.6 数据加载查看4.7 加载分词器模型4.8 数据格式化处理4.9 加载模型4.10 lora配置4.11 配置训练参数4.12 模型训练4.13 模型合并4.14 模型推理

结语

引言

在人工智能领域，自然语言处理（NLP）一直是研究的热点之一。随着深度学习技术的不断发展，大型预训练语言模型（如Qwen2-7B-Instruct）在理解与生成自然语言方面取得了显著的进展。然而，这些模型往往需要大量的计算资源和数据来进行微调，以适应特定的应用场景。Lora微调技术作为一种高效的模型优化手段，为解决这一问题提供了新的思路。本文将深入探讨Lora微调技术在Qwen2-7B-Instruct模型上的应用，旨在为读者提供一种高效、低成本的模型定制化方法。

1、简介

1.1 Lora微调技术概述

Lora微调是一种基于低秩矩阵的微调方法，它通过在模型的权重矩阵中引入低秩结构来减少参数数量，从而降低模型的存储和计算需求。这种方法在保持模型性能的同时，显著提高了模型的灵活性和适应性。

1.2 Qwen2-7B-Instruct模型简介

Qwen2-7B-Instruct，一款精心设计的高级预训练语言模型，拥有7.2亿参数，专注于提升对指令性文本的精准理解和高效生成。它在自然语言处理（NLP）的多个专业领域中，如文本摘要、情感分析、机器翻译等，均展现出了卓越的处理能力和适应性。Qwen2-7B-Instruct的先进性能不仅体现在其对语言的深度解析上，更在于其能够快速、准确地执行和回应复杂的语言指令，为专业级的语言任务提供了强大的支持和解决方案。

2.2 Lora微调的优势

与传统的全参数微调相比，Lora微调具有以下优势：

参数减少：通过低秩分解，大幅减少了模型的参数量。计算效率：降低了模型训练和推理时的计算需求。灵活性：能够快速适应不同的应用场景。

2、技术

2.1 Lora微调的工作原理

Lora微调通过在模型的权重矩阵中引入低秩矩阵，实现了对模型的轻量级微调。具体来说，它将权重矩阵分解为两个较小的矩阵的乘积，这两个矩阵分别对应于原始权重矩阵的行和列。

2.3 Lora微调在Qwen2-7B-Instruct中的应用

通过在Qwen2-7B-Instruct模型上实施Lora微调技术，我们能够针对特定指令性文本任务进行精准优化，显著提升模型在这些任务上的表现力和准确性。这种微调方法不仅增强了模型对专业指令的响应能力，还进一步拓宽了其在复杂语言处理场景中的应用潜力。

3、应用场景

3.1 问答系统

Lora微调后的Qwen2-7B-Instruct可以用于构建更加智能的问答系统，提供更准确的答案。

3.2 自动摘要生成

在自动摘要生成任务中，微调后的模型能够更好地理解文本内容，生成更加精炼和准确的摘要。

3.3 指令执行

对于需要执行复杂指令的应用，如智能家居控制，微调后的模型能够更准确地解析和执行用户的指令。

4、代码实践

4.1 环境准备

介绍如何在Python环境中搭建Lora微调所需的环境，包括必要的库和依赖。

PyTorch: 2.1.0

CUDA:12.1

GPU：RTX 4090D(24GB)

Ubuntu 22.04.3 LTS

4.2 安装依赖

安装相关的依赖包

<code>python -m pip install --upgrade pip

# 更换 pypi 源加速库的安装

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

pip install modelscope==1.9.5

pip install "transformers>=4.39.0"

pip install streamlit==1.24.0

pip install sentencepiece==0.1.99

pip install accelerate==0.27

pip install transformers_stream_generator==0.0.4

pip install datasets==2.18.0

pip install peft==0.10.0

# 可选

MAX_JOBS=8 pip install flash-attn --no-build-isolation

4.3 模型下载

使用 modelscope 中的 snapshot_download 函数下载模型，第一个参数为模型名称，参数 cache_dir 为模型的下载路径。

在 /root/autodl-tmp 路径下新建 d.py 文件并在其中输入以下内容，粘贴代码后请及时保存文件，如下图所示。并运行 python /root/autodl-tmp/d.py 执行下载，模型大小为 15GB，下载模型大概需要 5 分钟。

import torch

from modelscope import snapshot_download, AutoModel, AutoTokenizer

import os

model_dir = snapshot_download('qwen/Qwen2-7B-Instruct', cache_dir='/root/autodl-tmp', revision='master')code>

下载成功如下：

4.4 导入依赖包

<code>from datasets import Dataset

import pandas as pd

from transformers import AutoTokenizer, AutoModelForCausalLM, DataCollatorForSeq2Seq, TrainingArguments, Trainer, GenerationConfig

4.5 数据集准备

LLM 的微调一般指指令微调过程。所谓指令微调，是说我们使用的微调数据形如：

{

“instruction”:“回答以下用户问题，仅输出答案。”,

“input”:“1+1等于几?”,

“output”:“2”

}

其中，instruction 是用户指令，告知模型其需要完成的任务；input 是用户输入，是完成用户指令所必须的输入内容；output 是模型应该给出的输出。即我们的核心训练目标是让模型具有理解并遵循用户指令的能力。因此，在指令集构建时，我们应针对我们的目标任务，针对性构建任务指令集。下面是对话指令集部分内容：

4.6 数据加载查看

<code># 将JSON文件转换为CSV文件

df = pd.read_json('../dataset/huanhuan.json')

ds = Dataset.from_pandas(df)

查看前面5条

ds[:5]

输出

{ 'instruction': ['小姐，别的秀女都在求中选，唯有咱们小姐想被撂牌子，菩萨一定记得真真儿的——',

'这个温太医啊，也是古怪，谁不知太医不得皇命不能为皇族以外的人请脉诊病，他倒好，十天半月便往咱们府里跑。',

'嬛妹妹，刚刚我去府上请脉，听甄伯母说你来这里进香了。',

'嬛妹妹，我虽是一介御医，俸禄微薄，可是我保证会一生一世对你好，疼爱你，保护你，永远事事以你为重。本来没半月一次到府上去请脉，能够偶尔见一次妹妹的笑靥，已经心满意足了，可谁知——而且我也知道，妹妹心里是不愿意去殿选的。',

'实初虽然唐突了妹妹，却是真心实意地希望妹妹不要去应选，这不仅仅是因为我心里一直把妹妹当成……其实更是因为甄伯父曾经救过家父的性命。'],

'input': ['', '', '', '', ''],

'output': ['嘘——都说许愿说破是不灵的。',

'你们俩话太多了，我该和温太医要一剂药，好好治治你们。',

'出来走走，也是散心。',

'实初哥哥这么说，就枉顾我们一直以来的兄妹情谊了，嬛儿没有哥哥，一直把你当作自己的亲哥哥一样看待，自然相信哥哥会待妹妹好的——自然了，以后有了嫂子，你也会对嫂子更好。',

'我们两家是世交，昔年恩义不过是父亲随手之劳，不必挂怀。']}

4.7 加载分词器模型

加载本地的Qwen2-7B-Instruct模型

tokenizer = AutoTokenizer.from_pretrained('/root/autodl-tmp/qwen/Qwen2-7B-Instruct', use_fast=False, trust_remote_code=True)

tokenizer

输出：

4.8 数据格式化处理

Lora 训练的数据是需要经过格式化、编码之后再输入给模型进行训练的，我们一般需要将输入文本编码为 input_ids，将输出文本编码为 labels，编码之后的结果都是多维的向量。我们首先定义一个预处理函数，这个函数用于对每一个样本，编码其输入、输出文本并返回一个编码后的字典

1）定义处理函数

<code>def process_func(example):

MAX_LENGTH = 384 # Llama分词器会将一个中文字切分为多个token，因此需要放开一些最大长度，保证数据的完整性

input_ids, attention_mask, labels = [], [], []

instruction = tokenizer(f"<|im_start|>system\n现在你要扮演皇帝身边的女人--甄嬛<|im_end|>\n<|im_start|>user\n{ example['instruction'] + example['input']}<|im_end|>\n<|im_start|>assistant\n", add_special_tokens=False) # add_special_tokens 不在开头加 special_tokens

response = tokenizer(f"{ example['output']}", add_special_tokens=False)

input_ids = instruction["input_ids"] + response["input_ids"] + [tokenizer.pad_token_id]

attention_mask = instruction["attention_mask"] + response["attention_mask"] + [1] # 因为eos token咱们也是要关注的所以 补充为1

labels = [-100] * len(instruction["input_ids"]) + response["input_ids"] + [tokenizer.pad_token_id]

if len(input_ids) > MAX_LENGTH: # 做一个截断

input_ids = input_ids[:MAX_LENGTH]

attention_mask = attention_mask[:MAX_LENGTH]

labels = labels[:MAX_LENGTH]

return {

"input_ids": input_ids,

"attention_mask": attention_mask,

"labels": labels

}

补充说明：Qwen2 采用的Prompt Template格式如下

<|im_start|>system

You are a helpful assistant.<|im_end|>

<|im_start|>user

你是谁？<|im_end|>

<|im_start|>assistant

我是一个有用的助手。<|im_end|>

2）数据集处理

tokenized_id = ds.map(process_func, remove_columns=ds.column_names)

tokenized_id

输出：

Dataset({

features: ['input_ids', 'attention_mask', 'labels'],

num_rows: 3729

})

3）查看input_ids数据格式是否正确

tokenizer.decode(tokenized_id[0]['input_ids'])

输出：

'<|im_start|>system\n现在你要扮演皇帝身边的女人--甄嬛<|im_end|>\n<|im_start|>user\n小姐，别的秀女都在求中选，唯有咱们小姐想被撂牌子，菩萨一定记得真真儿的——<|im_end|>\n<|im_start|>assistant\n嘘——都说许愿说破是不灵的。<|endoftext|>'

4）labels查看

tokenizer.decode(list(filter(lambda x: x != -100, tokenized_id[1]["labels"])))

输出：

'你们俩话太多了，我该和温太医要一剂药，好好治治你们。<|endoftext|>'

4.9 加载模型

加载本地的Qwen2-7B-Instruct模型

import torch

model = AutoModelForCausalLM.from_pretrained('/root/autodl-tmp/qwen/Qwen2-7B-Instruct', device_map="auto",torch_dtype=torch.bfloat16)code>

model

模型信息如下：

Loading checkpoint shards: 0%| | 0/4 [00:00<?, ?it/s]

[9]:

Qwen2ForCausalLM(

(model): Qwen2Model(

(embed_tokens): Embedding(152064, 3584)

(layers): ModuleList(

(0-27): 28 x Qwen2DecoderLayer(

(self_attn): Qwen2SdpaAttention(

(q_proj): Linear(in_features=3584, out_features=3584, bias=True)

(k_proj): Linear(in_features=3584, out_features=512, bias=True)

(v_proj): Linear(in_features=3584, out_features=512, bias=True)

(o_proj): Linear(in_features=3584, out_features=3584, bias=False)

(rotary_emb): Qwen2RotaryEmbedding()

)

(mlp): Qwen2MLP(

(gate_proj): Linear(in_features=3584, out_features=18944, bias=False)

(up_proj): Linear(in_features=3584, out_features=18944, bias=False)

(down_proj): Linear(in_features=18944, out_features=3584, bias=False)

(act_fn): SiLU()

)

(input_layernorm): Qwen2RMSNorm()

(post_attention_layernorm): Qwen2RMSNorm()

)

)

(norm): Qwen2RMSNorm()

)

(lm_head): Linear(in_features=3584, out_features=152064, bias=False)

)

开启梯度检查，查看精度

model.enable_input_require_grads() # 开启梯度检查点时，要执行该方法

model.dtype # 查看精度

输出：

torch.bfloat16

4.10 lora配置