作用：在测试集上评估模型性能。

def evaluate_model(model, test_loader, device='cuda'):code>

# 设置模型为评估模式

model.eval()

predictions = []

targets = []

# 禁用梯度计算

with torch.no_grad():

# 遍历测试数据加载器中的每个批次

for inputs, target in test_loader:

# 将输入数据移动到指定设备上

inputs = [x.to(device) for x in inputs]

# 获取模型的输出

outputs = model(inputs)

# 将预测结果从GPU移到CPU，并转换为numpy数组，添加到predictions列表中

predictions.extend(outputs.cpu().numpy())

# 将目标值转换为numpy数组，添加到targets列表中

targets.extend(target.numpy())

# 将预测结果和目标值转换为numpy数组

y_pred = np.array(predictions)

y_test = np.array(targets)

# 计算评估指标

score = calculate_metrics(y_test, y_pred)

# 打印测试得分

print(f"Test Score: {score:.4f}")

8. 模型训练函数

<code>import pandas as pd

df_original = pd.read_csv("train_data.csv")

n_original = df_original.shape[0] # 获取df_original的行数

df_submit = pd.read_csv("sample_submission.csv")

df = pd.concat([df_original, df_submit], axis=0).reset_index(drop=True) # 合并df_original和df_submit方便后续数据预处理

特征工程

1.根据相关知识进行具备重要特征列优先类别的提取。

<code>def siRNA_feat_builder(s: pd.Series, anti: bool = False): # s：一个pandas Series对象，其中每个元素代表一个siRNA序列；anti：一个布尔值，默认为 False。如果为True，则表示正在处理的是反义siRNA序列；如果为False，则表示处理的是正义siRNA序列。

name = "anti" if anti else "sense"

# 将输入的Series s转换为一个DataFrame df，以便能够添加额外的列作为特征

df = s.to_frame()

# 序列长度

df[f"feat_siRNA_{name}_seq_len"] = s.str.len()

for pos in [0, -1]:

for c in list("AUGC"):

# 遍历序列的开始（pos == 0）和结束（pos == -1）位置，并检查这些位置上的核苷酸是否为A、U、G、C中的一个

df[f"feat_siRNA_{name}_seq_{c}_{'front' if pos == 0 else 'back'}"] = (

s.str[pos] == c

)

# 是否已某一对碱基开头和某一对碱基结尾

df[f"feat_siRNA_{name}_seq_pattern_1"] = s.str.startswith("AA") & s.str.endswith(

"UU"

)

df[f"feat_siRNA_{name}_seq_pattern_2"] = s.str.startswith("GA") & s.str.endswith(

"UU"

)

df[f"feat_siRNA_{name}_seq_pattern_3"] = s.str.startswith("CA") & s.str.endswith(

"UU"

)

df[f"feat_siRNA_{name}_seq_pattern_4"] = s.str.startswith("UA") & s.str.endswith(

"UU"

)

df[f"feat_siRNA_{name}_seq_pattern_5"] = s.str.startswith("UU") & s.str.endswith(

"AA"

)

df[f"feat_siRNA_{name}_seq_pattern_6"] = s.str.startswith("UU") & s.str.endswith(

"GA"

)

df[f"feat_siRNA_{name}_seq_pattern_7"] = s.str.startswith("UU") & s.str.endswith(

"CA"

)

df[f"feat_siRNA_{name}_seq_pattern_8"] = s.str.startswith("UU") & s.str.endswith(

"UA"

)

# 第二位和倒数第二位是否为A

df[f"feat_siRNA_{name}_seq_pattern_9"] = s.str[1] == "A"

df[f"feat_siRNA_{name}_seq_pattern_10"] = s.str[-2] == "A"

# GC占整体长度的比例

df[f"feat_siRNA_{name}_seq_pattern_GC_frac"] = (

s.str.contains("G") + s.str.contains("C")

) / s.str.len()

return df.iloc[:, 1:]

2.对剩余列进行优化和预处理 

df_publication_id = pd.get_dummies(df.publication_id)

df_publication_id.columns = [

f"feat_publication_id_{c}" for c in df_publication_id.columns

]

df_gene_target_symbol_name = pd.get_dummies(df.gene_target_symbol_name)

df_gene_target_symbol_name.columns = [

f"feat_gene_target_symbol_name_{c}" for c in df_gene_target_symbol_name.columns

]

df_gene_target_ncbi_id = pd.get_dummies(df.gene_target_ncbi_id)

df_gene_target_ncbi_id.columns = [

f"feat_gene_target_ncbi_id_{c}" for c in df_gene_target_ncbi_id.columns

]

df_gene_target_species = pd.get_dummies(df.gene_target_species)

df_gene_target_species.columns = [

f"feat_gene_target_species_{c}" for c in df_gene_target_species.columns

]

siRNA_duplex_id_values = df.siRNA_duplex_id.str.split("-|\.").str[1].astype("int")

siRNA_duplex_id_values = (siRNA_duplex_id_values - siRNA_duplex_id_values.min()) / (

siRNA_duplex_id_values.max() - siRNA_duplex_id_values.min()

)

df_siRNA_duplex_id = pd.DataFrame(siRNA_duplex_id_values)

df_cell_line_donor = pd.get_dummies(df.cell_line_donor)

df_cell_line_donor.columns = [

f"feat_cell_line_donor_{c}" for c in df_cell_line_donor.columns

]

df_cell_line_donor["feat_cell_line_donor_hepatocytes"] = (

(df.cell_line_donor.str.contains("Hepatocytes")).fillna(False).astype("int")

)

df_cell_line_donor["feat_cell_line_donor_cells"] = (

df.cell_line_donor.str.contains("Cells").fillna(False).astype("int")

)

df_siRNA_concentration = df.siRNA_concentration.to_frame()

df_Transfection_method = pd.get_dummies(df.Transfection_method)

df_Transfection_method.columns = [

f"feat_Transfection_method_{c}" for c in df_Transfection_method.columns

]

df_Duration_after_transfection_h = pd.get_dummies(df.Duration_after_transfection_h)

df_Duration_after_transfection_h.columns = [

f"feat_Duration_after_transfection_h_{c}"

for c in df_Duration_after_transfection_h.columns

]

# 将所有处理完的列归并为特征

feats = pd.concat(

[

df_publication_id,

df_gene_target_symbol_name,

df_gene_target_ncbi_id,

df_gene_target_species,

df_siRNA_duplex_id,

df_cell_line_donor,

df_siRNA_concentration,

df_Transfection_method,

df_Duration_after_transfection_h,

siRNA_feat_builder(df.siRNA_sense_seq, False),

siRNA_feat_builder(df.siRNA_antisense_seq, True),

df.iloc[:, -1].to_frame(),

],

axis=1,

)

创建lightgbm模型

lightgbm模型介绍参考以下网站：

Parameters Tuning — LightGBM 4.0.0 documentation

https://datawhalechina.github.io/ML-FTTI/01_tree_ensemble/04_gbdt.html

https://lightgbm.readthedocs.io/en/stable/Parameters.html

import lightgbm as lgb # 梯度提升决策树库，用于分类、回归问题

from sklearn.model_selection import train_test_split # 提供模型选择和评估工具，包括数据集的分割、网格搜索等

X_train, X_test, y_train, y_test = train_test_split(

# 数据切片，用于特征集

feats.iloc[:n_original, :-1],

# 选择目标变量

feats.iloc[:n_original, -1],

# 根据赛题要求进行数据划分

test_size=0.2,

random_state=42,

)

# 创建一个LightGBM的Dataset对象，用于训练数据

# X_train是特征数据，y_train是对应的目标变量

train_data = lgb.Dataset(X_train, label=y_train)

# X_test是测试数据的特征，y_test是对应的目标变量

test_data = lgb.Dataset(X_test, label=y_test, reference=train_data)

# 定义一个回调函数来打印验证集的结果，该函数将在LightGBM的每次迭代后被调用

def print_validation_result(env):

# 从env.evaluation_result_list中获取最后一次迭代的结果，这个列表包含了每次迭代时验证集上的评估结果

result = env.evaluation_result_list[-1]

print(f"[{env.iteration}] {result[1]}'s {result[0]}: {result[2]}")

# 设置LightGBM的训练参数

params = {

"boosting_type": "gbdt", # 使用梯度提升决策树作为基学习器

"objective": "regression", # 设置学习任务为回归

"metric": "root_mean_squared_error", # 使用均方根误差作为评估指标

"max_depth": 7, # 设置树的最大深度为7

"learning_rate": 0.02, # 设置学习率为0.02

"verbose": 0, # 设置LightGBM的打印信息级别为0，即不打印训练信息

}

gbm = lgb.train(

params,

train_data,

num_boost_round=15000, # num_boost_round=15000指定了最大迭代次数为15000

valid_sets=[test_data], # 指定验证集为之前创建的test_data

callbacks=[print_validation_result], # 指定回调函数列表，包含之前定义的打印验证集结果的函数

)

<code># 对给定的最后一列特征集进行预测

y_pred = gbm.predict(feats.iloc[n_original:, :-1])

# 将结果填充并生成文件

df_submit["mRNA_remaining_pct"] = y_pred

df_submit.to_csv("submission.csv", index=False)

三、思考与总结

1.问题的处理思路

       如处理生物问题，首先要分清当前是一个分类、回归或者生成问题，然后确定模型选择，接着考虑如何把数据处理到模型中，再从处理数据的过程中结合生物学知识构造特征，最后再用模型训练这些特征和预测结果，不断优化得到最优结果。

2.特征构造的数据分析

       特征构造不受问题影响，即特征构造在不同模型是通用的，关键在于如何构造特征。

       如先把训练集的一个数据列提取出来，然后分析该数据是数值型变量或者是分类变量。

       1.数据是数值型变量，那么需将其均值、方差、偏度分布等可视化。

       2.数据是类别型变量，那么需进行类别的统计、不同类占比的比较（不同类别样本数量）如果是高样本类别，其价值可能相对低样本类别较高，全样本一类对预测影响不大，其价值相对较小；并且根据问题相关知识进行优先类别的提取（如传统siRNA设计原则中，对于序列而言，AA+(Nn)UU最好，那么就可以优先提取该类）；当数据集中某些连续变量的分布非常不均时，可以采用分箱的办法（离散化）处理。

3.模型处理

       1.模型构造过程：首先要关注从原始的特征到输入模型之前经历的过程，然后思考输入模型后到模型输出过程，最后考虑模型输出与训练集上的预测值之间的损失。

       2.调参方向性问题：调参需考虑其对结果的作用，尤其是过拟合和欠拟合，如lightgbm模型中树越深、叶子结点过多可能会过拟合。