DataWhale夏令营(机器学习方向)——分子性质AI预测挑战赛

织心星笛 2024-07-12 09:01:02 阅读 62

 #AI夏令营 #Datawhale #夏令营

该笔记是在博主Mr.chenlex跑分后的基础上加以改进,原文连接:Datawhale AI夏令营 - 机器学习:分子性质AI预测挑战赛#ai夏令营datawhale#夏令营-CSDN博客

Baseline改进前后代码介绍

Baseline改进前后跑分结果

直接套用原博主的Baseline(需另进行库的下载以及配置,下文会进行说明)运行后的A榜分数为:0.74359

改进后的Baseline的A榜分数为:0.7619

改进思路及过程

相关库的补充下载

<code>catboost :一个用于机器学习的库,特别是分类和回归任务。rdkit: 一个化学信息学和机器学习软件,用于处理化学结构。

 在下载catboost库时,直接下载会出现权限问题:

Could not install packages due to an OSError: [Errno 13] Permission denied: '/opt/conda/envs/python35-paddle120-env/etc/jupyter/nbconfig/notebook.d/catboost-widget.json'

Consider using the --user option or check the permissions.

这是因为没有足够的权限来在这个路径下写入文件,我们可以使用 --user 选项来安装包,这会将包安装到你的用户目录下,而不是系统级目录。

!pip install --user catboost

这样即可正常下载catboost库。

而使用同样的方式下载rdkit库时,在导入时会进行报错:

ModuleNotFoundError: No module named 'rdkit'

此时,我们应该考虑以绝对路径的形式来进行导入,以便python解释器可以找到它,首先我们要先确定rdkit库的安装路径:

!pip show rdkit

根据其显示的信息进行路径配置:

<code>import sys

sys.path.append('/home/aistudio/.local/lib/python3.10/site-packages')

至此,我们就完成了必用补充库的下载,接下来让我们正式开始改进。

导入模块

import numpy as np

import pandas as pd

from catboost import CatBoostClassifier

from sklearn.model_selection import KFold

from sklearn.metrics import f1_score

from rdkit import Chem

from sklearn.feature_extraction.text import TfidfVectorizer

相关库的解释与说明请移步原博主文章,在此不再赘述:Datawhale AI夏令营 - 机器学习:分子性质AI预测挑战赛#ai夏令营datawhale#夏令营-CSDN博客

这里解释一下,为什么不再引用wornings的库并且只使用KFold这一种验证方法,原文引用wornings库的目的是忽略警告,而在实际运行中,显示的这条警告意味着在训练过程中,模型会频繁地评估其性能指标,而不会按照预设的间隔进行评估,从而可能出现过拟合的情况。

数据预处理

数据预处理部分没有实质性的改动,就是读入文件时,要根据自己的实际路径进行读入:

<code>train = pd.read_excel('./data/data280993/traindata-new.xlsx')

test = pd.read_excel('./data/data280993/testdata-new.xlsx')

train = train.drop(['DC50 (nM)', 'Dmax (%)'], axis=1)

drop_cols = []

for f in test.columns:

if test[f].notnull().sum() < 10:

drop_cols.append(f)

train = train.drop(drop_cols, axis=1)

test = test.drop(drop_cols, axis=1)

data = pd.concat([train, test], axis=0, ignore_index=True)

特征工程

主要是在自然数编码进行了简化:

原代码利用的是字典映射map函数,可以自定义编码顺序并返回可读性好的标签,但需要额外的内存空间,并因其自定义的排序打乱了原本数据的顺序,会影响学习程度,丢失一定的普适性。

# 自然数编码

def label_encode(series):

unique = list(series.unique())

return series.map(dict(zip(

unique, range(series.nunique())

)))

原文链接:https://blog.csdn.net/m0_51789661/article/details/140188167

而简化后直接使用了pandas内置的优化方法,转换速度较快,并且category类型在内存使用上比较节省。最重要的一点是,按照默认顺序进行学习,可以增强学习的普适性。

def label_encode(series):

return series.astype('category').cat.codes

模型训练与预测

在此环节,只是简化了一些自定义的参数,使代码更加简洁和易读。

完整代码展示

!pip install lightgbm openpyxl

!pip install --user catboost

!pip install --user rdkit

!pip show rdkit

import sys

sys.path.append('/home/aistudio/.local/lib/python3.10/site-packages')

# 1. 导入需要用到的相关库

import numpy as np

import pandas as pd

from catboost import CatBoostClassifier

from sklearn.model_selection import KFold

from sklearn.metrics import f1_score

from rdkit import Chem

from sklearn.feature_extraction.text import TfidfVectorizer

# 2. 数据预处理

train = pd.read_excel('./data/data280993/traindata-new.xlsx')

test = pd.read_excel('./data/data280993/testdata-new.xlsx')

train = train.drop(['DC50 (nM)', 'Dmax (%)'], axis=1)

drop_cols = []

for f in test.columns:

if test[f].notnull().sum() < 10:

drop_cols.append(f)

train = train.drop(drop_cols, axis=1)

test = test.drop(drop_cols, axis=1)

data = pd.concat([train, test], axis=0, ignore_index=True)

# 3 特征工程

data['smiles_list'] = data['Smiles'].apply(lambda x: [Chem.MolToSmiles(mol, isomericSmiles=True) for mol in [Chem.MolFromSmiles(x)]])

data['smiles_list'] = data['smiles_list'].map(lambda x: ' '.join(x))

tfidf = TfidfVectorizer(max_df=0.9, min_df=1, sublinear_tf=True)

res = tfidf.fit_transform(data['smiles_list'])

tfidf_df = pd.DataFrame(res.toarray(), columns=[f'smiles_tfidf_{i}' for i in range(res.shape[1])])

data = pd.concat([data, tfidf_df], axis=1)

def label_encode(series):

return series.astype('category').cat.codes

for col in data.columns[2:]:

if data[col].dtype == 'object':

data[col] = label_encode(data[col])

train = data[data['Label'].notnull()].reset_index(drop=True)

test = data[data['Label'].isnull()].reset_index(drop=True)

features = [f for f in train.columns if f not in ['uuid', 'Label', 'smiles_list']]

x_train = train[features]

x_test = test[features]

y_train = train['Label'].astype(int)

# 4. 模型训练与预测

def cv_model(clf, train_x, train_y, test_x, clf_name, seed=2022):

kf = KFold(n_splits=5, shuffle=True, random_state=seed)

train_preds = np.zeros(train_x.shape[0])

test_preds = np.zeros(test_x.shape[0])

cv_scores = []

for i, (train_index, valid_index) in enumerate(kf.split(train_x)):

print(f'Fold {i+1}/{kf.n_splits}')

trn_x, trn_y = train_x.iloc[train_index], train_y.iloc[train_index]

val_x, val_y = train_x.iloc[valid_index], train_y.iloc[valid_index]

model = clf(iterations=20000, learning_rate=0.1, depth=6, l2_leaf_reg=10, bootstrap_type='Bernoulli',code>

random_seed=seed, od_type='Iter', od_wait=100, allow_writing_files=False, task_type='CPU',code>

eval_metric='AUC')code>

model.fit(trn_x, trn_y, eval_set=(val_x, val_y), verbose=100, use_best_model=True)

val_pred = model.predict_proba(val_x)[:, 1]

test_pred = model.predict_proba(test_x)[:, 1]

train_preds[valid_index] = val_pred

test_preds += test_pred / kf.n_splits

cv_scores.append(f1_score(val_y, np.where(val_pred > 0.5, 1, 0)))

print(f"{clf_name} score list:", cv_scores)

print(f"{clf_name} mean score:", np.mean(cv_scores))

print(f"{clf_name} std score:", np.std(cv_scores))

return train_preds, test_preds

cat_train, cat_test = cv_model(CatBoostClassifier, x_train, y_train, x_test, "CatBoost")

pd.DataFrame(

{

'uuid': test['uuid'],

'Label': np.where(cat_test>0.5, 1, 0)

}

).to_csv('submit.csv', index=None)

模型测试结果

不难看出,最佳验证集表现都在0.93以上,并且得到达到最佳表现时的迭代次数都小于400,最少为38次,因为可以更快地得到最佳表现。而针对测试集,平均准确率也达到了0.89,并具有非常小的标准偏差,说明表明模型在不同折叠上的表现基本稳定且整体表现良好。



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。