基于LoRA进行模型微调时，需要先冻结全部参数，再指定相应的Linear层进行微调，那么如何计算全部参数，如何计算微调参数以及如何计算微调参数占全部参数的比例呢？本文先对Qwen2模型结构进行一览，做到心中有数，之...

浏览 79 次 标签： 【AI大模型】Transformers大模型库（九）：大模型微调之计算微调参数占比