LoRA/QLoRA微调实战指南：1.LoRA原理（将权重更新分解为低秩矩阵ΔW=A×B，只训练A和B，参数量减少90%以上）；2.QLoRA（4-bit量化+LoRA，16GB显存可微调70B模型）；3.数据准备（指令跟随格式，每条样本包含system/instruction/input/output，建议500-5000条高质量数据）；4.Hugging Face PEFT实现（LoraConfig设置r=16, alpha=32, target_modules=q_proj/v_proj）；5.超参数选择（学习率1e-4, batch_size=4, gradient_accumulation=4, epochs=3）；6.训练监控（WandB追踪loss、learning rate、GPU内存）；7.评估方法（MMLU基准、人工评估、领域特定测试集）；8.合并权重（merge_and_unload导出完整模型用于推理）。