LoRA

Если без шуток

LoRA (Low-Rank Adaptation) — это метод эффективного дообучения нейросетей, при котором замораживаются веса основной модели, а обучаются только дополнительные параметры низкого ранга. Этот подход значительно снижает требования к вычислительным ресурсам и ускоряет адаптацию модели к специфическим задачам.