Pereiti prie turinio
LaFoto

DI vaizdų žodynas

Kas yra LoRA?

Mažas apmokytas priedas, išmokantis bazinį modelį konkretaus stiliaus, personažo ar objekto be viso modelio permokymo.

LoRA — Low-Rank Adaptation trumpinys — yra mažas failas, modifikuojantis didelį vaizdų modelį taip, kad šis kurtų konkrečią stilistiką, personažą, objektą ar estetiką. Vietoje kelių gigabaitų modelio pertreniruotės LoRA išmoko kompaktišką pataisų rinkinį — paprastai nuo kelių dešimčių iki kelių šimtų megabaitų — taikomą ant bazinio modelio generavimo metu.
mažas žalvarinis perėjimo žiedas, padėtas ant didelio fotoaparato objektyvo, ant šilto popieriaus

Problema, kurią sprendžia LoRA

Bazinis vaizdų modelis daug žino apskritai ir nieko — apie Jūsų konkretų objektą. Jis nematė Jūsų produkto, personažo, iliustravimo stiliaus ar veido. Išmokyti tai pertreniruojant pilną modelį reikalauja tokios įrangos ir duomenų, kad tai praktiškai neįmanoma, ir dar sukuria naują daugiagigabaitį failą kiekvienai variacijai.

Kodėl „low rank“ daro jį mažą

Įžvalga ta, kad specializuoti modelį reikia daug paprastesnės korekcijos nei pats modelis. Vietoje kiekvieno svorio perrašymo LoRA mokosi kompaktiškos faktorizacijos — dviejų mažų matricų, kurių sandauga aproksimuoja pokytį — ir to pakanka. Rezultatas — failas, du ar tris dydžių eilėmis mažesnis už modifikuojamą modelį, treniruojamas vienoje vartotojiškoje vaizdo plokštėje per minutes ar valandas.

Kam realiai juos treniruoja

Dominuoja keturios kryptys. Stilius — kad viskas būtų vienoje iliustracinėje ar fotografinėje manieroje. Personažas — kad tas pats asmuo ar būtybė nuosekliai pasirodytų daugelyje vaizdų. Objektas — dažniausiai produktas, kuris turi atrodyti tiksliai taip pat. Ir sąvoka, su kuria bazinis modelis tvarkosi prasčiau — konkretus drabužio konstravimas, architektūrinė detalė, nišinė įranga.

Krovimas, svoriai ir kur viskas sugenda

Kelią LoRA galima taikyti kartu, kiekvieną su savo stiprumu — čia ir glūdi daugiausia praktinių sunkumų. Dvi pilno stiprumo stiliaus LoRA susikerta ir „išverda“ košę; per didelis personažo LoRA svoris į kiekvieną vaizdą „praneša“ savo treniravimo foną. Įprastas sprendimas — mažinti svorius, o ne trinti failus: dauguma krovimo bėdų yra „garsumo“ bėdos.

Licencijavimo klausimas, kurį praleidžia

LoRA yra darinys tiek iš bazinio modelio, tiek iš treniravimo vaizdų, ir nė vieno automatiškai neturite teisės platinti. Bendruomenės LoRA turi savo licencijas, kai kurios draudžia komercinį naudojimą, o LoRA, apmokyta pagal gyvo menininko darbus, kad atkartotų jo stilių, kelia klausimą, kurio jokia licencija iki galo neišsprendžia. Patikrinkite prieš statydami verslą ant tokio pagrindo.

LoRA trumpai

Reiškia
Mažo rango adaptacija
Failo dydis
Nuo kelių dešimčių iki šimtų MB
Bazinio modelio dydis
Keli GB
Įkeliama vienu metu
Keli, su svoriais
Ko moko
Stiliaus, personažo arba objekto
Perkeliama tarp modelių
Ne

Pritaikykite

Kur tai pasirodo

LoRA — questions people ask

Ką reiškia LoRA?
Low-Rank Adaptation. Tai nurodo matematinę techniką, dėl kurios priedinis failas yra mažas, o ne ką nors specifinio apie vaizdus.
Kokio dydžio yra LoRA failas?
Paprastai nuo kelių dešimčių iki kelių šimtų megabaitų, kai bazinis modelis sveria kelis gigabaitus.
Ar man reikia LoRA, kad kurčiau gerus vaizdus?
Ne. Jos reikalingos pridėti tai, ko bazinis modelis dar „nežino“ — Jūsų produktą, personažą, konkretų stilių. Bendrai kūrybai pakanka bazinio modelio.
Ar galiu naudoti daugiau nei vieną LoRA vienu metu?
Taip, kiekvieną su atskiru stiprumu. Dvi stiprios stiliaus LoRA linkusios konfliktuoti; dažniausiai pakanka sumažinti svorius, o ne šalinti vieną iš jų.
Ar galiu ištreniruoti savo LoRA?
Taip, ir tai prieinamiausia modelio pritaikymo forma — dažnai pakanka nuosaikaus vaizdų rinkinio ir vartotojiškos vaizdo plokštės. Kokybę daug labiau lemia treniravimo vaizdų nuoseklumas nei jų kiekis.
Ar LoRA veikia su bet kuriuo modeliu?
Ne. LoRA treniruojama konkrečiai bazinei architektūrai ir nepersikelia į nesusijusią. Vienos modelių šeimos LoRA neįsikraus į kitą.
Ar LoRA visada laisvai naudotinos komerciškai?
Ne automatiškai. Kiekviena turi savo licenciją, be to, galioja ir bazinio modelio licencija. Kai kurios bendruomenės LoRA aiškiai draudžia komercinį naudojimą.

Pradėkite kurti šiandien

Sugeneruokite pirmą vaizdą su geriausiu DI vaizdų generatoriumi.

Paverskite sakinį užbaigtu, fotorealistiniu vaizdu per kelias sekundes — o tada ištobulinkite kiekvieną detalę. Be diegimo, be Discord, be GPU.

Prisijunkite prie 4 200+ kūrėjų, naudojančių LaFoto