diffusion model

diffusion model (tsz. diffusion models)

1. (informatika, mesterséges intelligencia) A diffusion model – magyarul: diffúziós modell – egy olyan generatív mesterséges intelligencia-architektúra, amely képek, hangok vagy más adatok előállítására képes, azáltal, hogy fokozatosan zajt ad egy meglévő adatponthoz, majd megtanulja visszafordítani ezt a folyamatot, így új adatmintákat generál tiszta zajból.

Ez a módszer rendkívül népszerűvé vált az utóbbi években, különösen a képalkotó modellek (pl. DALL·E 2, Stable Diffusion, Midjourney) és a hanggeneráló rendszerek körében.

A diffúziós modellek megtanulják fokozatosan „elrontani” (zajossá tenni) egy bemeneti adatot, majd megtanulják a visszafordítást, hogy a zajból adatot tudjanak generálni.

• Forward process (diffusion) – az eredeti adatból (pl. kép) fokozatosan tiszta zaj lesz
• Reverse process (denoising) – a modell megtanulja, hogyan „takarítsa ki” a zajt és állítsa elő az adatot

1. Zaj hozzáadása: az adathoz (pl. képhez) véletlenszerű Gauss-zajt adunk sok lépésen keresztül.
2. Tanítás: a modell (pl. U-Net + időbeágyazás) megtanulja megjósolni az adott lépésnél lévő zajt, hogy visszafejthető legyen.
3. Generálás: új mintát zajból indítva iteratívan alkalmazzuk a megtanult „zajtalanító” lépéseket.

A forward folyamat:

$${\displaystyle q(x_{t}|x_{t-1})={\mathcal {N}}(x_{t};{\sqrt {1-\beta _{t}}}x_{t-1},\beta _{t}I)}$$

A cél, hogy megtanuljuk ${\textstyle p_{\theta }(x_{t-1}|x_{t})}$-t, azaz hogy egy zajos mintából rekonstruáljunk egy tisztább állapotot.

• U-Net architektúra – a zajtalanító hálózat
• Time embedding – a modell figyelembe veszi, melyik zajszintnél tart
• Variational Inference / ELBO – a tanulás matematikai alapja
• Classifier-free guidance – képgenerálás pontosságának növelése

✅ Magas minőségű minták ✅ Nagyobb kontroll a generálás felett ✅ Szöveges vagy képi kondicionálással irányítható ✅ Jobb mint GAN-ek sok területen (kevésbé hajlamos a “mode collapse”-re)

❌ Lassú generálás – több száz lépés ❌ Erőforrás-igényes – GPU-kon tanítandó ❌ Hosszabb betanítási idő ❌ Érzékeny a tanítási paraméterekre

A diffusion model:

• Egy generatív modell, amely adatokat zajból állít elő, fokozatos zajtalanítással
• Kiváló minőségű képek, hangok és más típusú adatminták előállítására képes
• Jelentős előrelépés a GAN-ekhez és VAE-khez képest sok területen
• A mesterséges intelligencia modern, kreatív alkalmazásainak központi technológiája

• diffusion model - Szótár.net (en-hu)
• diffusion model - Sztaki (en-hu)
• diffusion model - Merriam–Webster
• diffusion model - Cambridge
• diffusion model - WordNet
• diffusion model - Яндекс (en-ru)
• diffusion model - Google (en-hu)
• diffusion model - Wikidata
• diffusion model - Wikipédia (angol)