Gauss-Newton-módszer

• IPA:

Gauss-Newton-módszer (matematika, algoritmusok) A **Gauss-Newton-módszer** egy iteratív algoritmus, amelyet nemlineáris legkisebb négyzetek problémáinak megoldására használnak. A módszer a Newton-módszer egy leegyszerűsített változata, amely nemlineáris regresszió vagy más optimalizációs problémák során hasznos.

---

Ha egy nemlineáris függvényt ${\displaystyle f(x)}$ szeretnénk illeszteni az adatokhoz, az optimalizálandó célfüggvény a reziduális négyzetösszeg:

$${\displaystyle S(x)=\sum _{i=1}^{m}\left(r_{i}(x)\right)^{2},}$$

ahol a ${\displaystyle r_{i}(x)=y_{i}-f(x_{i})}$ a reziduális függvény.

A Gauss-Newton-módszer iterációval közelíti meg a minimumot:

1. Lineáris közelítést alkalmazunk ${\displaystyle r(x)}$ környezetében.
2. A Jacobian-mátrixot (${\displaystyle J}$) használjuk az irány meghatározásához.
3. Az iterációs szabály a következő:

  $${\displaystyle x_{k+1}=x_{k}-\left(J^{T}J\right)^{-1}J^{T}r(x_{k}),}$$
  ahol:
  * ${\displaystyle J}$ a Jacobian-mátrix, amely tartalmazza az ${\displaystyle r(x)}$-beli parciális deriváltakat.

---

Az alábbi példában bemutatjuk, hogyan használható a Gauss-Newton-módszer nemlineáris illesztéshez.

import numpy as np

def gauss_newton(f, jacobian, x0, y, max_iter=100, tol=1e-6):
    """
    Gauss-Newton algoritmus a legkisebb négyzetes illesztéshez.
    
    :param f: Nemlineáris függvény
    :param jacobian: Jacobian-mátrix (parciális deriváltak)
    :param x0: Kezdő paraméterek
    :param y: Megfigyelt adatok
    :param max_iter: Iterációk maximális száma
    :param tol: Tolerancia a konvergenciához
    :return: Optimalizált paraméterek
    """
    x = x0
    for i in range(max_iter):
        # Reziduális számítás
        r = y - f(x)
        # Jacobian számítás
        J = jacobian(x)
        # Gauss-Newton lépés
        delta = np.linalg.lstsq(J.T @ J, J.T @ r, rcond=None)
        x_new = x + delta
        # Konvergencia ellenőrzése
        if np.linalg.norm(delta) < tol:
            break
        x = x_new
    return x

# Példa függvény és Jacobian
def f(x):
    """Nemlineáris modell: y = a * e^(b * t)"""
    t = np.linspace(0, 10, len(y_data))
    return x * np.exp(x * t)

def jacobian(x):
    """Jacobian mátrix számítása"""
    t = np.linspace(0, 10, len(y_data))
    J = np.zeros((len(t), len(x)))
    J = np.exp(x * t)       # Parciális derivált x szerint
    J = x * t * np.exp(x * t)  # Parciális derivált x szerint
    return J

# Példa adatok
t_data = np.linspace(0, 10, 15)
y_data = 3 * np.exp(0.5 * t_data) + np.random.normal(0, 0.5, len(t_data))

# Kezdeti becslések
x0 = np.array()

# Optimalizáció
x_opt = gauss_newton(f, jacobian, x0, y_data)
print("Optimalizált paraméterek:", x_opt)

---

Az optimalizált paraméterek ${\displaystyle x_{0}}$ és ${\displaystyle x_{1}}$ lesznek, amelyek a legjobban illeszkednek az ${\displaystyle y=ae^{bt}}$ modellhez.

---

1. Gyors konvergencia: A módszer gyorsan konvergál, ha az induló becslés közel van a valódi megoldáshoz.
2. Limitáció: Nem garantált a globális minimum megtalálása, és a Jacobian-invertálás érzékeny lehet a rosszul kondicionált problémákra.
3. Alkalmazási terület: Használják nemlineáris regresszióban, mérnöki problémákban és adatillesztési feladatokban.

• Gauss-Newton-módszer - Értelmező szótár (MEK)
• Gauss-Newton-módszer - Etimológiai szótár (UMIL)
• Gauss-Newton-módszer - Szótár.net (hu-hu)
• Gauss-Newton-módszer - DeepL (hu-de)
• Gauss-Newton-módszer - Яндекс (hu-ru)
• Gauss-Newton-módszer - Google (hu-en)
• Gauss-Newton-módszer - Helyesírási szótár (MTA)
• Gauss-Newton-módszer - Wikidata
• Gauss-Newton-módszer - Wikipédia (magyar)