Algoritmo de Gauss-Newton

Algoritmo de Gauss-Newton

En matemáticas, el algoritmo de Gauss-Newton se utiliza para resolver problemas no lineales de mínimos cuadrados. Es una modificación del método de optimización de Newton que no usa segundas derivadas y se debe a Carl Friedrich Gauss.

El problema

dadas m funciones f1,..., fm de n parámetros p1,..., pn con mn, queremos minimizar la suma

 S(p) = \sum_{i=1}^m (f_i(p))^2.

donde, p se refiere al vector (p1,..., pn).

El algoritmo

El algorimo de Gauss-Newton es un procedimiento iterativo. Esto significa que debemos proporcionar una estimación inicial del parámetro vector que denominaremos p0.

Estimaciones posteriores pk para el vector parámetro son producidas por la relación recurrente:

 p^{k+1} = p^k - \Big(J_f(p^k)^\top J_f(p^k)\Big)^{-1} J_f(p^k)^\top f(p^k),

donde f=(f1,..., fm) yJf(p) denota el Jacobiano de f en p (nótese que no es necesario que Jf sea cuadrada).

La matriz inversa, en la práctica, nunca se computa explícitamente. en lugar de ellos se utiliza

 p^{k+1} = p^k + \delta^k, \,

y se computa la actualización de δk resolviendo el sistema lineal

 J_f(p^k)^\top J_f(p^k) \, \delta^k = -J_f(p^k)^\top f(p^k).

una buena implementación del algoritmo de Gauss-Newton utiliza también un algoritmo de búsqueda lineal: en lugar de la fórmula anterior para pk+1, se utiliza

 p^{k+1} = p^k + \alpha^k \, \delta^k,

donde el número αk es de algún modo óptimo.

Otros algoritmos

La relación de recurrencia del Método de Newton para minimizar la función S es

 p^{k+1} = p^k - [H (S)(p^k)]^{-1} J_S(p^k), \,

donde JS y H(S) denotan el Jacobiano y Hessiano de S respectivamente. utilizando el método de Newton para la función

S(p) = \sum_{i=1}^m (f_i(p))^2

obtenemos la relación recurrente

 p^{k+1} = p^k - \left( J_f(p)^\top J_f(p) +  \sum_{i=1}^m f_i(p) \, H(f_i)(p) \right)^{-1} J_f(p)^\top f(p).

Podemos concluir que el método de Gauss-Newton es el mismo que el metodode Newton ignorando el término Σ f H(f).

Otros algoritmos utilizados para resolver el problema de los mínimos cuadrados incluyen el algoritmo de Levenberg-Marquardt algorithm y de descenso de gradiente.


Wikimedia foundation. 2010.

Игры ⚽ Поможем написать курсовую

Mira otros diccionarios:

  • Algoritmo — Los diagramas de flujo sirven para representar algoritmos de manera gráfica. En matemáticas, ciencias de la computación y disciplinas relacionadas, un algoritmo (del griego y latín, dixit algorithmus y éste a su vez del matemático persa Al… …   Wikipedia Español

  • Regresión no lineal — Saltar a navegación, búsqueda En estadística, la regresión no lineal es un problema de inferencia para un modelo tipo: basado en datos multidimensionales x,y, donde f es alguna función no lineal respecto a algunos parámetros desconocidos θ. Como… …   Wikipedia Español

  • Anexo:Matemáticos importantes — En esta lista de matemáticos importantes se presenta una selección de matemáticos desde la antigüedad hasta el presente. La selección se orienta por los aportes científicos, utilizando como criterio para definir el grado de notoriedad la atención …   Wikipedia Español

  • Integración numérica — En análisis numérico, la integración numérica constituye una amplia gama de algoritmos para calcular el valor numérico de una integral definida y, por extensión, el término se usa a veces para describir algoritmos numéricos para resolver… …   Wikipedia Español

  • Integración — La integral definida de una función representa el área limitada por la gráfica de la función, con signo positivo cuando la función toma valores positivos y negativo cuando toma valores negativos. Para otros usos de este término, véase Integración …   Wikipedia Español

  • Historia de la matemática — Página del Compendio de cálculo por el método de completado y balanceado de Muhammad ibn Mūsā al Khwārizmī (820 d.C.) La historia de las matemáticas es el área de estudio que abarca las investigaciones sobre los orígenes de los descubrimi …   Wikipedia Español

  • Análisis numérico — El análisis numérico o cálculo numérico es la rama de las matemáticas que se encarga de diseñar algoritmos para, a través de números y reglas matemáticas simples, simular procesos matemáticos más complejos aplicados a procesos del mundo real. El… …   Wikipedia Español

  • Fracción continua generalizada — Saltar a navegación, búsqueda En análisis complejo, una rama de las matemáticas, una fracción continua generalizada o fracción fractal es una generalización de una fracción continua en la cual los numeradores parciales y los denominadores… …   Wikipedia Español

  • Pequeño teorema de Fermat — Saltar a navegación, búsqueda …   Wikipedia Español

  • Estadística — Saltar a navegación, búsqueda Para análisis, datos y gráficas sobre Wikipedia, véase Wikipedia:Estadísticas. La estadística es una ciencia con base matemática referente a la recolección, análisis e interpretación de datos, que busca explicar… …   Wikipedia Español

Compartir el artículo y extractos

Link directo
Do a right-click on the link above
and select “Copy Link”