logo inria

RR-5185 - Connections between U-Lagrangian, Riemannian Newton and SQP Methods

-----------------------
Miller, Scott A. - Malick, Jérôme
Rapport de recherche de l'INRIA - Rhone-Alpes , Equipe : BIPOP
20 pages - Mai 2004 - Document en anglais
Titre français : Connections entre le U-lagrangien, la géométrie riemannienne et les méthodes SQP
-----------------------
Abstract : This paper studies Newton-type methods for minimization of partly smooth convex functions. Sequential Newton methods are provided using local parameterizations obtained from U-Lagrangian theory and from Riemannian geometry. The Hessian based on the U-Lagrangian depends on the selection of a dual parameter g; by revealing the connection to Riemannian geometry, a natural choice of g emerges for which the two Newton directions become identical. This choice of g is also shown to be related to the least-squares multiplier estimate from a sequential quadratic programming (SQP) approach, and with this multiplier, SQP gives the same search direction as the Newton methods.

Résumé : La méthode de Newton est le prototype des algorithmes rapides d'optimisation. Dans cet article, nous étudions différentes manières de l'étendre pour minimiser une fonction convexe, non-lisse, mais partly-smooth (au sens de Adrian Lewis). Nous proposons des méthodes de Newton séquentielles qui utilisent des paramétrisations locales issues de la géométrie riemannienne et de la théorie du U-lagrangien. Le hessien du U-lagrangien dépend d'un paramètre dual g¸; l'interprétation géométrique impose un choix naturel pour ce paramètre dual, avec lequel les différentes directions de Newton considérées coïncident. De plus, ce paramètre dual est associé au multiplicateur des moindres-carrés de l'approche par programmation quadratique séquentielle (SQP). Avec ce multiplicateur, SQP donne la même direction de Newton que les méthodes précédentes.
-----------------------
Key-Words : NON-SMOOTH OPTIMIZATION / CONVEX ANALYSIS / PARTIAL SMOOTHNESS / U-LAGRANGIAN / RIEMANNIAN GEOMETRY / GEODESICS
Mots-clés : OPTIMISATION NON LISSE / ANALYSE CONVEXE / PARTIAL SMOOTHNESS / U-LAGRANGIEN / GÉOMÉTRIE RIEMANNIENNE / GÉODÉSIQUES
-----------------------