Famille de procédures modifiant un objet ou un problème mathématique pour supprimer singularités ou mal-posés, généralement par l'ajout d'un lissage, d'une pénalisation ou de contraintes de sorte que le problème modifié soit stable et mieux conditionné.

Principe

La régularisation échange fidélité à l'énoncé exact contre stabilité : en introduisant pénalité, noyau de lissage, troncature ou a priori on impose continuité, compacité ou coercivité, rendant les solutions bien posées ou numériquement calculables en présence de bruit.

Démonstration

La régularisation de Tikhonov remplace un problème linéaire mal posé Ax=b par la minimisation de ‖Ax-b‖^2+λ‖x‖^2 pour λ>0, stabilisant la solution ; la mollification d'une distribution par convolution avec un noyau lisse à support compact supprime les singularités et fournit des approximations lisses.

Mauvaise application

Sur-régulariser au point de biaiser la solution et d'effacer des caractéristiques essentielles, choisir un régularisateur incompatible qui impose une structure fausse (par exemple lisser alors que la solution vraie est parcimonieuse), ou ne pas sélectionner un paramètre adapté aux données conduisant à sous- ou sur-ajustement.

Conséquence

Une régularisation bien choisie donne un approximant stable avec un compromis biais–variance contrôlé, permet le calcul numérique et la convergence lorsque le paramètre est réglé correctement, et assure souvent unicité ou dépendance continue aux données.

Inversion

Retirer la régularisation (laisser le paramètre de régularisation tendre vers zéro sans contrôler le bruit) peut rétablir le caractère mal posé : de petites perturbations des données entraînent de larges variations de la solution ; inversement, une régularisation extrême produit des limites surlissées et triviaux.

Limite

La régularisation s'applique lorsque des problèmes sont mal posés ou singuliers, et suppose le choix d'une topologie ou d'une norme pour mesurer la stabilité ; elle ne garantit pas la récupération de la vérité si le modèle est incorrect ou si le paramètre est mal choisi, et exclut les manipulations purement formelles qui n'apportent pas de stabilisation.

Tension sémantique

« Régularisation » est proche mais distincte de la « renormalisation » en physique et du simple lissage ; des tensions existent entre imposer parcimonie versus régularité, régularisateurs pilotés par les données versus fondés sur un modèle, et modifications ponctuelles versus pénalités globales.

Synthèse

La régularisation consiste à introduire délibérément une structure auxiliaire — pénalités, lissages, troncatures ou a priori — pour transformer un problème singulier ou mal posé en un problème stable et calculable, en équilibrant fidélité et stabilité par le choix de paramètres.