Application de méthodes différentielles géométriques à des familles de lois de probabilité, traitant les espaces de paramètres comme des variétés munies de métriques issues de la théorie de l'information telles que la métrique de Fisher–Rao et de connexions affines duales induites par des divergences statistiques.

Principe

Modéliser les modèles statistiques paramétriques comme des variétés lisses dont l'information de Fisher définit une métrique riemannienne et dont les connexions canoniques (exponentielle et mixte) décrivent des systèmes de coordonnées duaux; les quantités géométriques (géodésiques, courbure) codent des propriétés d'estimation et d'inférence.

Démonstration

Pour la famille des normales univariées paramétrées par la moyenne μ et la variance σ^2, la métrique de Fisher–Rao fournit une métrique riemannienne bidimensionnelle; les géodésiques représentent des interpolations naturelles entre distributions et la courbure influence la borne inférieure de Cramér–Rao pour les estimateurs sans biais.

Mauvaise application

Appliquer des distances euclidiennes naïves sur des paramètres bruts (par exemple traiter la moyenne et le log-variance comme des coordonnées orthonormées) ou remplacer la métrique de Fisher par des divergences arbitraires sans vérifier l'approximation quadratique locale conduit à des métriques qui déforment la distinguabilité statistique et peuvent biaiser l'inférence.

Conséquence

Une formulation information-géométrique correcte fournit des énoncés invariants de coordonnées sur l'efficacité et le biais des estimateurs, des méthodes de gradient naturel pour l'optimisation et des liens quantitatifs entre courbure et difficulté statistique.

Inversion

Inverser le point de vue en traitant l'espace des paramètres comme purement euclidien et en ignorant la structure informationnelle; on retrouve l'analyse classique fondée sur les paramètres mais on perd l'invariance et l'interprétation géométrique de l'information.

Limite

S'applique principalement aux familles paramétriques lisses avec vraisemblance différentiable et paramètres identifiables; les extensions aux modèles de dimension infinie ou singuliers exigent un formalisme fonctionnel additionnel et peuvent échouer quand le support dépend des paramètres.

Tension sémantique

La tension vient de la vision de l'objet comme variété géométrique (accent sur métriques, courbure) versus comme objet probabiliste (accent sur divergences et sens inférentiel); différentes communautés privilégient les structures riemanniennes ou affines duales.

Synthèse

La géométrie de l'information unit géométrie différentielle et théorie statistique en dotant les familles de paramètres de métriques et de connexions dérivées de mesures d'information, produisant des perspectives invariantes sur l'estimation, l'inférence et l'optimisation.