Article · Finance & statistiques

Ce que la géométrie postérieure dit aux approximations TAP

Dans un modèle linéaire bayésien sphérique, une analyse établit une approximation TAP fine et localise ses maximisateurs près de la moyenne postérieure.

Une géométrie postérieure sphérique relie des approximations TAP à une moyenne bayésienne.

Un modèle linéaire à haute dimension

Jingbo Liu et Zhiyuan Yu étudient une régression linéaire bayésienne avec un a priori uniforme sur une sphère, lorsque dimension et taille d’échantillon croissent proportionnellement. Le design doit satisfaire une condition de régularité spectrale de type Marchenko–Pastur, mais l’analyse ne demande pas l’indépendance entrée par entrée ni des hypothèses sur les vecteurs singuliers.

Une approximation sous le bruit des fluctuations

Pour la fonctionnelle TAP à ratio d’aspect fini, la différence avec la free energy sphérique est d’ordre O_P(p⁻¹), alors que chacune fluctue autour de son équivalent déterministe à l’échelle O_P(p⁻¹ᐟ²). Les maximisateurs globaux TAP sont eux-mêmes à distance quadratique normalisée O_P(p⁻¹) de la moyenne postérieure sphérique.

Les bandes de concentration

Les auteurs bornent aussi exponentiellement la masse postérieure hors d’une bande autour d’un estimateur ridge dépendant des données. Toute suite de largeurs ε_p telle que √p ε_p tende vers l’infini capture asymptotiquement toute la masse, sous les hypothèses du théorème.

Interprétation éditoriale : ne pas confondre point et distribution

Pour un agent de décision, une approximation utile doit indiquer à la fois son estimateur central et la géométrie de l’incertitude autour de lui. Ce résultat rappelle qu’un score unique peut être plus précis que la fluctuation globale tout en laissant une bande postérieure non négligeable à l’échelle fine.

Limites et statut de la source

Il s’agit d’un résultat théorique pour un modèle bayésien sphérique et des designs respectant une condition spectrale quantitative. Il ne valide pas automatiquement une approximation TAP pour des réseaux profonds, des priors non sphériques ou des données hors régime proportionnel. Les ordres probabilistes ne sont pas des garanties individuelles pour un dataset donné.

Source

Jingbo Liu et Zhiyuan Yu, « TAP Accuracy Below the Fluctuation Scale and Universal Posterior Geometry in Spherical Linear Models », ArXiv 2609.20577v1 : résumé et preprint, PDF.