Free online thesis: On concentration, noise and entropy estimation in dynamical systems

Sur la concentration, le bruit et l'estimation de l'entropie dans le systèmes dynamiques

Cesar Maldonado (

)¹

1 :	CPHT - Centre de Physique Théorique

Cette thèse est divisée en trois parties. Dans la prèmiere partie nous décrivons les systèmes dynamiques que l'on considère tout au long de la thèse. Nous donnons aussi des résultats connus sur les fluctuations d'observables dans les systèmes dynamiques tels comme la théorème central limite, les grands déviations et les inégalités de concentration. La deuxième partie de cette thèse est consacrée aux systèmes dynamiques perturbés par un bruit observationnel. Nous démontrons que si un système dynamique satisfait une inégalité de concentration alors le système perturbé satisfait lui aussi une inégalité de concentration adéquate. Ensuite nous appliquons ces inégalités pour obtenir des bornes sur la taille des fluctuations d'observables bruitées. Nous considérons comme observables la fonction d'auto-corrélation, la mesure empirique, l'estimateur à noyau de la densité de la mesure invariante et la dimension de corrélation. Nous étudions ensuite les travaux de S. Lalley sur le problème de débruitage d'une série temporelle. Etant donné une série temporelle générée par un système dynamique chaotique bruité, il est effectivement possible d'éliminer le bruit en moyenne en utilissant l'algorithme de Lalley. Un chapitre de cette thèse est consacré à la preuve de ce théorème. Nous finissons la deuxième partie avec une quête numérique pour les meilleurs paramètres de l'algorithme de Lalley. Dans la troisième partie, nous étudions le problème de l'estimation de l'entropie pour des mesures de Gibbs unidimensionnelles. Nous étudions les propriétés de deux estimateurs de l'entropie. Le premier est basé sur les fréquences des blocs typiques observés. Le second est basé sur les temps d'apparition de blocs typiques. Nous appliquons des inégalités de concentrations pour obtenir un contrôle sur les fluctuations de ces estimateurs.

Date de soutenance	21/09/2012
Sujet	Mathématiques et leurs applications
Fonds	Ecole Polytechnique
Mots-clés	Inégalités de concentration – Bruit observationnel – Bornes de fluctuation – Estimation de l'entropie – Estimateurs empiriques
Titre en anglais	On concentration, noise and entropy estimation in dynamical systems
Résumé en anglais	This thesis is divided into three parts. In the first part we briefly describe the class of dynamical systems considered. We also give some known results on the study of fluctuations of observables in dynamical systems such as the central limit theorem, large deviations and concentration inequalities. In the second part we study dynamical systems perturbed by observational noise. We prove that if a dynamical system satisfies a concentration inequality then the system with observational noise also satisfies a concentration inequality. We apply these inequalities to obtain fluctuation bounds for the auto-covariance function, the empirical measure, the kernel density estimator and the correlation dimension. Next, we study the work of S. Lalley on the problem of signal recovery. Given a time series of a chaotic dynamical system with observational noise, one can effectively eliminate the noise in average by using Lalley's algorithm. A chapter of this thesis is devoted to the proof of consistency of that algorithm. We end up the second part with a numerical quest for the best parameters of Lalley's algorithm. The third part is devoted to entropy estimation in one-dimensional Gibbs measures. We study the fluctuations of two entropy estimators. The first one is based on the empirical frequencies of observation of typical blocks. The second is based on the time a typical orbit takes to hit an independent typical block. We apply concentration inequalities to obtain bounds on the fluctuation of these estimators.
Key words	Concentration inequalities – Observational noise – Fluctuation bounds – Entropy estimation – Empirical estimators