Bayesian modeling and estimation for complex multiparameter problems with real applications

Abstract

In the big data era, the study of complex multiparameter problems is more than necessary. The development of Machine Learning techniques enhanced the inferential ability of statistical models. In this direction, by leveraging Machine Learning techniques, we propose a new predictive Hidden Markov model with exogenous variables, within a Bayesian framework, for joint inference and variable selection. We propose a computational Markov Chain Monte Carlo algorithm that offers improved forecasting and variable selection performance, compared to existing benchmark models. Our methodology is applied in various simulated and real datasets, such as realized volatility data and cryptocurrency return series. Furthermore, we exploit the Bayesian methodology in implementing the X-ray luminosity function of the Active Galactic Nuclei under the assumption of Poisson errors in the determination of X-ray fluxes and estimation uncertainties.

Στην εποχή της πληροφορίας και του μεγάλου όγκου δεδομένων, η ανάπτυξη τεχνικών εκμάθησης (Machine Learning) με τη βοήθεια των ηλεκτρονικών υπολογιστών, μας έδωσε τη δυνατότητά να μελετήσουμε πολύπλοκα προβλήματα. Η μη εύρεση αναλυτικών λύσεων για εκτίμηση των παραμέτρων διάφορων υποδειγμάτων έχει οδηγήσει στην άνθιση της Μπεϋζιανής συμπερασματολογίας. Σε αυτή την κατεύθυνση στρέφεται και η παρούσα Διδακτορική διατριβή. Με εργαλεία τις τεχνικές εκμάθησης, ασχολούμαστε με τη μοντελοποίηση πολύπλοκων πολυμεταβλητών Μπεϋζιανών μοντέλων. Η διατριβή αυτή χωρίζεται σε δύο βασικά ερευνητικά πεδία. Το πρώτο πεδίο αφορά την ανάπτυξη Κρυμμένων Μαρκοβιανών μοντέλων (Hidden Markov models) με πεπερασμένα στάδια (states/regimes) και εξωγενείς επεξηγηματικές μεταβλητές. Ιδιαίτερα, επεκτείνουμε προηγούμενα Κρυμμένα Μαρκοβιανά μοντέλα, προτείνοντας συγκεκριμένη μεθοδολογία, βασιζόμενη στην Polya-Gamma τεχνική αύξησης δεδομένων (data augmentation) για την εκτίμηση των παραμέτρων, ενώ ταυτόχρονα επιλέγουμε στοχαστικά τις επεξηγηματικές μεταβλητές που επηρεάζουν την ανεξαρτητη μεταβλητή. Αξιοποιώντας μεθόδους βασισμένες σε Μαρκοβιανές Αλυσίδες Μοντε Καρλο (Markov Chain Monte Carlo), προτείνουμε ένα σχήμα προσομοίωσης για πιο ακριβή συμπερασματολογία και εν τέλει βελτιωμένες προβλέψεις, σε σχέση με προηγούμενες εργασίες. Αποδεικνύουμε εμπειρικά, ότι η μεθοδολογία αυτή υπερέχει, τόσο στις προβλέψεις όσο και στην επιλογή των επεξηγηματικών μεταβλητών, έναντι άλλων προτεινόμενων μοντέλων, σε προσομοιωμένα δεδομένα. Στη συνέχεια εφαρμόζουμε το προαναφερθέν μοντέλο σε realized volatility δεδομένα. Επιπλέον, μελετάμε χρονολογικές σειρές κρυπτονομισμάτων χρησιμοποιώντας τα Κρυμμένα Μαρκοβιανά μοντέλα, με απώτερο στόχο να κατανοήσουμε τα χαρακτηριστικά αυτών των καινούργιων επενδυτικών αγαθών (financial assets) \gr και τη σχέση τους με τα υπάρχοντα συμβατικά οικονομικά αγαθά (traditional financial assets). Τέλος, εφαρμόζοντας διάφορα Κρυμμένα Μαρκοβιανά μοντέλα σε σειρές αποδόσεων κρυπτονομισμάτων, δείχνουμε ότι το προτεινόμενο μοντέλο με τέσσερα στάδια έχει μεγαλύτερη προβλεπτική ισχύ από όλα υπόλοιπα μοντέλα της μελέτης μας. Το δεύτερο ερευνητικό πεδίο αφορά μία εφαρμογή των Μπεϋζιανών διαδικασιών Poisson για τη μοντελοποίηση της X-ray πιθανοφάνειας των Ενεργών Γαλαξιακών Νουκλεοτιδίων (Active Galactic Nuclei). Σε συνεργασία με μία ερευνητική ομάδα αποτελούμενη από φυσικούς και αστροφυσικούς, μέσω της Μπεϋζιανής προσέγγισης, λαμβάνουμε υπόψη τα \en Poisson σφάλματα που προκύπτουν από τις διακυμάνσεις των X-rays καθώς επίσης και την αβεβαιότητα στην εκτίμηση των φωτομετρικών ερυθρομετατοπίσεων. Έτσι, συμβάλουμε στην καλύτερη κατανόηση της δημιουργίας των υπερμαζικών μελανών οπών (supermassive black holes) στο σύμπαν.