Ανθεκτική παλινδρόμηση με μαθηματικό προγραμματισμό

Abstract

The aim of the present thesis was the development of new robust regression estimators and the introduction of diagnostic measures for the identification of outliers in data sets whose variables deviate from the ideal normality assumptions. The basic target of the thesis was the presentation of the advantages of the mathematical programming technique through which the identification of new types of robust regression estimators is feasible which belong in the class of M, GM or in high breakdown point estimators as LTS, S and MM. The comparison of the different new robust estimators with the classical famous estimators of the robust literature indicated the utility of the new estimators and also the importance of the introduction of mathematical programming as a very useful technique in robust regression. More specifically, we developed a new robust covariance estimator. A faster solution of the robust M and GM estimators was succeeded, compared to the classical iterated method IRLS, with the insertion of restrictions in the mathematical programming models. We presented two new maximum likelihood robust estimators of scale for the high breakdown robust estimator PTS, where the number of the outliers is not required a priori. Furthermore, we introduced a new high breakdown robust estimator with bounded influence function. Finally, we developed a new support vector machine’s model in regression.

Σκοπός της διατριβής ήταν η ανάπτυξη νέων ανθεκτικών εκτιμητών παλινδρόμησης καθώς και η εισαγωγή διαγνωστικών μέτρων για τον εντοπισμό ακραίων παρατηρήσεων σε σύνολα δεδομένων των οποίων οι μεταβλητές αποκλίνουν από τις ιδανικές συνθήκες κανονικότητας. Ο βασικός στόχος της διατριβής ήταν η παρουσίαση των πλεονεκτημάτων της τεχνικής του μαθηματικού προγραμματισμού μέσω του οποίου είναι εφικτός ο προσδιορισμός νέων τύπων ανθεκτικών εκτιμητών παλινδρόμησης οι οποίοι ανήκουν στην κλάση των M, GM ή στην κλάση των εκτιμητών υψηλού σημείου κατάρρευσης όπως LTS, S και MM. Η σύγκριση των διάφορων νέων ανθεκτικών εκτιμητών με τους γνωστούς κλασσικούς εκτιμητές από την ανθεκτική βιβλιογραφία υπέδειξε τη χρησιμότητα των νέων εκτιμητών αλλά και την αναγκαιότητα εισαγωγής του μαθηματικού προγραμματισμού ως μια πολύ χρήσιμη τεχνική στην ανθεκτική παλινδρόμηση. Πιο συγκεκριμένα, αναπτύξαμε ένα νέο ανθεκτικό εκτιμητή συνδιακύμανσης. Πετύχαμε ταχύτερη επίλυση των ανθεκτικών M και GM εκτιμητών, συγκριτικά με την κλασσική επαναληπτική μέθοδο IRLS, με την εισαγωγή περιορισμών στα διάφορα πρότυπα μαθηματικού προγραμματισμού. Για τον ανθεκτικό εκτιμητή υψηλού σημείου κατάρρευσης PTS στο οποίο δεν απαιτείται εκ των προτέρων ο αριθμός των ακραίων παρατηρήσεων, αναπτύξαμε δύο νέους εκτιμητές ανθεκτικής κλίμακας μεγίστης πιθανοφάνειας. Εισαγάγαμε ένα νέο ανθεκτικό εκτιμητή υψηλού σημείου κατάρρευσης με περιορισμένη τη συνάρτηση επίδρασης. Τέλος, αναπτύξαμε ένα νέο μοντέλο μηχανισμού διανυσμάτων υποστήριξης στην παλινδρόμηση.