Τεχνικές μηχανικής μάθησης για πρόβλεψη πολλαπλών μεταβλητών

Abstract

This thesis studies a category of machine learning problems where the aim is to construct models that predict multiple target variables based on a common set of input variables. We developed a complete software for learning from multi-label data and showed that it is useful as both a scientific as well as a practical tool. We also studied the problem of multi-target regression and proposed novel techniques that treat target variables as additional input variables. The proposed methods manage to successfully model dependencies in the output space, thus attaining significantly better accuracy than both the baseline approach as well as four state-of-the-art methods from the literature. Finally, the thesis focused at a popular multi-label classification problem, automated image annotation. We proposed new vectorized image representation methods that attain state-of-the-art accuracy while also being highly scalable.

Η διατριβή μελετά μία κατηγορία προβλημάτων μηχανικής μάθησης στα οποία σκοπός είναι η κατασκευή μοντέλων πρόβλεψης πολλαπλών μεταβλητών-στόχων από ένα κοινό σύνολο μεταβλητών εισόδου. Στα πλαίσια της διατριβής αναπτύχθηκε ένα πλήρες λογισμικό μάθησης από δεδομένα πολλαπλών ετικετών και επιδείχθηκε η χρησιμότητά του τόσο ως ερευνητικό όσο και ως πρακτικό εργαλείο. Επίσης, μελετήθηκε το πρόβλημα της παλινδρόμησης πολλαπλών-στόχων και προτάθηκαν καινοτόμες μέθοδοι οι οποίες μεταχειρίζονται τις μεταβλητές-στόχους ως επιπρόσθετες μεταβλητές εισόδου. Οι προτεινόμενες μέθοδοι καταφέρνουν να μοντελοποιήσουν με επιτυχία τις εξαρτήσεις στον χώρο εξόδου, πετυχαίνοντας έτσι σημαντικά μεγαλύτερη ακρίβεια τόσο σε σχέση με τη βασική προσέγγιση όσο και σε σχέση με τέσσερις προηγμένες μεθόδους της βιβλιογραφίας. Τέλος, η διατριβή εστίασε σε ένα διαδεδομένο πρόβλημα ταξινόμησης πολλαπλών ετικετών, την αυτόματη επισήμανση εικόνων. Προτάθηκαν νέες μέθοδοι διανυσματικής αναπαράστασης των εικόνων οι οποίες πετυχαίνουν κορυφαίες επιδόσεις από άποψη ακρίβειας ενώ παράλληλα χαρακτηρίζονται από εξαιρετικές δυνατότητες κλιμάκωσης.