Μοντελοποίηση γλώσσας για συστήματα μηχανικής μετάφρασης με μονόγλωσσο σώμα κειμένων

Abstract

This PhD thesis aims at finding an effective way of modeling the language in order to be used in a Machine Translation system that utilises a monolingual target language (TL) corpus and also at optimising the parameters of the language model using evolutionary algorithms and a combination of automatic MT evaluation metrics that ensure an objective evaluation of the quality of the produced translation. In the first section of the thesis the language model, model for the translation system was presented. The model allows the mapping of a clause in the source language (SL) to clauses from the TL corpus through a complex clause comparison process on two levels the first is at word level and the second at phrasal level based on the phrases identified after the syntactic analysis of the clauses SL and TL clause comparisons are performed using an implementation of the Hungarian pattern matching algorithm combined with a series of numerical parameters of the translation model. This approach does not require any bilingual data but only relies on a TL corpus and a bilingual lexicon combining characteristics from various MT paradigms rule based and stochastic tools for SL and TL text processing and statistical information for the translation process. More specifically translation involves determining alignments between items in the two languages. Unlike many MT systems instead of sequences of η grams the system handles syntactically defined phrasal segments of varying length generated by syntactic parser. We begin by giving a detailed description of the METIS-II translation system as well as the representation and storage method of all information regarding the monolingual corpus followed by the description of the process of applying the language model to the translation system. The evaluation of the translation results is performed by applying well established metrics of automatic evaluation and comparing the results with a standard commercial machine translation system. In the second part of the thesis we present the optimisation method of the model parameters. The absence of a parallel corpus prohibits the use of the training techniques traditionally employed in state of the art Statistical Machine Translation systems. The proposed approach for fine tuning the system parameters towards the generation of high quality translations is based on Evolutionary Algorithms and more specifically on a Genetic Algorithm and on the Strength Pareto Evolutionary Algorithm 2 (SPEA2). Even though the nature of Evolutionary Algorithms makes them ideal for the task they have not been widely used for the optimisation of MT system parameters. In order to confirm the effectiveness of this approach a number of experiments were conducted involving the use and combination of modern automatic MT evaluation criteria as fitness functions to the evolutionary algorithms. In this approach the problem of MT parameter optimisation is treated as a multiobjective optimisation problem attempting to optimise system parameters by applying multiple MT evaluation metrics. Previous approaches in the simultaneous application of two MT evaluation metrics for the training and optimisation of MT systems combined them either by simply adding them up or by interpolating them and had only been tested in statistical systems. The methodology developed here combines two automatic evaluation metrics for the optimisation of the system parameters in two ways, a) as a weighted sum and alternatively, b) as two distinct criteria in a Pareto based multiobjective optimisation using the SPEA2 evolutionary algorithm. The optimisation of the parameters of a hybrid MT system combining multiple MT evaluation criteria using either a GA or a Pareto based evolutionary multiobjective algorithm such as SPEA2 is novel in the field of MT while to the best of our knowledge a Pareto based combination has never been applied to either the combination of translation quality criteria or to the task of optimising the parameters of an MT system. The presentation of the proposed optimisation method is followed by a series of comprehensive experiments designed to objectively evaluate the method.

Η διδακτορική διατριβή του υποψήφιου είχε ως αντικείμενο την εύρεση ενός αποδοτικού τρόπου ανάλυσης της γλωσσάς ώστε να εφαρμοσθεί σε ένα σύστημα μηχανικής μετάφρασης με μονόγλωσσο σώμα κειμένων καθώς και η βελτιστοποίηση των παραμέτρων του γλωσσικού μοντέλου εφαρμόζοντας εξελικτικούς αλγορίθμους και η αξιοποίηση υπαρχόντων μετρικών αυτόματης αξιολόγησης ώστε μέσα από το συνδυασμό τους να αξιολογούνται αντικειμενικότερα τα αποτελέσματα της μεταφραστικής διαδικασίας. Αναλυτικότερα στο πρώτο μέρος της διατριβής προτάθηκε το μοντέλο της γλώσσας για το μεταφραστικό σύστημα. Το μοντέλο επιτρέπει την αντιστοίχιση μιας πρότασης στη γλώσσα πηγή σε προτάσεις από το σώμα κειμένων της γλώσσας στόχου μέσα από μια συνθέτη διαδικασία σύγκρισης ανάμεσα σε προτάσεις των δύο γλωσσών σε δύο επίπεδα, σε επίπεδο λέξεων και σε επίπεδο φράσεων οι οποίες προκύπτουν μετά από συντακτική ανάλυση των προτάσεων. Οι συγκρίσεις εκτελούνται με τη χρήση του αλγορίθμου αναγνώρισης προτύπων Hungarian σε συνδυασμό με μια σειρά αριθμητικών παραμέτρων του μεταφραστικού μοντέλου. Αρχικά περιγράφεται το μεταφραστικό σύστημα METIS II και η μέθοδος αναπαράστασης και αποθήκευσης κάθε πληροφορίας αναφορικά με το μονόγλωσσο σώμα κείμενων και στη συνέχεια η διαδικασία εφαρμογής του μοντέλου της γλώσσας στο μεταφραστικό σύστημα συνοδευόμενη από τα αποτελέσματα της αξιολόγησης της ποιότητας της μετάφρασης χρησιμοποιώντας καθιερωμένες μετρικές αυτόματης αξιολόγησης καθώς και σύγκριση με ένα καθιερωμένα εμπορικό σύστημα μηχανικής μετάφρασης. Στο δεύτερο μέρος της διατριβής παρουσιάζεται η μέθοδος βελτιστοποίησης των παραμέτρων του μοντέλου. Εξαιτίας τις ιδιαίτερης φύσης του γλωσσικού μοντέλου δεν μπορούν να εφαρμοσθούν άμεσα οι κλασσικές τεχνικές βελτιστοποίησης των στατιστικών συστημάτων μηχανικής μετάφρασης. Για τον λόγο αυτό επιλέξαμε να υλοποιήσουμε μια πρωτότυπη μέθοδο για τη βελτιστοποίηση των παραμέτρων η οποία βασίζεται στους εξελικτικούς αλγορίθμους (Evolutionary Algorithms) και πιο συγκεκριμένα τους Γενετικούς Αλγορίθμους (Genetic Algorithms) και τον πολυκριτηριακό εξελικτικό αλγόριθμο SPEA2. Αν και η φύση των αλγορίθμων αυτών τους καθιστά ιδανικούς για το συγκεκριμένο πρόβλημα στον τομέα της μηχανικής μετάφρασης δεν έχουν χρησιμοποιηθεί για τη βελτιστοποίηση της ποιότητας της μετάφρασης. Με την εφαρμογή των εξελικτικών αλγορίθμων στη βελτιστοποίηση των παραμέτρων του μεταφραστικού συστήματος εκτελέστηκαν πειράματα που αφορούσαν την αξιοποίηση και τον συνδυασμό συγχρόνων μετρικών αυτόματης αξιολόγησης της ποιότητας της μετάφρασης ως συναρτήσεις καταλληλόλητας των αλγορίθμων. Αν και στη βιβλιογραφία υπάρχουν αναφορές συνδυασμού τέτοιων μετρικών για την εκπαίδευση στατιστικών μοντέλων σε μεταφραστικά συστήματα δεν υπάρχουν αναφορές για το συνδυασμό τους ως διακριτά κριτήρια στα πλαίσια μιας προσέγγισης Pareto. Εφαρμόζοντας τον αλγόριθμο SPEA2 στη βελτιστοποίηση των παραμέτρων παρουσιάζουμε μια μέθοδο ταυτόχρονης αξιοποίησης δυο σύγχρονων κριτηρίων αυτόματης αξιολόγησης για την αξιολόγηση της ποιότητας της μετάφρασης ενός μεταφραστικού συστήματος. Η παρουσίαση της προταθείσας μεθόδου βελτιστοποίησης συνοδεύεται από μια σειρά διεξοδικών πειραμάτων που έχουν ως σκοπό την αντικειμενική αξιολόγηση της μεθόδου και την συγκέντρωση ικανού μεγέθους αριθμητικών δεδομένων τα οποία να αποδεικνύουν την επιτυχημένη εφαρμογή της μεθόδου στο πρόβλημα της βελτιστοποίησης των παραμέτρων του μεταφραστικού συστήματος.