Παράλληλος προγραμματισμός αλγόριθμων για προβλήματα γραμμικού προγραμματισμού

Abstract

The Simplex Method, the most popular method for solving Linear Programs (LPs), has two major variants. They are the revised method and the standard, or full tableau method. Today, virtually all serious implementations are of the revised method because it is more efficient for sparse LPs which are the most common. However, the full tableau method has advantages as well. First, the full tableau can be very effective for dense problems. Second, a full tableau method can easily and effectively be extended to a coarse grained distributed algorithm. While dense problems are uncommon in general, they occur frequently in some important applications such as digital filter design, text categorization, image processing and relaxations of scheduling problems. We implement two full tableau algorithms. The first, a serial implementation, is effective for small to moderately sized dense problems. The second, a simple extension of the first, is a distributed algorithm. We implement an algorithm which converts MPS format to LP format and we convert a subset of benchmark problems from NETLIB. We present an analysis of two well-known updating schemes for basis inverse: (i) The Product Form of the Inverse ( PFI ) and (ii) A Modification of the Product Form Inverse ( MPFI ) and incorporate it with EPSA. Computation results with a subset of benchmark problems from NETLIB indicate that the Modification of the Product Form of the Inverse is 1.60 times faster than the product form of the inverse in most problems. We implement the exterior point simplex. This algorithm seems to be more efficient than the classical primal simplex algorithm (PSA), employing Dantzig’s rule. Preliminary computational studies on randomly generated sparse linear programs support this belief. Although the computational effort required in each step of EPSA requires more time compared to an iteration step of PSA, the improvement of EPSA comes from the fact that it requires adequately less iterations than PSA. Moreover, as the problem size increases and the problem density decreases, EPSA gets relatively faster.

Η μέθοδος Simplex, η δημοφιλέστερη μέθοδος για τα γραμμικά προγράμματα (LPs), έχει δύο σημαντικές παραλλαγές. Είναι η αναθεωρημένη μορφή η μορφή του πλήρους tableau ή πλήρους πίνακα. Σήμερα, ουσιαστικά όλες οι σημαντικές υλοποιήσεις χρησιμοποιούν την αναθεωρημένη μορφή επειδή είναι περισσότερο αποτελεσματική σε αραιά LPs που είναι τα πιο κοινά. Ωστόσο, η μέθοδος έχει επίσης πλεονεκτήματα. Κατ' αρχήν, ο πλήρης πίνακας μπορεί να είναι πολύ αποτελεσματικός για τα πυκνά προβλήματα. Δεύτερον, η μέθοδος του πλήρη πίνακα μπορεί εύκολα και αποτελεσματικά να επεκταθεί σε έναν κατανεμημένο αλγόριθμο. Ενώ τα πυκνά προβλήματα συναντιούνται σπάνια στην πράξη , εμφανίζονται συχνά σε μερικές σημαντικές εφαρμογές όπως στον ψηφιακό σχεδιασμό φίλτρων, την κατηγοριοποίηση κειμένων, την επεξεργασία εικόνας και την επίλυση προβλημάτων χρονοδρομολόγησης με τη μέθοδο των χαλαρώσεων των περιορισμών. Υλοποιούμε δύο αλγορίθμους πλήρους πίνακα. Ο πρώτος, μια σειριακή εφαρμογή, είναι αποτελεσματικός για μικρά και μεσαίου μεγέθους πυκνά προβλήματα. Ο δεύτερος, μια απλή επέκταση του πρώτου, είναι ένας κατανεμημένος αλγόριθμος. Εφαρμόζουμε έναν αλγόριθμο που μετατρέπει την MPS μορφή σε μορφή LP και μετατρέπουμε ένα υποσύνολο των προβλημάτων συγκριτικής μέτρησης επιδόσεων από το NETLIB. Παρουσιάζουμε μια ανάλυση δύο γνωστών σχημάτων ανάστροφης βάσης: (ι) Τη μορφή γινομένου της αντίστροφης (PFI) και (ιι) μια τροποποίηση της προηγούμενης μεθόδου (MPFI) και την ενσωματώνουμε με τον Αλγόριθμο Εξωτερικών Σημείων Τύπου Simplex (EPSA). Τα αποτελέσματα μιας υπολογιστικής μελέτης με ένα υποσύνολο των προβλημάτων συγκριτικής μέτρησης επιδόσεων από τη βιβλιοθήκη NETLIB δείχνουν ότι η μέθοδος (MPFI) είναι 1,60 φορές γρηγορότερα από τη μέθοδο (PFI) στα περισσότερα προβλήματα. Εφαρμόζουμε τον αλγόριθμο simplex εξωτερικών σημείων. Αυτός ο αλγόριθμος φαίνεται να είναι αποδοτικότερος από τον κλασσικό πρωτεύοντα αλγόριθμο simplex (PSA), που υιοθετεί τον κανόνα Dantzig. Οι προκαταρκτικές υπολογιστικές μελέτες για τα τυχαία παραγόμενα αραιά γραμμικά προγράμματα υποστηρίζουν αυτήν την πεποίθηση. Αν και η υπολογιστική προσπάθεια που απαιτείται σε κάθε επανάληψη του EPSA απαιτεί περισσότερο χρόνο απ`ότι μια επανάληψη του PSA, η βελτίωση EPSA προέρχεται από το γεγονός ότι απαιτεί επαρκώς λιγότερες επαναλήψεις από τον PSA. Επιπλέον, καθώς το μέγεθος του προβλήματος αυξάνεται και οι μειώσεις πυκνότητας προβλήματος, ελαττώνεται ο EPSA γίνεται σχετικά γρηγορότερα.