Μηχανισμοί εξοικονόμησης ενέργειας σε κατανεμημένα συστήματα μεγάλης κλίμακας

Abstract

Energy preservation is one of the basic goals of mankind nowadays. Reasons aremainly environmental and cost. The cost of energy is rising and the damage to theenvironment due to CO2 emissions is getting worse. Computers and large-scalesystems are significant contributors to the global energy consumption. In general, asystem that consumes less energy generates less heat and has longer lifetime. Thus, byreducing energy consumption and heat, we can increase system’s reliability.Processors are major contributors in the energy consumption of a computer system.Thus, two power-saving techniques exist at the processor level, DynamicVoltage/Frequency Scaling (DVFS) and Dynamic Power Management (DPM).According to DVFS, processors can execute tasks at various frequencies dependingon the system’s load. For example, a processor can execute tasks at lower speedswhen it is not necessary for the tasks to be executed at the highest speed. DPM putsidle processors at sleep-state where minimum energy is consumed, only whenprocessors’ computational power is not needed at the time. Significant amounts ofenergy can be saved by exploiting the idle time of processors. Usually processors aredeactivated after some time in the idle state. The issue is when and for how longprocessors are put to sleep-state.In large-scale real-time systems, the workload most times consists of single tasks thatdo not communicate with each other and must be executed within a deadline or elsetheir results are worthless. In this case, DVFS and DPM techniques must ensure thattasks will be executed without violating their deadline. In this PhD thesis, energysaving mechanisms based on DVFS and DPM techniques are proposed, in order tominimize energy consumption and maximize performance. Furthermore, schedulingpolicies that take into account energy consumption are proposed. The processors ofthe computing nodes of large-scale systems are characterized based on theirperformance and energy consumption and scheduling policies take into account thisinformation. Additionally, in this PhD thesis, load balancing techniques are proposedthat take into account both performance and energy consumption of the computingnodes of large-scale systems. Load balancing has been proven to improveperformance by transferring tasks in order to evenly redistribute the load of thesystem. Load balancing techniques proposed in this PhD thesis, take into account thecharacteristics of the computing nodes and their goal is to avoid transferring tasks tomore energy consuming processors since this would affect significantly the totalenergy consumption of the system.Failures are a common phenomenon in large-scale systems. A common practice is toreplace a failed processor with a more “green” energy-saving processor. In this thesis,how these replacements due to failures affect performance and energy consumption ofthe system is studied. A large percentage of tasks submitted to large-scale systems is Bag-of-Tasks (BoT)applications. A BoT is a collection of independent tasks that do not communicate witheach other during execution. They are used in astronomy, Monte Carlo simulations,image processing and database searches. Due to their significance, BoT schedulingand maximization of performance have been studied severely by researchers. In thisPhD thesis, we propose scheduling policies, DVFS mechanisms and load balancingtechniques for this type of applications taking into account energy consumption.In summary, the contribution of this thesis lies in the implementation of newtechniques in order to save energy during the execution of real-time tasks and BoTapplications in large-scale systems without affecting the performance of the system.These mechanisms focus on DVFS and DPM techniques, as well as scheduling andload balancing of tasks in large-scale systems.

Η ανάγκη για εξοικονόμηση ενέργειας είναι μια από τις βασικές επιδιώξεις του ανθρώπου αυτήν την περίοδο. Οι λόγοι είναι κυρίως περιβαλλοντικοί αλλά και οικονομικοί. Το κόστος της ενέργειας αυξάνεται με την πάροδο του χρόνου και η επιβάρυνση στο περιβάλλον λόγω του διοξειδίου του άνθρακα γίνεται όλο και μεγαλύτερη. Ένα μεγάλο μέρος της κατανάλωσης ενέργειας προέρχεται από τον κλάδο της πληροφορικής και τα συστήματα μεγάλης κλίμακας. Είναι γεγονός, ότι ένα σύστημα που καταναλώνει λιγότερη ενέργεια, παράγει λιγότερη θερμότητα και έτσι έχει μεγαλύτερη διάρκεια ζωής. Έτσι, η μείωση στην θερμοκρασία λειτουργίας ενός εξαρτήματος αυξάνει την αξιοπιστία του.Ένα σημαντικό κομμάτι της ενέργειας που καταναλώνεται σε συστήματα υπολογιστών προέρχεται από την λειτουργία των επεξεργαστών. Για τον λόγο αυτό υπάρχουν δύο τεχνικές εξοικονόμησης ενέργειας στο επίπεδο των επεξεργαστών, η τεχνική Dynamic Voltage/Frequency Scaling (DVFS) και η τεχνική Dynamic Power Management (DPM). Σύμφωνα με την τεχνική DVFS, οι επεξεργαστές μπορούν όταν εκτελούν διεργασίες να βρίσκονται σε πολλές συχνότητες λειτουργίας ανάλογα με τις απαιτήσεις του συστήματος. Έτσι, οι επεξεργαστές έχουν την δυνατότητα να εκτελούν κάποιες διεργασίες σε χαμηλότερες συχνότητες, όταν η εκτέλεσή τους δεν είναι απαραίτητο να γίνει στην πιο γρήγορη ταχύτητα. Η τεχνική DPM τοποθετεί τους επεξεργαστές σε κατάσταση ύπνου, στην οποία καταναλώνεται ελάχιστη ενέργεια, όταν η επεξεργαστική τους ισχύς δεν είναι απαραίτητη την δεδομένη χρονική στιγμή. Με αυτόν τον τρόπο, σημαντικά ποσά ενέργειας μπορούν να εξοικονομηθούν από την εκμετάλλευση του χρόνου αδράνειας των επεξεργαστών.Συνήθως οι επεξεργαστές απενεργοποιούνται μετά από κάποιο χρονικό διάστημα αδράνειας. Τα ζητήματα που προκύπτουν εδώ είναι το πότε θα απενεργοποιηθούν και για πόσο μεγάλο χρονικό διάστημα. Στα μεγάλης κλίμακας συστήματα πραγματικού χρόνου, ο φόρτος συχνά αποτελείται από διεργασίες που δεν επικοινωνούν μεταξύ τους και οι οποίες πρέπει ναεξυπηρετηθούν εντός κάποιας προθεσμίας, αλλιώς τα αποτελέσματά τους δεν είναι χρήσιμα. Σε αυτήν την περίπτωση, οι τεχνικές DVFS και DPM πρέπει να διασφαλίσουν ότι οι διεργασίες θα προλαβαίνουν να εξυπηρετηθούν. Στα πλαίσια της διδακτορικής διατριβής προτείνονται μηχανισμοί εξοικονόμησης ενέργειας βασισμένοι στις τεχνικές DVFS και DPM, για την καλύτερη εκτέλεση διεργασιών από πλευράς απόδοσης αλλά και κατανάλωσης ενέργειας. Επιπρόσθετα, προτείνονται μέθοδοι δρομολόγησης που λαμβάνουν υπόψη τους ενεργειακά κριτήρια. Οι επεξεργαστές των υπολογιστικών κόμβων χαρακτηρίζονται με βάση την κατανάλωση ενέργειας και την απόδοσή τους και οι πολιτικές δρομολόγησης εκμεταλλεύονταιαυτήν την πληροφορία κατά την προώθηση των διεργασιών για εξυπηρέτηση. Ακόμη, στα πλαίσια της διατριβής, προτείνονται τεχνικές εξισορρόπησης φόρτου που βασίζονται στην απόδοση αλλά και την ενεργειακή κατανάλωση των υπολογιστικών κόμβων συστημάτων μεγάλης κλίμακας. Η εξισορρόπηση του φόρτου βελτιώνει αποδεδειγμένα την απόδοση ενός συστήματος με μεταφορές διεργασιών ώστε να υπάρχει ισοκατανομή του φόρτου ανάμεσα στους υπολογιστικούς κόμβους. Οι τεχνικές εξισορρόπησης φόρτου που προτείνονται στη διατριβή, λαμβάνουν υπόψη τους τα ιδιαίτερα χαρακτηριστικά των υπολογιστικών κόμβων και σκοπός τους είναι η αποφυγή της μεταφοράς διεργασιών σε πιο ενεργοβόρους επεξεργαστές κάτι που θα επηρέαζε σημαντικά την ενεργειακή κατανάλωση του συστήματος. Οι βλάβες σε ένα σύστημα μεγάλης κλίμακας είναι ένα συχνό φαινόμενο. Μια κοινή πρακτική είναι η αντικατάσταση ενός επεξεργαστή που έχει βλάβη με έναν άλλοννέας γενιάς με μικρότερη ενεργειακή κατανάλωση. Έτσι, στη διατριβή αυτή εξετάζεται κατά πόσο αυτές οι αντικαταστάσεις ωφελούν το σύστημα και το κάνουν πιο «πράσινο» και αν επηρεάζεται σημαντικά η απόδοση του συστήματος. Ένα μεγάλο ποσοστό των διεργασιών που υποβάλλονται σε μεγάλα συστήματα είναι Bag-of-Tasks (BoT) εφαρμογές. Κάθε BoT, είναι μια συλλογή ανεξάρτητων διεργασιών που δεν επικοινωνούν μεταξύ τους κατά την διάρκεια της εκτέλεσής τους. Χρησιμοποιούνται στην αστρονομία, σε προσομοιώσεις Monte Carlo, στην επεξεργασία εικόνας και σε αναζητήσεις δεδομένων. Λόγω της σημαντικότητάς τους, η δρομολόγηση BoT και η μεγιστοποίηση της απόδοσης έχουν ερευνηθεί σε μεγάλοβαθμό από την επιστημονική κοινότητα. Στα πλαίσια της διατριβής προτείνονται πολιτικές δρομολόγησης, μηχανισμοί DVFS αλλά και τεχνικές εξισορρόπησης φόρτου για τέτοιου τύπου εφαρμογές, λαμβάνοντας υπόψη και την κατανάλωση ενέργειας.Συνοψίζοντας, η συνεισφορά της διατριβής εντοπίζεται στην πρόταση μηχανισμών εξοικονόμησης ενέργειας κατά την εκτέλεση διεργασιών πραγματικού χρόνου και BoT σε μεγάλης κλίμακας συστήματα, χωρίς όμως να υποβαθμίζεται η απόδοση του συστήματος. Οι μηχανισμοί αυτοί εστιάζουν στις τεχνικές DVFS και DPM, καθώς και στην δρομολόγηση και μεταφορά των διεργασιών σε συστήματα μεγάλης κλίμακας.