Network resource optimization in cloud computing environments

Abstract

Recent technological advances in cloudification and virtualization already support numerous applications and wide deployment of network devices, e.g., Internet of Things (IoT), and Wireless Sensor Networks (WSNs), that are envisioned to reach the extreme number of 28 billion devices by the end of 2021. The expected increment in human-type and machine-type communications introduce a wide variety of communication characteristics with different requirements regarding data rate, latency, mobility, and reliability. In such environments, to compensate for the huge demands in resources and the growing volumes of data, numerous data centers, and devices deployed around the world work in unison to efficiently accommodate service provisioning. Nevertheless, as the number of users and cloud services increases, key optimization problems emerge and become a priority for cloud service providers who focus on scalability and service availability problems in order to minimize the overall operational cost and eventually increase their profit revenues and public acceptance. In this context, the problems of discovering the number and location of virtual machines that instantiate a cloud service, as well as finding efficient ways for user assignment and dynamic resource allocation, become exceedingly complex problems (NP-hard), since their solutions are affected by a large number of criteria, parameters, and constraints. When also considering the high inherent dynamicity and frequent fluctuations in network traffic and conditions, it becomes abundantly clear that classical or strictly centralized approaches, requiring global knowledge of the topology conditions, fail to capture the needs for timely scalability and adaptability. Thus, the need for procuring new feasible and low-complexity solutions for service location, resource allocation, and data handling arises, even if these come at the expense of unguaranteed optimal solutions. The present thesis dissertation studies the preceding problems through a different prism, taking advantage of the benefits offered by distributed computing. As such, it is divided into two major focal points of interest. The first explores location-allocation issues in Cloud Gaming, the latter being an ideal representative of highly dynamic cloud computing environments that can be straightforwardly generalized to capture other cloud application domains. Contrary to general approaches, the focus is on the fog/edge layer, for which five decentralized policies, relying solely on local network information, are derived and analyzed for efficient, elastic, and scalable admission control, user assignment, server allocation, resource optimization, and service placement. Regarding the second focal point, issues affiliating to data handling optimization in the IoT are studied, with emphasis on data measurement synchronization and drone-based information collection. Finally, two complete systems, that incorporate fog computing for resource optimization and adaptation, are presented, on one hand for the case of Smart Cities and on the other hand for the case of Smart Agriculture.

Οι πρόσφατες τεχνολογικές εξελίξεις στη νεφοϋπολογιστική και εικονικοποίηση υποστηρίζουν ήδη πολλές σύγχρονες εφαρμογές και πληθώρα συσκευών δικτύου, π.χ. Διαδίκτυο των Πραγμάτων (ΔτΠ) και Ασύρματα Δίκτυα Αισθητήρων (ΑΔΑ), που μάλιστα προβλέπεται ότι θα φτάσουν τον ακραίο αριθμό των 28 δισεκατομμυρίων συσκευών έως το τέλος του 2021. Αυτή η αναμενόμενη αύξηση των επικοινωνιών ανθρώπου και μηχανής εισάγει μια ευρεία ποικιλία χαρακτηριστικών επικοινωνίας με διαφορετικές απαιτήσεις σχετικά με τον ρυθμό μετάδοσης δεδομένων, την καθυστέρηση, την κινητικότητα και την αξιοπιστία. Σε τέτοια περιβάλλοντα, για να επιτευχθεί αντιστάθμιση των τεράστιων απαιτήσεων σε πόρους και του αυξανόμενου όγκου δεδομένων, πολλά κέντρα δεδομένων και συσκευές ανά τον κόσμο λειτουργούν από κοινού για να επιτύχουν αποτελεσματική παροχή υπηρεσιών. Ωστόσο, καθώς ολοένα αυξάνεται ο αριθμός των χρηστών και των υπηρεσιών υπολογιστικού νέφους, προκύπτουν βασικά προβλήματα βελτιστοποίησης, η λύση των οποίων αποτελεί προτεραιότητα για τους παρόχους υπηρεσιών νέφους που εστιάζουν σε προβλήματα κλιμάκωσης και διαθεσιμότητας πόρων, προκειμένου να ελαχιστοποιηθεί το συνολικό λειτουργικό κόστος και τελικά να αυξηθούν η κερδοφορία και η αποδοχή του κοινού. Σε αυτό το πλαίσιο, τα προβλήματα της ανακάλυψης του αριθμού και της θέσης των εικονικών μηχανών, που φιλοξενούν μια υπηρεσία νέφους, καθώς και η εύρεση αποτελεσματικών τρόπων εκχώρησης χρήστη και δυναμικής κατανομής πόρων, εξελίσσονται σε εξαιρετικά πολύπλοκα προβλήματα (NP-hard), αφού οι λύσεις τους επηρεάζονται από μεγάλο αριθμό κριτηρίων, παραμέτρων και περιορισμών. Λαμβάνοντας υπόψιν και την υψηλή εγγενή δυναμικότητα και τις συχνές διακυμάνσεις στην κυκλοφορία και τις συνθήκες του δικτύου, καθίσταται απολύτως σαφές ότι οι κλασικές ή αυστηρά κεντρικοποιημένες προσεγγίσεις, που απαιτούν καθολική γνώση της δικτυακής τοπολογίας, αποτυγχάνουν να καλύψουν τις απαιτήσεις για έγκαιρη επεκτασιμότητα και προσαρμοστικότητα. Έτσι, προκύπτει η ανάγκη για νέες εφικτές και χαμηλής πολυπλοκότητας λύσεις για την τοποθέτηση υπηρεσιών, την κατανομή πόρων, και τον χειρισμό δεδομένων, ακόμη και αν αυτές έρχονται σε βάρος μη εγγυημένων βέλτιστων λύσεων. Η παρούσα διατριβή μελετά τα προηγούμενα προβλήματα μέσω ενός διαφορετικού πρίσματος, αξιοποιώντας τα οφέλη που προσφέρει ο κατανεμημένος υπολογισμός. Ως εκ τούτου, χωρίζεται σε δύο κύριους άξονες ενδιαφέροντος. Ο πρώτος διερευνά ζητήματα τοποθεσίας υπηρεσιών και κατανομής πόρων σε συστήματα Cloud Gaming, με τα τελευταία να θεωρούνται ιδανικοί εκπρόσωποι άκρως δυναμικών περιβαλλόντων υπολογιστικού νέφους, και που μπορούν εύκολα να γενικευτούν για άλλους τομείς εφαρμογών νέφους. Σε αντίθεση με προηγούμενες ερευνητικές προσεγγίσεις, η παρούσα διατριβή εστιάζει στο επίπεδο της υπολογιστικής ομίχλης, για το οποίο προτείνονται και αναλύονται πέντε κατανεμημένες πολιτικές, που βασίζονται αποκλειστικά σε τοπική δικτυακή πληροφορία, για την επίτευξη αποδοτικής, ελαστικής, και κλιμακώσιμης εκχώρησης χρηστών, ελέγχου εισδοχής, ανάθεσης εξυπηρετητών, βελτιστοποίησης χρήσης πόρων, και τοποθέτησης υπηρεσιών. Όσον αφορά τον δεύτερο άξονα εστίασης, μελετώνται θέματα που σχετίζονται με τη βελτιστοποίηση του χειρισμού δεδομένων στο ΔτΠ, με έμφαση να δίνεται στον συγχρονισμό μετρήσεων και στην συλλογή πληροφορίας από δρόνο. Τέλος, παρουσιάζονται δύο ολοκληρωμένα συστήματα, τα οποία ενσωματώνουν υπολογιστική ομίχλης για βελτιστοποίηση και αυτόματη προσαρμογή της παροχής πόρων, αφενός για την περίπτωση των Έξυπνων Πόλεων και αφετέρου για την περίπτωση της Έξυπνης Γεωργίας.