Enabling artificial intelligence analytics on the edge

Abstract

This thesis introduces a novel distributed model for handling in real-time, edge based video analytics. The novelty of the model relies on decoupling and distributing the services into several decomposed functions, creating virtual function chains (VFC model). The model considers both computational and communication constraints. Theoretical, simulation and experimental results have shown that the VFC model can enable the support of heavy-load services to an edge environment while improving the footprint of the service compared to state-of-the art frameworks. In detail, results on the VFC model have shown that it can reduce the total edge cost, compared with a monolithic and a simple frame distribution models. For experimenting on a real-case scenario, a testbed edge environment has been developed, where the aforementioned models, as well as a general distribution framework (Apache Spark ©), have been deployed. A cloud service has also been considered. Experiments have shown that VFC can outperform all alternative approaches, by reducing operational cost and improving the QoS. Finally, a migration model, a caching model and a QoS monitoring service based on Long-Term-Short-Term models are introduced.

Αυτή η διατριβή εισάγει ένα νέο κατανεμημένο μοντέλο για χειρισμό σε πραγματικό χρόνο, αναλυτικών βίντεο στα άκρα του δικτύου. Η καινοτομία του μοντέλου βασίζεται στην αποσύνδεση και τη διανομή των υπηρεσιών σε πολλές αποσυντεθειμένες συναρτήσεις, δημιουργώντας αλυσίδες εικονικών λειτουργιών (μοντέλο VFC). Το μοντέλο λαμβάνει υπόψη τόσο τους υπολογιστικούς περιουρισμούς όσο και τους περιορισμούς επικοινωνίας. Θεωρητικά αποτελέσματα, αποτελέσματα προσομοιώσεων και πειραματικά αποτελέσματα έχουν δείξει ότι το μοντέλο VFC μπορεί να επιτρέψει την υποστήριξη υπηρεσιών βαρέως φορτίου σε περιβάλλον στα άκρα του δικτύου βελτιώνοντας παράλληλα το αποτύπωμα της υπηρεσίας σε σύγκριση με πλαίσια τελευταίας τεχνολογίας. Αναλυτικά, τα αποτελέσματα στο μοντέλο VFC έδειξαν ότι μπορεί να μειώσει το συνολικό κόστος των άκρων, σε σύγκριση με μοντέλα διανομής μονολιθικού και απλού πλαισίου. Για πειραματισμούς σε ένα πραγματικό σενάριο, έχει αναπτυχθεί ένα δοκιμαστικό περιβάλλον δικτύου στα άκρα, όπου έχουν αναπτυχθεί τα προαναφερθέντα μοντέλα, καθώς και ένα γενικό πλαίσιο διανομής (Apache Spark ©). Εξετάστηκε επίσης μια υπηρεσία υπολογιστικού νέφους. Τα πειράματα έχουν δείξει ότι το VFC μπορεί να ξεπεράσει όλες τις εναλλακτικές προσεγγίσεις, μειώνοντας το λειτουργικό κόστος και βελτιώνοντας την ποιότητα της υπηρεσίας. Τέλος, εισάγεται ένα μοντέλο μετεγκατάστασης, ένα μοντέλο προσωρινής αποθήκευσης και μια υπηρεσία παρακολούθησης της ποιότητας υπηρεσίας που βασίζεται σε μοντέλα τεχνητής νοημοσύνης (LSTM).