Interdisciplinary data science methods using machine learning for enhanced knowledge acquisition

Abstract

This thesis reports on a series of novel approaches enabling knowledge acquisition through exploiting various machine learning capabilities. Interdisciplinary approaches may expose new possibilities for data analytics. Two theoretical frameworks are conceptualized reporting on findings that relate to the research domains of Social Media (SM) and Energy. Common methods/algorithms/tools may be utilized for knowledge extraction considering specific mining tasks. The first theoretical framework presents and combines three novel approaches in Social Media domain elaborating in mining tasks related with Social Media Types (SMTs), Social Media Topic Extraction (SMTE) and Social Media Sentiment Analysis (SMSA). SMTs are evaluated through a novel hypothesis-based data driven methodology that analyses Social Media Platforms (SMPs) and categorizes SMPs based on their services proposing new SMTs. The proposed methodology evaluates a new taxonomy, based on a mixture of hypothesis and data driven approach utilizing association rules and clustering algorithms. As a result, three new SMTs emerge, namely Social, Entertainment and Profiling networks, that update and capture emerging SMP services. Regarding SMTE, this study utilizes Twitter data to mine association rules and extract knowledge about public attitudes. COVID-19 pandemic acts as the use case, analysing crawled tweets. The approach incorporates topic extraction and visualization techniques, to form word clusters that infer to themes of opinions. Association rule mining is utilized to improve the process of extracted topics, producing more accurate and generic results. For the examined period, out of 50 initially retrieved topics with common SMTE methods, the proposed novel approach manages to reduce topics to just a few ones. SMSA relates to the identification and analysis of sentiment polarity in microblogging data. Such a mining task enables new possibilities for knowledge extraction and evaluation of public sentiment in response to global events, producing valuable insights. COVID-19 is the use case, gathering data from Twitter. The main objective in this topic is the evaluation of a possible correlation between public sentiment and the number of cases and deaths attributed to COVID-19. Findings correlate sentiment polarity with announced deaths, starting 41 days and expanding up to three days prior to the count. Also, a strong correlation is identified, between COVID-19 Twitter conversation polarity and reported cases, but a weak correlation between polarity and reported deaths. The second theoretical framework presents and combines three novel approaches in Energy domain elaborating in mining tasks related with Energy Balancing (EB), Energy Load Forecasting (ELF) and Energy Optimal Day-Ahead Scheduling (EODS). Energy management may be improved by performing EB in both Peer-to-Peer (P2P) and Virtual Microgrid-to-Virtual Microgrid (VMG2VMG) level. This task yields an interdisciplinary analytics-based approach for the formation of VMGs achieving EB. Computer Science methods are incorporated for addressing an Energy sector problem, utilizing data preprocessing techniques and Machine Learning concepts. Each prosumer is perceived as a peer, while VMGs are perceived as clusters of peers. This approach incorporates clustering and binning algorithms for preprocessing Energy data (for 94 prosumers) producing options for generating VMGs. Then, a customized Exhaustive brute-force Balancing Algorithm (EBA) balances at the cluster-to-cluster level (VMG2VMG balancing) reporting outcomes and prospects for scaling up and expanding this work. A novel approach in the task of ELF exposes improvements for residential house energy requirements. This task is crucial for Energy sector stakeholders (e.g., DSO, aggregators etc.) since they are able to plan in more efficient manner their Demand Response (DR) management strategies. The experimentation includes the retrieval of energy readings from a state-of-the-art nearly Zero Energy Building (nZEB). Focus is made on one step ahead ELF, producing an approach regardless the time resolution of available data while yielding high accuracy results. Ensemble methods and forecasting algorithms are utilized while the evaluation of forecasting results is performed with popular accuracy metrics (MAPE, SMAPE and RMSE) and an Execution Time (ET) metric. Optimal energy management relates with the task of EODS. A novel approach is proposed in the form of a framework/tool for a multi-objective analysis comprising a decision-making system. Two distinct optimization problems for two actors (consumers and aggregators) are considered, with each solution completely or partly interacting with the other in the form of DR signal exchange. The overall optimization is formulated by a bi-objective optimization problem for the consumer's side aiming at cost minimization and discomfort reduction; and a single objective optimization problem for the aggregator's side aiming also at cost minimization. Experimentation is conducted on a real pilot (Terni Distribution System portfolio). The framework performs decision making by forecasting the day-ahead energy management requirements while aiming at optimal management of energy resources considering both aggregator's and consumer's preferences and goals. Achievements of this thesis highlight prospects for enhanced knowledge acquisition through the conception of two theoretical frameworks in the domains of Social Media and Energy while envisioning an interdisciplinary research design. The theoretical frameworks, “A Multi-Functional Framework for defining Social Media Types, extracting Topics and Inferences, and discovering Correlations based on Public Sentiment” and “A Novel Framework for P2P and VMG2VMG Energy Balancing, Incorporating One Step Ahead Load Forecasting and Optimization for Day-Ahead Energy Scheduling” incorporate common data mining methods/algorithms elevating the necessity for interdisciplinary novel approaches in multi-domain data analytics along with benefits they might yield.

Αυτή η διατριβή αναφέρεται σε μια σειρά από καινοτόμες προσεγγίσεις που επιτρέπουν την απόκτηση γνώσης μέσω της εκμετάλλευσης των δυνατοτήτων της μηχανικής μάθησης. Οι διεπιστημονικές προσεγγίσεις ενδέχεται να εκθέσουν νέες δυνατότητες για την ανάλυση δεδομένων. Παρουσιάζονται δύο θεωρητικά πλαίσια που αναφέρουν ευρήματα που σχετίζονται με τους ερευνητικούς τομείς των Κοινωνικών Δικτύων και της Ενέργειας. Μπορούν να χρησιμοποιηθούν κοινές μέθοδοι/αλγόριθμοι/εργαλεία για την εξαγωγή γνώσης λαμβάνοντας υπόψη συγκεκριμένες διεργασίες εξόρυξης δεδομένων.Το πρώτο θεωρητικό πλαίσιο συνδυάζει τρεις καινοτόμες προσεγγίσεις στον τομέα των μέσων κοινωνικής δικτύωσης (ΜΚΔ) και σχετίζονται με τους τύπους των μέσων κοινωνικής δικτύωσης (SMTs), εξαγωγή θεμάτων συζήτησης στα μέσα κοινωνικής δικτύωσης (SMTE) και την ανάλυση συναισθήματος δια των μέσων κοινωνικής δικτύωσης (SMSA).Οι τύποι ΜΚΔ (SMTs) αξιολογούνται μέσω μιας νέας μεθοδολογίας που βασίζεται σε υποθέσεις, η οποία αναλύει τις πλατφόρμες των ΜΚΔ και τις κατηγοριοποιεί με βάση τις υπηρεσίες τους, προτείνοντας νέους τύπους. Η προτεινόμενη μεθοδολογία αξιολογεί μια νέα ταξινόμηση, βασισμένη στο συνδυασμό υποθέσεων και δεδομένων και χρησιμοποιεί κανόνες συσχέτισης και αλγορίθμους ομαδοποίησης. Ως αποτέλεσμα, προτείνονται τρεις νέοι τύποι ΜΚΔ, τα δίκτυα Social, Entertainment και Profiling, που ενημερώνουν και καταγράφουν τις εξελισσόμενες υπηρεσίες που παρέχονται από τις πλατφόρμες των ΜΚΔ.Όσον αφορά την εξαγωγή θεμάτων συζήτησης στα ΜΚΔ (SMTE), χρησιμοποιούνται δεδομένα Twitter για την εξόρυξη κανόνων συσχέτισης και την εξαγωγή γνώσης σχετικά με τις στάσεις του κοινού. Η πανδημία του COVID-19 λειτουργεί ως μελέτη περίπτωσης, αναλύοντας ανιχνευμένα tweets. Αυτή η προσέγγιση ενσωματώνει τεχνικές εξαγωγής και οπτικοποίησης θεμάτων συζήτησης, για να σχηματίσει συμπλέγματα λέξεων που καταλήγουν σε διαφορετικά θέματα συζήτησης. Η εξόρυξη κανόνων συσχέτισης χρησιμοποιείται για τη βελτίωση της διαδικασίας εξαγωγής θεμάτων, παράγοντας πιο ακριβή και γενικευμένα αποτελέσματα. Για την εξεταζόμενη περίοδο, από τα 50 αρχικά ανακτημένα θέματα με κοινές μεθόδους SMTE, η προτεινόμενη νέα προσέγγιση καταφέρνει να μειώσει τα θέματα σε πολύ μεγάλο βαθμό.H ανάλυση συναισθήματος δια των ΜΚΔ (SMSA) σχετίζεται με τον εντοπισμό και την ανάλυση της πολικότητας των συναισθημάτων σε δεδομένα microblogging. Μια τέτοια διεργασία επιτρέπει νέες δυνατότητες εξόρυξης γνώσης και αξιολόγησης του συναισθήματος του κοινού σχετικά με παγκόσμια γεγονότα, παράγοντας πολύτιμες γνώσεις. Η μελέτη περίπτωσης είναι ο COVID-19 συλλέγοντας δεδομένα από το Twitter. Ο κύριος στόχος είναι η αξιολόγηση μιας πιθανής συσχέτισης μεταξύ του δημόσιου συναισθήματος και του αριθμού των κρουσμάτων και των θανάτων που αποδίδονται στον COVID-19. Τα ευρήματα συσχετίζουν την πολικότητα του συναισθήματος με τους ανακοινωθέντες θανάτους, ξεκινώντας 41 ημέρες και επεκτείνονται έως και τρεις ημέρες πριν από την επίσημη καταμέτρηση. Επίσης, εντοπίζεται μια ισχυρή συσχέτιση, μεταξύ της πολικότητας των tweets και των ανακοινωθέντων κρουσμάτων, αλλά μια ασθενής συσχέτιση μεταξύ της πολικότητας των tweets και των ανακοινωθέντων θανάτων σχετικά με τον COVID-19.Tο δεύτερο θεωρητικό πλαίσιο παρουσιάζει τρεις νέες προσεγγίσεις στον τομέα της Ενέργειας που σχετίζονται με την ενεργειακή εξισορρόπηση (EB), την πρόβλεψη ενεργειακού φορτίου (ELF) και τον βέλτιστο ενεργειακό προγραμματισμό ημέρας (EODS).Η διαχείριση ενέργειας μπορεί να βελτιωθεί εκτελώντας EB τόσο σε επίπεδο Peer-to-Peer (P2P) όσο και σε επίπεδο Virtual Microgrid-to-Virtual Microgrid (VMG2VMG). Αυτή η εργασία παρέχει μια διεπιστημονική προσέγγιση βασισμένη στην ανάλυση για το σχηματισμό VMG που επιτυγχάνουν ενεργειακή εξισορρόπηση. Μέθοδοι της επιστήμης των υπολογιστών ενσωματώνονται για την αντιμετώπιση ενός προβλήματος του ενεργειακού τομέα, χρησιμοποιώντας τεχνικές προεπεξεργασίας δεδομένων και έννοιες μηχανικής μάθησης. Κάθε ενεργειακός προμηθευτής/πελάτης αντιμετωπίζεται ως ομότιμος (P2P), ενώ τα VMG γίνονται αντιληπτά ως ομάδες ενεργειακών πελατών. Αυτή η προσέγγιση ενσωματώνει αλγορίθμους ομαδοποίησης και δέσμευσης για την προεπεξεργασία ενεργειακών δεδομένων (από 94 πελάτες-προμηθευτές) που παράγουν διάφορες επιλογές για τη δημιουργία VMG. Στη συνέχεια, ένας προσαρμοσμένος εξαντλητικός αλγόριθμος (EBA) εξισορροπεί σε επίπεδο συστάδα-σε-συστάδα (VMG2VMG) καταγράφοντας και αναφέροντας νέα αποτελέσματα και προοπτικές για την αξιοποίηση και την επεκτασιμότητα αυτής της προσέγγισης.Μια νέα προσέγγιση για την πρόβλεψη ενεργειακού φορτίου (ELF) παρουσιάζει βελτιώσεις για τις ενεργειακές απαιτήσεις κατοικιών. Αυτή η διεργασία είναι ζωτικής σημασίας για τα ενδιαφερόμενα μέλη του ενεργειακού τομέα (π.χ. διαχειριστές, παρόχους κ.λπ.), καθώς είναι σε θέση να σχεδιάζουν με πιο αποτελεσματικό τρόπο τις στρατηγικές διαχείρισης ζήτησης-παροχής (DR) ενέργειας. Ο πειραματισμός περιλαμβάνει την ανάκτηση μετρήσεων ενέργειας από ένα υπερσύγχρονο κτίριο σχεδόν μηδενικής ενέργειας (nZEB). Η εστίαση γίνεται στις προβλέψεις για ένα βήμα μπροστά, παράγοντας μια προσέγγιση ανεξάρτητα από τη χρονική ανάλυση των διαθέσιμων δεδομένων, ενώ παράγει αποτελέσματα υψηλής ακρίβειας. Χρησιμοποιούνται συνδυαστικές μέθοδοι και αλγόριθμοι πρόβλεψης ενώ η αξιολόγηση των αποτελεσμάτων πραγματοποιείται με δημοφιλείς μετρήσεις ακρίβειας (MAPE, SMAPE και RMSE) και με τη μέτρηση του χρόνου εκτέλεσης (ET).Επιπλέον, προτείνεται μια νέα προσέγγιση με τη μορφή ενός πλαισίου/εργαλείου για μια ανάλυση πολλαπλών στόχων που περιλαμβάνει ένα σύστημα λήψης αποφάσεων σχετικά με το βέλτιστο ενεργειακό προγραμματισμό ημέρας (EODS). Εξετάζονται δύο διαφορετικά προβλήματα βελτιστοποίησης για δύο συμμετέχοντες (καταναλωτές και παρόχους), με κάθε λύση να αλληλεπιδρά πλήρως ή εν μέρει με την άλλη με τη μορφή ανταλλαγής σημάτων DR. Η συνολική βελτιστοποίηση διατυπώνεται από ένα πρόβλημα βελτιστοποίησης δύο στόχων. Από την πλευρά του καταναλωτή έχει ως στόχο την ελαχιστοποίηση του κόστους και τη μείωση της θερμικής δυσφορίας. Ενώ από την πλευρά του παρόχου, παρουσιάζεται ως ένα πρόβλημα βελτιστοποίησης μεμονωμένου στόχου, με στόχο την ελαχιστοποίηση του κόστους. Ο πειραματισμός διεξάγεται σε πραγματικό πιλότο. Το πλαίσιο/εργαλείο που προκύπτει εκτελεί τη λήψη αποφάσεων προβλέποντας τις απαιτήσεις διαχείρισης ενέργειας για την επόμενη μέρα, ενώ στοχεύει στη βέλτιστη διαχείριση των ενεργειακών πόρων λαμβάνοντας επίσης υπόψη τις προτιμήσεις και τους στόχους τόσο του παρόχου όσο και του καταναλωτή.Συνοψίζοντας, τα επιτεύγματα αυτής της διατριβής αναδεικνύουν τις προοπτικές για βελτιωμένη απόκτηση γνώσης μέσω της σύλληψης δύο θεωρητικών πλαισίων στους τομείς των ΜΚΔ και της Ενέργειας ενώ οραματίζονται έναν διεπιστημονικό ερευνητικό σχεδιασμό. Τα θεωρητικά πλαίσια, “A Multi-Functional Framework for defining Social Media Types, extracting Topics and Inferences, and discovering Correlations based on Public Sentiment” και “A Novel Framework for P2P and VMG2VMG Energy Balancing, Incorporating One Step Ahead Load Forecasting and Optimization for Day-Ahead Energy Scheduling” ενσωματώνουν κοινές μεθόδους/αλγορίθμους εξόρυξης δεδομένων που αναδεικνύουν την ανάγκη για νέες και καινοτόμες διεπιστημονικές προσεγγίσεις στην ανάλυση δεδομένων καθώς και πιθανά οφέλη που μπορεί να αποφέρουν.