Design strategies towards the enhancement of short-term forecasting in the energy sector

Abstract

Short-term forecasting processes constitute an integral part of data analysis in the energy sector since their integration in demand response programs, energy management systems, smart grid and energy market applications is valuable towards the examination of complex and volatile time series variables such as load and electricity price. Short-term load forecasting models offer valuable insight towards consumption patterns through the inspection of influential factors and introduce intelligent ways of monitoring electricity demand as well as the occurrence of irregular events in order to improve the decision-making processes of electric utilities and reinforce grid stability respectively. Short-term electricity price forecasting models address the challenge of price volatility and contribute towards the development of robust strategies towards efficient resource management and optimal energy transactions for all types of energy market participants and consumers. It is evident that methods focusing on load and electricity price time series follow a similar structure including preprocessing, forecasting and output modules for the estimation of the target variables after data collection. Therefore, this dissertation acknowledges the shared and overlapping structure of those forecasting processes and addresses prominent challenges and research gaps associated with each component through the development of optimal design strategies that improve the overall model performance. The study of the preprocessing module led to the assessment of robust feature selection and highlighted the role of rule generation for efficient examination of the studied environments. Since prominent challenges in data preprocessing are connected to dataset dimensionality and feature interpretability, a method towards the generation of a compact and interpretable set of rules through hybrid feature selection was proposed. Furthermore, the study of the main forecasting framework denoted challenges with regards to standalone, combinatorial and meta-modeling design philosophies. In standalone modeling, the uncertainty surrounding estimator selection due to the insufficient exploration of edge cases often hinders research progress and leads to confusion with regards to training behavior. Consequently, a comparative study examining the baseline performance of neural network methodologies for high resolution predictions addresses one of the edge cases where the brevity of the training process and time constraints could provoke this uncertainty. Regarding combinatorial modeling, the uncertainty of estimation member selection in ensemble methods coupled with the challenges of concept and data drift could lead to arbitrary design decisions and suboptimal model combinations. As a result, a novel design strategy focusing on the deterministic selection of estimator members based on the structural characteristics of peak and non-peak indices was proposed in order to generate performant ensemble learning models. Moreover, the examination of meta-modeling approaches highlighted the performance benefits of additional forecasting layers and led to the introduction of a forecasting approach that estimated load consumption through the inspection of similarity and causality for the derivation of alternative time series representations. This approach improved the error metrics compared to the base LSTM ensemble model, denoting the impact of community factors when the quality of the input dataset is far from ideal. Lastly, following this a posteriori design method, the study of the output module identified the need for performance refinement through additional structures that estimate and minimize error values towards increased model stability and improved accuracy. In this scope, an error compensation module was developed towards the performance improvement of a deep learning structure for the task of short-term electricity price forecasting. This approach introduced an autoregressive model for the estimation of residual training error, resulting in more consistent predictions and overall lower error metrics when tested in different training scenarios. Additionally, this method discussed the potential addition of hyperparameters that configure the error compensation module for future applications and benchmarks. The extension of the strategies presented in this dissertation could enable the development of more flexible and adaptive forecasting pipelines that could enhance the capabilities of future energy applications.

Οι διεργασίες βραχυπρόθεσμης πρόβλεψης αποτελούν αναπόσπαστο κομμάτι της ανάλυσης δεδομένων στον τομέα της ενέργειας καθώς η ενσωμάτωσή τους σε προγράμματα ανταπόκρισης ζήτησης, συστήματα διαχείρισης ενέργειας, ευφυή δίκτυα ενέργειας και σε εφαρμογές ενεργειακών αγορών είναι πολύτιμη για την εξέταση πολύπλοκων και ευμετάβλητων χρονοσειρών όπως των μεταβλητών φορτίου και της τιμής ηλεκτρικής ενέργειας. Τα βραχυπρόθεσμα μοντέλα πρόβλεψης φορτίου προσφέρουν πολύτιμες πληροφορίες σχετικά με τα πρότυπα κατανάλωσης μέσω του ελέγχου παραγόντων επιρροής και εισάγουν ευφυείς τρόπους παρακολούθησης της ζήτησης ηλεκτρικής ενέργειας καθώς και της εμφάνισης ακανόνιστων γεγονότων, προκειμένου να βελτιώσουν τις διαδικασίες λήψης αποφάσεων των υπηρεσιών ηλεκτρισμού κοινής ωφέλειας και να ενισχύσουν τη σταθερότητα του δικτύου αντιστοίχως. Τα βραχυπρόθεσμα μοντέλα πρόβλεψης τιμών ηλεκτρικής ενέργειας αντιμετωπίζουν την πρόκληση της αστάθειας των τιμών και συμβάλλουν στην ανάπτυξη ισχυρών στρατηγικών για την αποτελεσματική διαχείριση των ενεργειακών πόρων και τη βελτιστοποίηση ενεργειακών συναλλαγών για όλα τα μέλη των ενεργειακών αγορών και για τους καταναλωτές. Είναι προφανές ότι οι μέθοδοι που εστιάζουν στις χρονοσειρές φορτίου και τιμών ηλεκτρικής ενέργειας ακολουθούν παρόμοια δομή, συμπεριλαμβάνοντας στοιχεία προεπεξεργασίας, πρόβλεψης και εξόδου για την εκτίμηση των μεταβλητών-στόχων μετά τη συλλογή δεδομένων. Επομένως, αυτή η διατριβή αναγνωρίζει την κοινή και επικαλυπτόμενη δομή αυτών των διεργασιών πρόβλεψης και απευθύνεται στην αντιμετώπιση εμφανών προκλήσεων και ερευνητικών κενών που σχετίζονται με κάθε δομικό στοιχείο μέσω της ανάπτυξης βέλτιστων στρατηγικών σχεδιασμού που βελτιώνουν τη συνολική απόδοση των μοντέλων. Η μελέτη του δομικού στοιχείου προεπεξεργασίας οδήγησε στην αξιολόγηση της ισχυρής επιλογής χαρακτηριστικών και ανέδειξε το ρόλο της παραγωγής κανόνων για την αποτελεσματική εξέταση των υπό μελέτη περιβαλλόντων. Καθώς εξέχουσες προκλήσεις στην προεπεξεργασία δεδομένων συνδέονται με τις διαστάσεις των συνόλων δεδομένων και την ερμηνευσιμότητα των χαρακτηριστικών, προτάθηκε μία μέθοδος για τη δημιουργία ενός συμπαγούς και ερμηνεύσιμου συνόλου κανόνων μέσω υβριδικής επιλογής χαρακτηριστικών. Επιπροσθέτως, η μελέτη του δομικού στοιχείου που αποτελεί το κύριο πλαίσιο πρόβλεψης εμφάνισε προκλήσεις που σχετίζονται με τις αυτόνομες, συνδυαστικές και μετα-μοντελοποιητικές φιλοσοφίες σχεδιασμού. Στην αυτόνομη μοντελοποίηση, η αβεβαιότητα που περιβάλλει την επιλογή εκτιμητών λόγω της ανεπαρκούς εξερεύνησης ακραίων περιπτώσεων συχνά παρεμποδίζει την πρόοδο της έρευνας και οδηγεί σε σύγχυση που σχετίζεται με τη συμπεριφορά εκπαίδευσης. Συνεπώς, μία συγκριτική μελέτη που εξετάζει την απόδοση αναφοράς των μεθοδολογιών νευρωνικών δικτύων για προβλέψεις υψηλής ανάλυσης αναφέρεται σε μία από τις ακραίες περιπτώσεις όπου η συνοπτικότητα της διαδικασίας εκπαίδευσης και οι χρονικοί περιορισμοί θα μπορούσαν να προκαλέσουν αυτή την αβεβαιότητα. Στη συνδυαστική μοντελοποίηση, η αβεβαιότητα της επιλογής των εκτιμητών-μελών για μεθόδους συνόλου σε συνδυασμό με τις προκλήσεις αποκλίνουσας αντίληψης μοντέλου και απόκλισης δεδομένων θα μπορούσαν να οδηγήσουν σε αυθαίρετες σχεδιαστικές αποφάσεις και ανεπαρκείς συνδυασμούς μοντέλων. Κατά συνέπεια, προτάθηκε μία νέα στρατηγική σχεδιασμού που επικεντρώνεται στην ντετερμινιστική επιλογή των μελών του εκτιμητή με βάση τα δομικά χαρακτηριστικά των δεικτών κορύφωσης και μη-κορύφωσης ώστε να δημιουργηθούν αποδοτικά μοντέλα μάθησης συνόλου. Επίσης, η εξέταση των προσεγγίσεων μετα-μοντελοποίησης ανέδειξε τα οφέλη απόδοσης που προκύπτουν από τη χρήση περισσότερων επιπέδων πρόβλεψης και οδήγησε στην εισαγωγή μίας προσέγγισης πρόβλεψης που υπολόγιζε την κατανάλωση φορτίου μέσω της επισκόπησης της ομοιότητας και της αιτιότητας για τη δημιουργία εναλλακτικών αναπαραστάσεων χρονοσειρών. Αυτή η προσέγγιση βελτίωσε τις μετρήσεις σφάλματος σε σύγκριση με το βασικό μοντέλο συνόλου LSTM, υποδηλώνοντας την επίδραση των παραγόντων κοινότητας όταν η ποιότητα του συνόλου δεδομένων εισόδου απέχει αρκετά από την ιδανική. Τέλος, ακολουθώντας αυτή τη μέθοδο της εκ των υστέρων σχεδίασης, κατά τη μελέτη του δομικού στοιχείου εξόδου εντοπίστηκε η ανάγκη για βελτίωση απόδοσης μέσω πρόσθετων δομών που εκτιμούν και ελαχιστοποιούν τις τιμές σφάλματος για την αυξημένη σταθερότητα και βελτιωμένη ακρίβεια του μοντέλου. Σε αυτό το πεδίο, αναπτύχθηκε ένα δομικό στοιχείο αντιστάθμισης σφαλμάτων για τη βελτίωση της απόδοσης μίας δομής βαθιάς μάθησης για τη βραχυπρόθεσμη πρόβλεψη τιμών ηλεκτρικής ενέργειας. Αυτή η προσέγγιση εισήγαγε ένα αυτοπαλινδρομικό μοντέλο για την εκτίμηση του υπολειπόμενου σφάλματος εκπαίδευσης, οδηγώντας σε πιο συνεπείς προβλέψεις και σε συνολικά χαμηλότερες μετρήσεις σφάλματος μετά από δοκιμές σε διαφορετικά σενάρια εκπαίδευσης. Επιπροσθέτως, αυτή η μέθοδος εξέτασε την πιθανή προσθήκη υπερπαραμέτρων για τη διαμόρφωση του στοιχείου αντιστάθμισης σφαλμάτων σε μελλοντικές εφαρμογές και μοντέλα αναφοράς. Η επέκταση των στρατηγικών που παρουσιάζονται σε αυτή τη διατριβή θα μπορούσε να επιτρέψει την ανάπτυξη πιο ευέλικτων και ευπροσάρμοστων διεργασιών πρόβλεψης που θα ενίσχυαν τις δυνατότητες μελλοντικών ενεργειακών εφαρμογών.