Machine learning algorithms for beamforming applications in 6G communications systems

Abstract

The emergence of 6G wireless networks presents a transformative leap in telecommunication technology, promising unprecedented data rates, ultra-reliable low-latency communications, and seamless integration of a multitude of connected devices. The dynamic and complex requirements of 6G networks necessitate advanced adaptive beamforming (ABF) solutions to ensure high-quality communication links. This thesis explores innovative machine learning (ML) techniques, particularly leveraging neural networks (NNs), to enhance the efficiency, adaptability, and scalability of ABF processes, addressing critical challenges that traditional deterministic algorithms struggle to resolve in dynamic environments. The contributions of this work span four main pillars, each targeting a distinct aspect of ABF for next-generation wireless networks. The first pillar focuses on using deep learning for efficient beamforming weight calculation in uniform linear arrays (ULAs). Traditional deterministic methods such as the minimum variance distortionless response (MVDR) and null-steering beamforming (NSB) techniques provide accurate results but suffer from high computational complexity and limited adaptability to rapidly changing scenarios. This work introduces a recurrent neural network (RNN) architecture, specifically a gated recurrent unit (GRU) model, trained using large datasets generated by an NSB algorithm. This NN-based solution demonstrates comparable accuracy to deterministic methods while significantly reducing response time and enhancing scalability through parallelization. Comparative analysis reveals that the GRU model offers a mean main lobe and null-placement error of 0.43 and 0.076 degrees, respectively, for realistic 16-element ULAs, proving its potential as a robust and efficient alternative to traditional beamforming techniques. Building upon this, the second pillar extends the proposed methods to the more complex scenario of three-dimensional (3D) beamforming using uniform planar arrays (UPAs). This work explores the design and tuning of NNs for 3D ABF, focusing on achieving high accuracy while maintaining manageable computational requirements. Hyperparameter optimization techniques are applied to identify optimal network configurations, and two novel techniques are introduced: a method for efficient null identification and a self-improvement approach for continuous NN fine-tuning. This self-improving method identifies and addresses underperforming cases, enhancing model performance with less data. The proposed LSTM-based beamformer achieves a mean main lobe and null-placement error of 0.25 and 0.23 degrees, respectively, demonstrating the feasibility of NN-based beamforming for complex 3D scenarios. The third pillar addresses sidelobe suppression, a critical aspect of ABF for minimizing interference and enhancing signal quality. By iteratively placing nulls towards the directions of high sidelobes, this work develops a recursive sidelobe damping method and tunes its parameters for a balance between sidelobe level (SLL) reduction and response time. The resulting NNs, trained using this method, achieve a mean maximum SLL of -20.7 dB on an 8×8 UPA while offering response times that are more than 8000 times faster than the iterative approach used for training. The fourth and final pillar shifts the focus to proactive beamforming through DoA prediction. Proactive beamforming anticipates the future DoA of incoming signals based on historical observations, reducing beamforming latency and improving system adaptability. This work proposes an NN-based predictive model trained on realistic movement paths simulated using OpenStreetMap data for urban environments. Transformer neural networks (TNNs) and recurrent architectures are employed to forecast future DoAs, demonstrating superior accuracy, with mean prediction errors of 1.36 degrees for line-of-sight (LoS) and 3.01 degrees for non-line-of-sight (NLoS) scenarios. The proposed approach is validated through simulations of moving users, showcasing its ability to maintain optimal signal strength and SIR levels during user movement. Collectively, this thesis highlights the transformative potential of ML-based approaches in ABF for 6G networks. By addressing key challenges such as latency reduction, scalability, 3D beamforming complexity, sidelobe suppression, and proactive DoA prediction, this work contributes to the development of next-generation wireless systems capable of meeting the demanding requirements of 6G. Through novel NN architectures and data-driven optimization methods, it paves the way for more intelligent, adaptable, and efficient beamforming solutions that push the boundaries of wireless communication performance.

Η εμφάνιση των δικτύων 6G παρουσιάζει ένα σημαντικό άλμα στις ασύρματες τηλεπικοινωνίες, υποσχόμενη πρωτοφανείς ρυθμούς δεδομένων, εξαιρετικά αξιόπιστες επικοινωνίες χαμηλής καθυστέρησης και ενσωμάτωση πλήθους συνδεδεμένων συσκευών. Οι δυναμικές και πολύπλοκες ανάγκες των δικτύων 6G απαιτούν προηγμένες λύσεις προσαρμοστικής μορφοποίησης ακτινοβολίας (ABF) για την εξασφάλιση υψηλής ποιότητας συνδέσεων τηλεπικοινωνίας. Η παρούσα διατριβή διερευνά καινοτόμες τεχνικές μηχανικής μάθησης, αξιοποιώντας βαθιά νευρωνικά δίκτυα (NN), για να βελτιώσει την αποδοτικότητα, την προσαρμοστικότητα και την επεκτασιμότητα των διαδικασιών ABF, διευθετώντας κρίσιμες προκλήσεις που οι παραδοσιακοί αλγόριθμοι αντιμετωπίζουν σε δυναμικά περιβάλλοντα. Οι συνεισφορές αυτής της διτριβής επεκτείνονται σε τέσσερις κύριους άξονες, καθένας από τους οποίους στοχεύει σε μια συγκεκριμένη πτυχή του ABF για τα δίκτυα επόμενης γενιάς. Ο πρώτος άξονας επικεντρώνεται στη χρήση βαθιάς μάθησης για τον αποδοτικό υπολογισμό των βαρών δέσμης ακτινοβολίας σε ομοιόμορφες γραμμικές στοιχειοκεραίες (ULAs). Οι παραδοσιακές ντετερμινιστικές μέθοδοι, όπως η ελάχιστης παραμόρφωσης (MVDR) και η τεχνική προσαρμογής μηδενισμών (NSB), παρέχουν ακριβή αποτελέσματα, αλλά πλήττονται από υψηλή υπολογιστική πολυπλοκότητα και περιορισμένη αποδοτικότητα σε ταχέως μεταβαλλόμενα σενάρια. Η παρούσα εργασία εισάγει μια αρχιτεκτονική αναδρομικού νευρωνικού δικτύου (RNN), και πιο συγκεκριμένα ένα μοντέλο με μονάδες GRU, εκπαιδευμένο με τη χρήση μεγάλων συνόλων δεδομένων που παράγονται από τον αλγόριθμο NSB. Αυτή η λύση βασισμένη σε NN πετυχαίνει συγκρίσιμη ακρίβεια με τις ντετερμινιστικές μεθόδους, μειώνοντας παράλληλα σημαντικά τον χρόνο απόκρισης και βελτιώνοντας την επεκτασιμότητα μέσω παραλληλισμού. Η συγκριτική στατιστική ανάλυση αποκαλύπτει ότι το μοντέλο GRU προσφέρει μέσο σφάλμα τοποθέτησης κύριου λοβού και μηδενισμών 0,43 και 0,076 μοίρες, αντίστοιχα, για ρεαλιστικές γραμμικές στοιχειοκεραίες 16 στοιχείων. Τα αποτελέσματα αυτά φανερώνουν τις προοπτικές της χρήσης NN για πιο περίπλοκα και απαιτητικά περιβάλλοντα. Με βάση την προηγούμενη μελέτη, ο δεύτερος άξονας επεκτείνει τις προτεινόμενες μεθόδους στο πιο σύνθετο σενάριο της τρισδιάστατης προσαρμοστικής μορφοποίησης ακτινοβολίας με ομοιόμορφες επίπεδες στοιχειοκεραίες (UPAs). Αυτή η εργασία διερευνά το σχεδιασμό και τη ρύθμιση των NN για τρισδιάστατο ABF, εστιάζοντας στην επίτευξη υψηλής ακρίβειας διατηρώντας παράλληλα διαχειρίσιμες τις υπολογιστικές τους απαιτήσεις. Χρησιμοποιούνται τεχνικές βελτιστοποίησης υπερπαραμέτρων για το βέλτιστο σχεδιασμό των NN και εισάγονται δύο νέες μέθοδοι: μία τεχική για την αποδοτική ταυτοποίηση και μέτρηση της ακρίβειας των μηδενισμών και μία προσέγγιση για συνεχή βελτίωση των εκπαιδευμένων NN μέσω διαδικασιών αυτο-εκπαίδευσης. Αυτή η μέθοδος αυτοβελτίωσης εντοπίζει και αντιμετωπίζει περιπτώσεις χαμηλής απόδοσης, ενισχύοντας την επίδοση του μοντέλου με λιγότερα δεδομένα. Ο προτεινόμενος διαμορφωτής δέσμης LSTM επιτυγχάνει μέσο σφάλμα τοποθέτησης κύριου λοβού και μηδενισμών 0,25 και 0,23 μοίρες αντίστοιχα, επιβεβαιώνοντας τη δυνατότητα των NN για τρισδιάστατα σενάρια υψηλής πολυπλοκότητας. Ο τρίτος άξονας ασχολείται με την καταστολή των πλευρικών λοβών, μια κρίσιμη πτυχή του ABF για την ελαχιστοποίηση των παρεμβολών και τη βελτίωση της ποιότητας του σήματος. Συγκεκριμένα, αναπτύσσεται μια μέθοδος απόσβεσης πλευρικών λοβών με την τοποθέτηση μηδενισμών προς τις κατευθύνσεις υψηλών πλευρικών λοβών μέσω μιας επαναληπτικής διαδικασίας. Έπειτα, ρυθμίζονται οι κύριες παράμετροι της μεθόδου για την επίτευξη ισορροπίας μεταξύ του επιπέδου πλευρικών λοβών (SLL) και του χρόνου απόκρισης. Τα παραγόμενα NN, εκπαιδευμένα με αυτή τη μέθοδο, επιτυγχάνουν μέσο μέγιστο SLL -20,7 dB σε μια 8×8 UPA, προσφέροντας χρόνους απόκρισης τουλάχιστον 8.000 φορές ταχύτερους από την μέθοδο που χρησιμοποιήθηκε για την εκπαίδευση. Ο τέταρτος και τελευταίος άξονας επικεντρώνεται στο προληπτικό ABF (proactive beamforming) μέσω της πρόβλεψης των κατευθύνσεων των εισερχομένων σημάτων (DoA). Αυτή η προσέγγιση στοχεύει στην πρόβλεψη μελλοντικών DoA εισερχόμενων σημάτων λαμβάνοντας υπόψη προηγούμενες καταγεγραμένες DoAs κινούμενων χρηστών. Έτσι, μειώνεται η καθυστέρηση της διαδικασίας ABF και αυξάνεται η προσαρμοστικότητα του συστήματος. Ένα μοντέλο NN εκπαιδεύεται σε ρεαλιστικές διαδρομές κίνησης που προσομοιώνονται με δεδομένα OpenStreetMap για αστικά περιβάλλοντα. Τα μοντέλα transformer (TNN) και RNN χρησιμοποιούνται για την πρόβλεψη μελλοντικών DoA, επιδεικνύοντας εξαιρετική ακρίβεια, με μέσο σφάλμα πρόβλεψης 1,36 μοίρες για περιπτώσεις οπτικής επαφής με το σταθμό βάσης (LoS) και 3,01 μοίρες για περιπτώσεις μη οπτικής επαφής με το σταθμό βάσης (NLoS). Η προσέγγιση αυτή επιβεβαιώνεται μέσω προσομοιώσεων με κινούμενους χρήστες, επικυρώνοντας τη δυνατότητά της να διατηρεί βέλτιστα επίπεδα ισχύος σήματος και λόγου σήματος προς παρεμβολές (SIR) κατά την διάρκεια της κίνησης των χρηστών. Συνολικά, αυτή η διατριβή αναδεικνύει τις μετασχηματιστικές δυνατότητες των προσεγγίσεων ML στο ABF για τα δίκτυα 6G. Αντιμετωπίζοντας βασικές προκλήσεις όπως η μείωση της καθυστέρησης, η επεκτασιμότητα, η πολυπλοκότητα του τρισδιάστατου ABF, η καταστολή των πλευρικών λοβών και η πρόβλεψη μελλοντικών DoA, το έργο αυτό συμβάλλει στην ανάπτυξη των συστημάτων ασύρματης επικοινωνίας που μπορούν να ανταποκριθούν στις απαιτήσεις των δικτύων 6G. Μέσω καινοτόμων αρχιτεκτονικών NN και μεθόδων βελτιστοποίησης, ανοίγει ο δρόμος για πιο ευφυείς, προσαρμοστικές και αποδοτικές λύσεις ABF που επεκτείνουν τα όρια των δυνατοτήτων των ασύρματων τηλεπικοινωνιών.