Deep learning techniques for financial data

Abstract

Financial transactions and products have been evolving and becoming more democratized over the past century. Peer-to-peer transactions and contracts are available to an increasing number of people, and interest in wealth management is growing. The introduction and evolution of electronic trading and automated financial services have spurred the development of automated trading strategies for investing and managing assets. At the same time, Machine Learning (ML) is seeing a meteoric rise in interest due to the unprecedented achievements of Deep Learning (DL). The computational capacity of processors has been growing exponentially, and in the last decade, it has reached a critical point for feasible large-scale DL. That, along with an abundance of data generated on the world wide web, has led to breakthroughs in Artificial Intelligence research. These range from unparalleled accuracy in classification tasks, to surpassing human-level performance in intricate games such as chess. These improvements are attributed to DL model growth in depth and number of parameters. As we probe more research fields under the lens of DL, one that is picking up speed is finance and financial trading. Applying DL as a black box to financial trading is not simple and does not yield the same success as other DL applications. Throughout this dissertation, we explore the applicability of DL to financial trading. Novel models and methods leverage the inherent power of DL to benefit existing and new approaches to financial trading. We develop market simulation environments that use historical price data and train agents with Reinforcement Learning to optimize their trading performance. The reward signal in these approaches is the achieved trading profit. Novel Deep Reinforcement Learning (DRL) methods are proposed for Reward Shaping and Knowledge Distillation. In the proposed Reward Shaping method, we implement an auxiliary reward, stemming from the empirical measure of price trailing proximity controlled by the agents. For Knowledge distillation, we examine the effects of a diversified distillation scheme by training teachers using distinct subsets of a dataset. We show that both the Reward Shaping and the Knowledge Distillation methods significantly improve the performance of the resulting models. Next, we study the efficacy of submitting Limit Orders as a more effective order type for achieving profitable trading outcomes. We develop a DRL environment to support Limit Orders and train agents that outperform the baselines by using Limit Orders. We explore and compare Supervised Learning DL models for predicting price changes using high-frequency Limit Order Book data. Finally, since many market actors use qualitative or algorithmic strategies, a signal cloning model is developed that manages to accurately reproduce the decisions of the original algorithm. In this dissertation, the efficacy of DL approaches for Financial Data is thoroughly explored. The experimental evaluation of our proposed methods implies that DL can be used to successfully analyze, predict and model financial trading with clear avenues for improvements in future work.

Τα χρηματιστήρια και οι υπηρεσίες που παρέχουν έχουν ραγδαία εξέλιξη τα τελευταία χρόνια και η πρόσβαση των πολιτών σε αυτά γίνεται ολοένα και πιο εύκολη. Η πρόσβαση στις ηλεκτρονικές υπηρεσίες των χρηματαγορών έχει οδηγήσει στην ανάπτυξη συστηματικών επενδυτικών στρατηγικών χωρίς να είναι απαραίτητη η ανθρώπινη παρέμβαση. Την ίδια περίοδο, η Μηχανική Μάθηση (ΜΜ) έχει ελκύσει το ενδιαφέρον της ερευνητικής κοινότητας χάρη στα πρωτοφανή επιτεύγματα στον τομέα της Βαθιάς Μάθησης (ΒΜ). Η συνεχής άνοδος της υπολογιστικής ισχύος των ολοκληρωμένων κυκλωμάτων (επεξεργαστών), έχει φτάσει σε ένα κρίσιμο σημείο όπου έχει γίνει εφικτή η χρήση των μοντέλων ΒΜ σε πολλά προβλήματα. Παράλληλα, η αφθονία των δεδομένων του παγκόσμιου ιστού έχει δώσει ένα εκτενές υπόβαθρο για την έρευνα της Τεχνητής Νοημοσύνης. Από την απαράμιλλη ακρίβεια σε προβλήματα πρόβλεψης, μέχρι την επίδοση σε επιτραπέζια και ηλεκτρονικά παιχνίδια, η ΒΜ ξεπερνά την επίδοση των ανθρώπων, όσο τα μοντέλα της αυξάνονται σε πλήθος παραμέτρων. Καθώς η έρευνα της ΒΜ διαχέεται σε περισσότερα πεδία, ένα από αυτά είναι η ανάλυση των χρηματοοικονομικών δεδομένων. Η εφαρμογή της ΒΜ σαν ``μαύρο κουτί'' στις οικονομικές χρονοσειρές δεν έχει την ίδια επιτυχία με τις εφαρμογές σε άλλα πεδία. Στην παρούσα διδακτορική διατριβή διερευνάται η συμβατότητα της ΒΜ για την ανάλυση χρηματοοικονομικών δεδομένων και προτείνονται λύσεις για τα προβλήματα που υπάρχουν. Στην διαρκεια της διατριβής αναπτύχθηκαν νέα μοντέλα και μέθοδοι ΒΜ, που προσαρμόστηκαν κατάλληλα στις ιδιαίτερες απαιτήσεις των χρηματοοικονομικών δεδομένων. Σε αυτά περιλαμβάνονται καινοτόμες προσεγγίσεις για την ανάλυση, πρόβλεψη και κατηγοριοποίηση χρονοσειρών, καθώς και την ανάπτυξη ευφυών πρακτόρων για τη βέλτιστη εκτέλεση χρηματοοικονομικών συναλλαγών.Διερευνήθηκαν μοντέλα για την ανάλυση δεδομένων υψηλής συχνότητας, όπως ο Κατάλογος Εντολών Ορίου (Limit Order Book), αλλά και δεδομένων συναλλαγών με υποδειγματοληψία, όπως τιμές ανοίγματος-υψηλού-χαμηλού-κλεισίματος (Open-High-Low-Close). Με δεδομένο ότι πολλοί επενδυτές χρησιμοποιούν ποιοτικές ή αλγοριθμικές στρατηγικές, αναπτύχθηκαν μοντέλα ΒΜ για την ``κλωνοποίηση'' σήματος στρατηγικών. Τα μοντέλα κατάφεραν να υπολογίσουν με ακρίβεια τις αποφάσεις αλγορίθμων στρατηγικών έχοντας πρόσβαση μόνο στα δεδομένα της χρονοσειρας των τιμών. Στη συνέχεια αναπτύχθηκαν περιβάλλοντα προσομοίωσης χρηματιστηριακής αγοράς που χρησιμοποιούν ιστορικά δεδομένα τιμών. Με αυτές τις προσομοιώσεις εκπαιδεύτηκαν πράκτορες με Ενισχυτική Μάθηση (Reinforcement Learning) για τη βελτιστοποίηση ενός σήματος ανταμοιβής. Ως σήμα ανταμοιβής χρησιμοποιήθηκε κυρίως το προσομοιωμένο κέρδος. Επίσης αναπτύχθηκε ένα «διαμορφωμένο» σήμα ανταμοιβής που βελτίωσε την ταχύτητα σύγκλισης και την τελική επίδοση των μοντέλων Ενισχυτικής Μάθησης. Τέλος, η μοντελοποίηση του περιβάλλοντος προσομοίωσης και τα μοντέλα των πρακτόρων Ενισχυτικής Μάθησης επεκτάθηκαν περαιτέρω για να υποστηρίξουν εντολές ορίου (limit orders). Η χρήση των εντολών ορίου έδειξε σημαντική αύξηση των ανταμοιβών που πετύχαιναν οι πράκτορες.