SPD-Safe: security, privacy and dependability management on embedded systems in safety-critical applications

Abstract

Specifying and measuring the properties that a system provides, plays an important role for risk analysis during the development and management processes. Large organizations, like NASA and the FORD motor company, apply formal methodologies to guarantee that the developed systems fulfil the design requirements and accomplish the desired mission critical goals.The effectiveness of cyber-attacks raises security as a main system concern. Privacy also becomes important, as high volumes of personal data are processed by modern systems. Still, simple establishment of security and privacy defence mechanisms do not guarantee protection. The dependability of the solution must be also verified. Safety management is crucial, as any incident can lead to potential damage or even personal injury.Tackling the overall security, privacy, and dependability (SPD) calculation in a practical and systematic manner is difficult. The problem hardens when we deal with a composed system. In the era of pervasive and ubiquitous computing several systems are dynamically composed, with high volumes of heterogeneous embedded and mobile devices exchanging information.This thesis examines SPD and safety-related issues on Internet-of-Things (IoT) in corporation with Artificial Intelligence (AI). Formal methods are applied for system composition and SPD validation on evaluating systems. Then, the AI process can manage the system in real-time to protect the system itself and the users of the ambient environment. For example, a smart campus setting can assist living conditions during normal operation and counter cyber-attacks. In case of emergency, like fire or earthquake, the AI manages the surrounding smart equipment to assist the timely and safe evacuation of all evacuees. In other smart city scenarios, the system can detect physical tampering of critical railway infrastructure or car accidents and inform the involving authorities to take actions. Information regarding the incident and the passengers’ health condition are distributed. The goal is to achieve fast response with adequate rescue means.The main achievements of this work include a formal framework which describes the SPD properties of a composed system and its sub-components, and how these features are affected by changes in the state-architecture. The implementation can be used for composition verification, security validation, comparison of different system settings, and evaluation of the impact of a change in a system. Moreover, the proposed framework can be used as a middleware for real-time monitoring and management of a system. Technically, the framework is modelled as the reasoning process of JADE agents and ported in the OSGi middleware platform. The network layer is further fortified by a novel trust-based secure routing protocol that provides enhanced security and performance, surpassing the current solutions. Lightweight cryptographic primitives are implemented at the device end to ensure authentication, confidentiality, and integrity.The deployment is applied and demonstrated in five main scenarios:•A smart home application to evaluate and manage embedded devices with ambient intelligence capabilities for assisting living.•An IoT system for precision agriculture deployments with wireless sensor networks (WSNs) for monitoring olive groves or forests while detecting and countering cyber-attacks.•A smart campus setting for disaster mitigation planning that manages the surrounding smart equipment and assist the timely and safe evacuation of all evacuees in case of emergency, like fire.•A railway cyber-physical system (CPS) for smart transportation with in-carriage and on-route WSNs that continuously monitor the critical infrastructure for safety-related incidents while providing protection against cyber-attacks.•A smart vehicle fleet management where the system monitors the underlying vehicles at runtime, protecting against cyber-attacks. The system can also detect car accidents and inform the involving authorities to take actions.

Ο προσδιορισμός και η μέτρηση των ιδιοτήτων που παρέχει ένα σύστημα διαδραματίζει σημαντικό ρόλο στην ανάλυση κινδύνου κατά τη διάρκεια των διαδικασιών ανάπτυξης και διαχείρισης. Μεγάλοι οργανισμοί, όπως η NASA και η αυτοκινητοβιομηχανία FORD, εφαρμόζουν τυπικές μεθόδους για να διασφαλίσουν ότι τα παραγόμενα συστήματα πληρούν τις απαιτήσεις σχεδίασης και επιτυγχάνουν τους επιθυμητούς στόχους που είναι κρίσιμης σημασίας για την επίτευξη της αποστολή.Η αποτελεσματικότητα των επιθέσεων στον κυβερνοχώρο αναδεικνύει την ασφάλεια ως κύρια ιδιότητα ενός συστήματος. Η ιδιωτικότητα γίνεται επίσης σημαντική, καθώς τα σύγχρονα συστήματα επεξεργάζονται μεγάλους όγκους προσωπικών δεδομένων. Ωστόσο, η απλή δημιουργία μηχανισμών ασφάλειας και προστασίας της ιδιωτικής ζωής δεν εγγυάται προστασία. Πρέπει επίσης να επαληθευτεί η αξιοπιστία της λύσης. Η διαχείριση της φυσικής ασφάλειας είναι ζωτικής σημασίας, καθώς κάθε περιστατικό μπορεί να οδηγήσει σε πιθανή ζημιά ή ακόμα και σε τραυματισμό.Η αντιμετώπιση του υπολογισμού της συνολικής ασφάλειας, της ιδιωτικότητας, και της αξιοπιστίας (ΑΙΑ) με πρακτικό και συστηματικό τρόπο είναι δύσκολη. Το πρόβλημα δυσκολεύει όταν αντιμετωπίζουμε ένα σύνθετο σύστημα. Στην εποχή της διάχυτης και πανταχού παρουσίας υπολογιστικής, πολλά συστήματα είναι δυναμικά συντεθειμένα, με μεγάλους όγκους ετερογενών ενσωματωμένων και κινητών συσκευών να ανταλλάσσουν πληροφορίες.Αυτή η εργασία εξετάζει θέματα ΑΙΑ και φυσικής ασφάλειας που σχετίζονται με το Διαδίκτυο των Πραγμάτων (ΔτΠ) σε συνεργασία με την Τεχνητή Νοημοσύνη (ΤΝ). Τυπικές μέθοδοι εφαρμόζονται για τη σύνθεση του συστήματος και την επικύρωση του επιπέδου ΑΙΑ στα συστήματα αξιολόγησης. Στη συνέχεια, η διαδικασία ΤΝ μπορεί να διαχειριστεί το σύστημα σε πραγματικό χρόνο για να προστατεύσει το ίδιο το σύστημα και τους χρήστες του περιβάλλοντα χώρου. Για παράδειγμα, μια εφαρμογή έξυπνης πανεπιστημιούπολης μπορεί να βοηθήσει τις συνθήκες διαβίωσης κατά τη διάρκεια της κανονικής λειτουργίας και να καταπολεμήσει τις κυβερνο-επιθέσεις. Σε περίπτωση έκτακτης ανάγκης, όπως η πυρκαγιά ή ο σεισμός, η ΤΝ διαχειρίζεται τον περιβάλλοντα έξυπνο εξοπλισμό για να βοηθήσει στην έγκαιρη και ασφαλή εκκένωση όλων των ανθρώπων. Σε άλλα σενάρια έξυπνης πόλης, το σύστημα μπορεί να ανιχνεύσει την φυσική παραβίαση της κρίσιμης σιδηροδρομικής υποδομής ή τροχαία ατυχήματα και να ενημερώσει τις εμπλεκόμενες αρχές για τη λήψη μέτρων. Πληροφορίες σχετικά με το περιστατικό και την κατάσταση της υγείας των επιβατών διανέμονται στις αρχές. Ο στόχος είναι να επιτευχθεί γρήγορη ανταπόκριση με τα κατάλληλα μέσα διάσωσης.Τα κύρια επιτεύγματα αυτής της μελέτης περιλαμβάνουν ένα τυπικό πλαίσιο που περιγράφει τις ιδιότητες ΑΙΑ ενός σύνθετου συστήματος και των υποσυστημάτων του και τον τρόπο με τον οποίο αυτά τα χαρακτηριστικά επηρεάζονται από τις αλλαγές στην αρχιτεκτονική δομή. Η εφαρμογή μπορεί να χρησιμοποιηθεί για την επαλήθευση της σύνθεσης, την επικύρωση της ασφάλειας, τη σύγκριση των διαφορετικών ρυθμίσεων του συστήματος και την αξιολόγηση των επιπτώσεων μιας αλλαγής σε ένα σύστημα. Επιπλέον, το προτεινόμενο πλαίσιο μπορεί να χρησιμοποιηθεί ως ενδιάμεσο λογισμικό για την παρακολούθηση και διαχείριση σε πραγματικό χρόνο ενός συστήματος. Από τεχνικής πλευράς, το πλαίσιο διαμορφώνεται ως διαδικασία συλλογιστικής των πρακτόρων JADE και μεταφέρεται στην πλατφόρμα middleware OSGi. Το επίπεδο δικτύου προστατεύεται επιπλέον από ένα καινοτόμο ασφαλές πρωτόκολλο δρομολόγησης βασισμένο σε εμπιστευτικότητα το οποίο παρέχει ενισχυμένη ασφάλεια και επίδοση, ξεπερνώντας τις σημερινές λύσεις. Ελαφριά δομικά στοιχεία κρυπτογραφίας υλοποιήθηκαν σε επίπεδο συσκευής ώστε να εξασφαλιστούν η αυθεντικότητα, η εμπιστευτικότητα, και η ακεραιότητα.Η ανάπτυξη εφαρμόζεται και επιδεικνύεται σε πέντε κύρια σενάρια:•Μια εφαρμογή για έξυπνο σπίτι για την αξιολόγηση και τη διαχείριση ενσωματωμένων συσκευών με δυνατότητες περιβαλλοντικής ευφυΐας για την παροχή βοήθειας στις συνθήκες διαβίωσης.•Ένα σύστημα ΔτΠ για την ανάπτυξη γεωργικών μηχανισμών ακριβείας με ασύρματα δίκτυα αισθητήρων (ΑΔΑ) για την παρακολούθηση των ελαιώνων ή των δασών καθώς και τον εντοπισμό και την αντιμετώπιση των κυβερνο-επιθέσεων.•Μια εφαρμογή έξυπνης πανεπιστημιούπολης για τον σχεδιασμό μετριασμού καταστροφών που διαχειρίζεται τον περιβάλλοντα έξυπνο εξοπλισμό και βοηθά στην έγκαιρη και ασφαλή εκκένωση όλων των εκτοπισμένων σε περίπτωση έκτακτης ανάγκης, όπως η πυρκαγιά.•Ένα κυβερνο-φυσικό σύστημα (ΚΦΣ) σιδηροδρόμων για έξυπνες μεταφορές με ΑΔΑ στα μέσα μεταφοράς και κατά μήκος της διαδρομής που παρακολουθούν συνεχώς την υποδομή για συμβάντα που σχετίζονται με την φυσική ασφάλεια, παρέχοντας ταυτόχρονα προστασία από επιθέσεις στον κυβερνοχώρο.•Μια διαχείριση στόλου έξυπνων οχημάτων, όπου το σύστημα παρακολουθεί τα υποκείμενα οχήματα κατά το χρόνο εκτέλεσης, προστατεύοντας από επιθέσεις στον κυβερνοχώρο. Το σύστημα μπορεί επίσης να ανιχνεύσει τροχαία ατυχήματα και να ενημερώσει τις εμπλεκόμενες αρχές για την ανάληψη ενεργειών.