Implementing privacy-preserving neural network inference via distributed stream processing

Abstract

Η παρούσα διπλωματιϰή εργασία παρουσιάζει την υλοποίηση ϰαι αξιολόγηση επεϰτάσεων στο σύστημα PP-Stream, ένα υβριδιϰό πλαίσιο για αποδοτιϰή ϰαι ιδιωτιϰή εϰτέλεση προβλέψεων με χρήση νευρωνιϰών διϰτύων. Αντί να προτείνει μία νέα αρχιτεϰτονιϰή, η βασιϰή συμβολή αυτής της εργασίας έγϰειται στην ενίσχυση των μηχανισμών ιδιωτιϰότητας του PP-Stream, με έμφαση στη βελτίωση των τεχνιϰών απόϰρυψης που εφαρμόζονται στις μη γραμμιϰές λειτουργίες του νευρωνιϰού διϰτύου. Το σύστημα υιοϑετεί μια υβριδιϰή προσέγγιση, συνδυάζοντας την ομομορφιϰή ϰρυπτογράφηση για τις γραμμιϰές λειτουργίες ϰαι μηχανισμούς απόϰρυψης για τις μη γραμμιϰές, με στόχο την εξισορρόπηση μεταξύ ιδιωτιϰότητας ϰαι απόδοσης. Στο πλαίσιο αυτής της μελέτης, το PP-Stream αναπτύσσεται ϰαι αξιολογείται σε ϰατανεμημένο περιβάλλον επεξεργασίας ροών δεδομένων, με έμφαση στη δυνατότητα επεξεργασίας δεδομένων σε πραγματιϰό χρόνο ϰαι με χαμηλή ϰαϑυστέρηση. Για την περαιτέρω ενίσχυση των εγγυήσεων ιδιωτιϰότητας, ενσωματώνονται ϰαι αξιολογούνται πρόσϑετοι μηχανισμοί απόϰρυψης που προϰύπτουν από σύγχρονη βιβλιογραφία, όπως η δημιουργία ψευδών τιμών ϰαι η χωριϰή παραμόρφωση. Μέσω πειραμάτων με το σύνολο δεδομένων MNIST, αξιολογείται η επίδραση των ενισχυμένων μηχανισμών τόσο στην απόδοση του συστήματος όσο ϰαι στη διατήρηση της εμπιστευτιϰότητας των δεδομένων. Τα αποτελέσματα δείχνουν ότι οι προτεινόμενες επεϰτάσεις του PP-Stream μπορούν να ενισχύσουν την ιδιωτιϰότητα ϰατά τη φάση της εϰτίμησης, διατηρώντας μέτρια αϰρίβεια ϰαι αποδοτιϰότητα συγϰριτιϰά με την υπάρχουσα υλοποίηση, υπογραμμίζοντας με αυτόν τον τρόπο τους συμβιβασμούς που εμπλέϰονται στην ανάπτυξη ιδιωτιϰών νευρωνιϰών διϰτύων. Η εργασία αυτή αναδειϰνύει τη σημασία της ενσωμάτωσης προηγμένων τεχνιϰών απόϰρυψης σε υφιστάμενα πλαίσια ιδιωτιϰής μηχανιϰής μάϑησης ϰαι συνεισφέρει στη συζήτηση για την ασφαλή ανάπτυξη εφαρμογών νευρωνιϰών διϰτύων σε μη έμπιστα ϰαι ϰατανεμημένα περιβάλλοντα.This thesis presents the implementation and evaluation of enhancements to the PP-Stream system, a hybrid framework for high-performance, privacy-preserving neural network inference. Rather than proposing a new architecture, the primary contribution of this work lies in extending PP-Stream’s privacy mechanisms—specifically by improving the obfuscation techniques used during non-linear operations. The system leverages a hybrid approach that applies homomorphic encryption to secure linear computations and obfuscation strategies to protect non-linear layers, thereby addressing the common trade-off between security and performance in privacy-preserving inference. In this study, we deploy PP-Stream within a distributed stream processing environment and focus on its ability to handle real-time data with minimal latency. To strengthen its privacy guarantees, we integrate additional obfuscation mechanisms derived from recent literature, such as dummy value generation and spatial perturbation. We conduct extensive experimentation using the MNIST dataset to evaluate the impact of these enhancements on both system performance and data confidentiality. The experimental results suggest that the proposed enhancements to PP-Stream can improve privacy during inference, with a moderate impact on accuracy and efficiency, underlining the trade-offs involved in privacy-preserving neural network deployment. This work highlights the importance of incorporating advanced obfuscation methods into existing privacy-preserving frameworks and contributes valuable insights toward the secure deployment of neural network inference in untrusted and distributed environments.