A comparative study of autoencoders and GANs for credit card fraud detection

Abstract

Fraudulent behavior in the financial sector and its implications constitute a significant threat to the economy, society, and public trust. Detecting such behavior is therefore of crucial importance, as it enables timely intervention, and can potentially act as a deterrent. Despite this, fraud detection poses significant challenges, as it typically relies on limited labeled data and must operate under severe class imbalance. This thesis, using credit card transaction data, studies the fraud detection performance of autoencoders and GANs, while examining cross-model, architecture-level, and supervision-regime comparisons. By implementing a one-class, semi-supervised learning framework, where models are trained exclusively on non-fraudulent transactions, these deep learning models are employed to identify fraudulent transactions through various anomaly scoring and thresholding strategies, while exploring different optimization frameworks. Model performance is evaluated using the F1-score and confusion matrices, which are particularly appropriate for rare-event classification problems. The empirical analysis carried out in this study indicates that autoencoders exhibit stronger classification performance than GANs. It further shows that TPE-based optimization can yield better classification results when combined with the use of fraud labels during the optimization stage, compared to semi-supervised TPE optimization and manual search, highlighting the importance of hyperparameter selection. Overall, the findings emphasize the practical relevance of deep learning models, one-class training paradigms, and optimization method choice for fraud detection in highly imbalanced financial datasets.Οι απάτες στον χρηματοοικονομικό τομέα και οι επιπτώσεις τους αποτελούν σοβαρή απειλή για την οικονομία, την κοινωνία και την εμπιστοσύνη στο χρηματοπιστωτικό σύστημα. Η ανίχνευσή τους είναι επομένως κρίσιμης σημασίας, δεδομένου ότι επιτρέπει την έγκαιρη παρέμβαση και μπορεί να λειτουργήσει αποτρεπτικά. Ωστόσο, η ανίχνευση απατών παρουσιάζει σημαντικές προκλήσεις, καθώς βασίζεται συνήθως σε μικρό πλήθος επισημασμένων δεδομένων και χαρακτηρίζεται από έντονη ανισορροπία κλάσεων. Η παρούσα διπλωματική εργασία, αξιοποιώντας δεδομένα συναλλαγών πιστωτικών καρτών, μελετά την απόδοση ανίχνευσης απατών των autoencoders και των GANs, εξετάζοντας διαφορετικά μοντέλα, αρχιτεκτονικές και βαθμούς επίβλεψης. Στην εργασία αυτή υλοποιείται ένα one-class, semi-supervised πλαίσιο μάθησης, στο οποίο τα μοντέλα εκπαιδεύονται αποκλειστικά σε μη απατηλές συναλλαγές. Τα μοντέλα αυτά χρησιμοποιούνται για την αναγνώριση απατηλών συναλλαγών μέσω διαφορετικών στρατηγικών anomaly scoring και thresholding, ενώ παράλληλα διερευνώνται εναλλακτικά σχήματα βελτιστοποίησης. Η απόδοση των μοντέλων εξετάζεται με τη χρήση του F1-score και της confusion matrix, μετρικές που χρησιμοποιούνται ευρέως σε συνθήκες έντονης ανισορροπίας κλάσεων. Η εμπειρική ανάλυση δείχνει ότι τα autoencoder μοντέλα παρουσιάζουν ανώτερη απόδοση ταξινόμησης σε σχέση με τα GANs. Επιπλέον, καταδεικνύεται ότι η βελτιστοποίηση μέσω Tree-Structured Parzen Estimator (TPE) μπορεί να οδηγήσει σε καλύτερα αποτελέσματα όταν συνδυάζεται με τη χρήση ετικετών απάτης κατά το στάδιο της βελτιστοποίησης, σε σύγκριση με semi-supervised TPE βελτιστοποίηση και χειροκίνητη αναζήτηση (manual search), υπογραμμίζοντας τη σημασία της επιλογής υπερπαραμέτρων. Συνολικά, τα αποτελέσματα αναδεικνύουν την πρακτική σημασία των deep learning μοντέλων, των one-class προσεγγίσεων μάθησης και της επιλογής μεθόδων βελτιστοποίησης για την ανίχνευση απάτης σε χρηματοοικονομικά δεδομένα με έντονη ανισορροπία κλάσεων.