PYXIDA Institutional Repository
and Digital Library
 Home
Collections :

Title :Prioritization and resource allocation in the Kafka Pub/Sub system
Alternative Title :Προτεραιότητα και κατανομή πόρων στο Pub/Sub σύστημα Kafka
Creator :Πέρη, Αριστοτέλης
Peri, Aristotelis
Contributor :Καλογεράκη, Βάνα (Επιβλέπων καθηγητής)
Μαρκάκης, Ευάγγελος (Εξεταστής)
Βούλγαρης, Σπυρίδων (Εξεταστής)
Athens University of Economics and Business, Department of Informatics (Degree granting institution)
Type :Text
Extent :50p.
Language :en
Identifier :http://www.pyxida.aueb.gr/index.php?op=view_object&object_id=8194
Abstract :Το Apache Kafka, είναι ένα από τα πιο δημοφιλή συστήματα ανταλλαγής μηνυμάτων για Big Data. Λόγω της ικανότητάς του να επεξεργάζεται μεγάλο αριθμό μηνυμάτων με υψηλό ρυθμό, έχει χρησιμοποιηθεί ευρέως στη βιομηχανία ως συνδετικό στοιχείο μεταξύ παραγωγών μεγάλου όγκου μηνυμάτων προς τελικές υπηρεσίες. Παρά την ευρεία υιοθέτησή του, ένα από τα πιο σημαντικά θέματα που δεν υποστηρίζει το Apache Kafka, είναι η επεξεργασία μηνυμάτων, ανάλογα με την προτεραιότητα που έχουν. Σε αυτό το άρθρο, προτείνουμε το KFP (Kafka's Fair Prioritization), μια νέα τεχνική που με έναν προσαρμόσιμο τρόπο υλοποιεί αποτελεσματικά την ιεράρχηση των μηνυμάτων. Επιπλέον, το KFP προσφέρει μια δίκαιη κατανομή πόρων για επικοινωνιά με τις τελικές υπηρεσίες, το οποίο καθιστά δυνατή την αποτελεσματική επεξεργασία στην περίπτωση εκρήξης μηνυμάτων υψηλής προτεραιότητας. Μέσω πειραματικών αξιολογήσεων δείξαμε την λειτουργία και τα οφέλη της προτεινόμενης μεθόδου.
Apache Kafka, is one of the most popular Big Data messaging systems. Because of its ability to process a high amount of messages at a high pace, it has been widely used in the industry as the connecting piece between high rate producers with end-services. Despite its wide adoption, one of the most important subjects that Apache Kafka does not support is message prioritization. In this paper, we propose KFP (Kafka's Fair Prioritization), a novel framework that makes possible message prioritization by providing an adaptable prioritization scheduling discipline. Moreover, KFP by providing a fair resource allocation for communication with the end services, it makes possible to efficiently process bursts of high priority messages when they occur. We conducted extensive experimental evaluations to illustrate the work and benefits of the proposed method.
Subject :Pub/Sub συστήματα
Προτεραιότητα
Κατανομή πόρων
Publish/Subscribe Systems
Prioritization
Resource allocation
Kafka
Date Available :2020-12-17 15:22:04
Date Issued :17-12-2020
Date Submitted :2020-12-17 15:22:04
Access Rights :Free access
Licence :

File: Peri_2020.pdf

Type: application/pdf