Scalability and Cost Optimization in Load-Balanced Microservice Scheduling System - Rabiu, Shamsuddeen; Huah Yong, Chan; Syed Mohamad, Sharifah Mashita (IIUM Engineering Journal, 2025)
Microservice, a widely adopted architectural paradigm to overcome monolithic limitations, faces difficulties in efficient load balancing, scalability, and cost-effective deployment. To address these issues, we introduce a Container Microservice Load Balanced (CMLB) framework, which integrates the novel OEPTA algorithm. This framework aims to optimize microservice-based applications deployed on Docker within cloud environments. Common microservices scheduling strategies often grapple with load distribution challenges, resulting in suboptimal resource utilization. Concurrently, traditional containerization methods face difficulties reconciling trade-offs between scalability, deployment cost, and execution time. Our primary goal is to present a comprehensive solution that enhances the scalability, cost efficiency, and execution time of microservices deployment. This paper introduces a novel deployment framework for microservices, leveraging Docker for decentralized resource allocation across Microservice Controllers (MSCs). Additionally, a specialized algorithm is introduced to evaluate the cost, execution time, and availability aspects of microservice applications, enabling optimized resource allocation in a distributed manner. The evaluation results demonstrate that the CMLB framework, driven by the OEPTA algorithm, surpasses existing algorithms in achieving optimal scalability, cost efficiency, and execution times. This research provides a robust solution to enhance microservices deployment in cloud environments, effectively addressing key challenges in the field. ABSTRAK: Mikroservis, sebuah paradigma seni bina yang diadaptasi secara meluas untuk mengatasi keterbatasan monolitik, menghadapi kesulitan dalam penyeimbangan beban yang cekap, skalabiliti, dan penyebaran kos efektif. Untuk mengatasi masalah ini, kami memperkenalkan rangka kerja Container Microservice Load Balanced (CMLB), yang mengintegrasikan algoritma OEPTA yang baru. Rangka kerja ini bertujuan untuk mengoptimumkan aplikasi berasaskan perkhidmatan mikroservis yang digunakan pada Docker dalam persekitaran awan. Strategi penjadualan mikroservis umumnya bergelut dengan cabaran pengagihan beban, yang menghasilkan penggunaan sumber daya yang kurang optimal. Pada masa yang sama, kaedah pengkontenaan tradisional menghadapi kesulitan dalam menyeimbangkan pertukaran antara skalabiliti, kos penggunaan, dan masa pelaksanaan. Matlamat utama kami adalah untuk membentangkan penyelesaian komprehensif yang meningkatkan skalabiliti, kos kecekapan, dan masa pelaksanaan dalam penggunaan mikroservis. Dalam makalah ini, kami memperkenalkan rangka kerja penggunaan yang baru untuk perkhidmatan mikroservis, dengan memanfaatkan Docker untuk peruntukan sumber terdesentralisasi merentas Pengawalan Perkhidmatan Mikroservis (MSCs). Selain itu, algoritma khusus diperkenalkan untuk menilai kos, masa pelaksanaan, dan ketersediaan aplikasi mikroservis, membolehkan peruntukan sumber dioptimumkan dalam cara yang diedarkan. Keputusan penilaian menunjukkan bahawa rangka kerja CMLB, didorong oleh algoritma OEPTA, mengatasi algoritma sedia ada dalam mencapai skalibiliti optimum, kecekapan kos, dan masa pelaksanaan. Penyelidikan ini memberikan penyelesaian yang teguh untuk meningkatkan penggunaan mikroservis dalam persekitaran awan, menangani cabaran utama dalam lapangan dengan berkesan.