Published January 1, 2022
| Version v1
Publication
Open
The Double Edge Sword Based Distributed Executor Service
- 1. Hazara University
- 2. Hamdard University
- 3. University of Bisha
Description
Scalability is one of the most important quality attribute of softwareintensive systems, because it maintains an effective performance parallel to the large fluctuating and sometimes unpredictable workload.In order to achieve scalability, thread pool system (TPS) (which is also known as executor service) has been used extensively as a middleware service in software-intensive systems.TPS optimization is a challenging problem that determines the optimal size of thread pool dynamically on runtime.In case of distributed-TPS (DTPS), another issue is the load balancing b/w available set of TPSs running at backend servers.Existing DTPSs are overloaded either due to an inappropriate TPS optimization strategy at backend servers or improper load balancing scheme that cannot quickly recover an overload.Consequently, the performance of software-intensive system is suffered.Thus, in this paper, we propose a new DTPS that follows the collaborative round robin load balancing that has the effect of a double-edge sword.On the one hand, it effectively performs the load balancing (in case of overload situation) among available TPSs by a fast overload recovery procedure that decelerates the load on the overloaded TPSs up to their capacities and shifts the remaining load towards other gracefully running TPSs.And on the other hand, its robust load deceleration technique which is applied to an overloaded TPS sets an appropriate upper bound of thread pool size, because the pool size in each TPS is kept equal to the request rate on it, hence dynamically optimizes TPS.We evaluated the results of the proposed system against state of the art DTPSs by a clientserver based simulator and found that our system outperformed by sustaining smaller response times.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
تعد قابلية التوسع واحدة من أهم سمات الجودة للأنظمة كثيفة البرامج، لأنها تحافظ على أداء فعال موازٍ لعبء العمل الكبير المتقلب وغير المتوقع في بعض الأحيان. من أجل تحقيق قابلية التوسع، تم استخدام نظام تجميع الخيوط (TPS) (والذي يُعرف أيضًا باسم خدمة المنفذ) على نطاق واسع كخدمة وسيطة في الأنظمة كثيفة البرامج. يعد تحسين TPS مشكلة صعبة تحدد الحجم الأمثل لتجمع الخيوط ديناميكيًا في وقت التشغيل. في حالة TPS الموزعة (DTPS)، هناك مشكلة أخرى هي موازنة الحمل ب/مع مجموعة متاحة من مستودعات TPS التي تعمل على خوادم الواجهة الخلفية. يتم تحميل مستودعات DTPS الموجودة بشكل زائد إما بسبب استراتيجية تحسين مستودعات TPS غير المناسبة في خوادم الواجهة الخلفية أو مخطط موازنة الحمل غير المناسب الذي لا يمكنه استرداد الحمل الزائد بسرعة. وبالتالي، يتم التأثير على أداء النظام المكثف للبرمجيات. وبالتالي، في هذه الورقة، نقترح مستودعات DTPS جديدة تتبع موازنة حمل روبن المستديرة التعاونية التي لها تأثير سيف ذو حدين. من ناحية، فإنه يؤدي بشكل فعال موازنة الحمل (في حالة الحمل الزائد) بين مستودعات TPS المتاحة من خلال إجراء استرداد الحمل الزائد السريع الذي يبطئ الحمل على مستشعر موضع الخيط الزائد يصل إلى قدراتها ويحول الحمل المتبقي نحو مستشعر موضع الخيط الآخر الذي يعمل بأمان. ومن ناحية أخرى، فإن تقنية تباطؤ الحمل القوية التي يتم تطبيقها على مستشعر موضع الخيط الزائد تحدد حدًا علويًا مناسبًا لحجم تجمع الخيط، لأن حجم التجمع في كل مستشعر موضع الخيط يبقى مساويًا لمعدل الطلب عليه، وبالتالي يحسن ديناميكيًا مستشعر موضع الخيط. قمنا بتقييم نتائج النظام المقترح مقابل أحدث مستشعر موضع الخيط عن طريق محاكاة تستند إلى خادم العميل ووجدنا أن نظامنا قد تفوق على أداءه من خلال الحفاظ على أوقات استجابة أصغر.Translated Description (French)
L'évolutivité est l'un des attributs de qualité les plus importants des systèmes à forte intensité logicielle, car il maintient une performance efficace parallèlement à la grande charge de travail fluctuante et parfois imprévisible. Afin d'atteindre l'évolutivité, le système de pool de threads (TPS) (également connu sous le nom de service d'exécuteur) a été largement utilisé comme service d'intergiciel dans les systèmes à forte intensité logicielle. L'optimisation TPS est un problème difficile qui détermine la taille optimale du pool de threads dynamiquement à l'exécution. Dans le cas du TPS distribué (DTPS), un autre problème est l'équilibrage de charge b/w ensemble disponible de TPS s'exécutant sur les serveurs backend.Les DTPS existants sont surchargés en raison d'une stratégie d'optimisation TPS inappropriée sur les serveurs backend ou d'un schéma d'équilibrage de charge inapproprié qui ne peut pas récupérer rapidement une surcharge.Par conséquent, les performances du système à forte intensité logicielle sont affectées.Par conséquent, dans cet article, nous proposons un nouveau DTPS qui suit l'équilibrage de charge collaboratif à la ronde qui a l'effet d'une épée à double tranchant.D' une part, il effectue efficacement l'équilibrage de charge (en cas de situation de surcharge) entre les TPS disponibles par une procédure de récupération de surcharge rapide qui décélère le charge sur les TPS surchargés jusqu'à leurs capacités et déplace la charge restante vers d'autres TPS fonctionnant gracieusement. Et d'autre part, sa technique de décélération de charge robuste qui est appliquée à un TPS surchargé définit une limite supérieure appropriée de la taille du pool de threads, car la taille du pool dans chaque TPS est maintenue égale au taux de demande sur celui-ci, optimisant ainsi dynamiquement TPS. Nous avons évalué les résultats du système proposé par rapport aux DTPS de pointe par un simulateur basé sur client-serveur et avons constaté que notre système surperformait en supportant des temps de réponse plus petits.Translated Description (Spanish)
La escalabilidad es uno de los atributos de calidad más importantes de los sistemas intensivos en software, ya que mantiene un rendimiento efectivo paralelo a la gran carga de trabajo fluctuante y, a veces, impredecible. Para lograr la escalabilidad, el sistema de grupo de subprocesos (TPS) (que también se conoce como servicio de ejecutor) se ha utilizado ampliamente como un servicio de middleware en sistemas intensivos en software. La optimización de TPS es un problema desafiante que determina el tamaño óptimo del grupo de subprocesos dinámicamente en tiempo de ejecución. En el caso de TPS distribuido (DTPS), otro problema es el equilibrio de carga b/w conjunto disponible de TPS que se ejecutan en servidores backend. Los DTPS existentes están sobrecargados debido a una estrategia de optimización de TPS inapropiada en los servidores backend o un esquema de equilibrio de carga inadecuado que no puede recuperar rápidamente una sobrecarga. En consecuencia, el rendimiento del sistema intensivo de software se ve afectado. Por lo tanto, en este documento, proponemos un nuevo DTPS que sigue el equilibrio de carga de round robin colaborativo que tiene el efecto de una espada de doble filo. Por un lado, realiza de manera efectiva el equilibrio de carga (en caso de situación de sobrecarga) entre los TPS disponibles mediante un procedimiento rápido de recuperación de sobrecarga que desacelera el carga en los TPS sobrecargados hasta sus capacidades y desplaza la carga restante hacia otros TPS que se ejecutan con gracia. Y por otro lado, su robusta técnica de desaceleración de carga que se aplica a un TPS sobrecargado establece un límite superior apropiado del tamaño del grupo de hilos, porque el tamaño del grupo en cada TPS se mantiene igual a la tasa de solicitud en él, por lo tanto, optimiza dinámicamente el TPS. Evaluamos los resultados del sistema propuesto contra los DTPS de última generación mediante un simulador basado en el servidor del cliente y descubrimos que nuestro sistema superó al mantener tiempos de respuesta más pequeños.Files
TSP_CSSE_22319.pdf.pdf
Files
(1.9 MB)
| Name | Size | Download all |
|---|---|---|
|
md5:86d5eae5d69b4b9dcc355ae63405f40a
|
1.9 MB | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- خدمة المنفذ الموزعة القائمة على السيف ذو الحافة المزدوجة
- Translated title (French)
- Le service d'exécuteur délégué basé sur une épée à double tranchant
- Translated title (Spanish)
- El servicio de albacea distribuido basado en espadas de doble filo
Identifiers
- Other
- https://openalex.org/W4205250990
- DOI
- 10.32604/csse.2022.022319
References
- https://openalex.org/W2009779680
- https://openalex.org/W2021824530
- https://openalex.org/W2028244216
- https://openalex.org/W2770885910
- https://openalex.org/W2902593100
- https://openalex.org/W2979448231
- https://openalex.org/W2998472680
- https://openalex.org/W3004059961
- https://openalex.org/W3102175148
- https://openalex.org/W4248016970
- https://openalex.org/W7103816